Один пул на всех: собираем AI-подписки в кучу
Представь: ты тимлид, у каждого в команде своя платная AI-подписка, компания всё это компенсирует. И вот тут начинается цирк с квотами.
Василий-техписатель уткнулся в лимит за $20, а брать за $100 жалко — половина будет пылиться. Артём из QA перед релизом выжигает всё в ноль, а потом неделю расходует дай бог половину. Аня-сеньорша оставляет агентов пахать по ночам, купила вторую подписку за $200, а по факту тратит четверть 🙃
Казалось бы — возьми Business-тариф и не мучайся. Ага, конечно: российским юрлицам их не продают, а если и продали — в любой момент могут превратить в тыкву.
Решение напрашивается: кидаем все подписки в общий пул, ставим спереди балансировщик, раздаём ключи — и каждый берёт сколько надо. С каждого по способностям, каждому по потребностям! И да, велосипед уже изобрели: codex-lb собрал почти 3к звёзд. Для разраба это чёрный ящик — он просто дёргает ключ, а оркестратор сам разруливает, у кого квота осталась.
🔥 — гениально, тащу в команду
🤔 — а нюансов там вагон?
@ai_for_dev
Представь: ты тимлид, у каждого в команде своя платная AI-подписка, компания всё это компенсирует. И вот тут начинается цирк с квотами.
Василий-техписатель уткнулся в лимит за $20, а брать за $100 жалко — половина будет пылиться. Артём из QA перед релизом выжигает всё в ноль, а потом неделю расходует дай бог половину. Аня-сеньорша оставляет агентов пахать по ночам, купила вторую подписку за $200, а по факту тратит четверть 🙃
Казалось бы — возьми Business-тариф и не мучайся. Ага, конечно: российским юрлицам их не продают, а если и продали — в любой момент могут превратить в тыкву.
Решение напрашивается: кидаем все подписки в общий пул, ставим спереди балансировщик, раздаём ключи — и каждый берёт сколько надо. С каждого по способностям, каждому по потребностям! И да, велосипед уже изобрели: codex-lb собрал почти 3к звёзд. Для разраба это чёрный ящик — он просто дёргает ключ, а оркестратор сам разруливает, у кого квота осталась.
🔥 — гениально, тащу в команду
🤔 — а нюансов там вагон?
@ai_for_dev