LiteLLM – open-source шлюз от BerriAI, который превращает сотню разных ИИ-сервисов в один стандартный API: пишешь один раз под OpenAI, а переключиться на Claude, Gemini или локальную модель – просто поменять строчку

Пригодится, если хочешь не зависеть от одного провайдера, отслеживать, сколько тратишь на токены, или запустить несколько моделей за одним прокси с балансировкой нагрузки

— Умеет автоматический фоллбэк на резервную модель при сбое, контроль бюджета и лимитов по командам, логирование всех запросов и поддержку MCP-серверов прямо из коробки

Языки: Python (82%), TypeScript (12.6%), Rust (3.7%), ...

⭐️ Star 60.1k

https://github.com/BerriAI/litellm

⚡️ @becaps // max.ru/becaps