OmniRoute - гем для твоей AI экосистемы
Представим ситуацию:
У вас есть несколько аккаунтов от разных AI провайдеров, есть множество разных API ключей, а так же добавляются новые!
Работая с AI в OpenCode, Codex, Cursor и т.п, вечно надо переключаться между провайдерами и моделями.
Если один акк сожрал лимиты, приходится менять на второй.
Если аккаунт забанило, приходится опять переключаться.
Подключая другой инструмент, приходится по новой заходить в аккаунты
OmniRoute решает эту и еще множество других проблем!
Основные функции, которые дает OmniRoute:
- Возможность подключать 100+ разных провайдеров, через любые способы авторизации
- Создать свои combo и подключать их к своей экосистеме за пару кликов
- Следить за лимитами, затратами, историей
- Экономить токены, благодаря встроенному Caveman!
- Подключать к одному и тому же провайдеру любое кол-во аккаунтов
- Работать с любыми инструментами, Cursor, Hermes, OpenCode, Codex, Claude и т.д
У меня были аккаунты GPT Business
Лимиты для одного акка небольшие и быстро уходят.
Подключив к OmniRoute 5 аккаунтов, я использовал все 5 аккаунтов для работы, без необходимости их переключать в ручную и следить за лимитами!
Эти GPT Business акки недавно отлетели и вместо того, чтобы на каждом устройстве и в каждом инструменте переключаться на другого провайдера, менять модели и т.д
Я подключил новый провайдер к OmniRoute, поменял в combo модели и ничего не пришлось менять в инструментах где я работаю!
Меняю только в одном месте, выбираю разные модели и работает это абсолютно везде!
Работает система так:
Делается запрос к OmniRoute -> OmniRoute отправляет к нужному провайдеру -> Возвращает ответ
Выступая в роли некой прослойки, при этом скорость/качество ответов не портится!
Окей, технология имба, как работать то?
1. Крайне советую поставить её на свой VPS сервер, будет доступ абсолютно с любой машины и любым инструментом
Гайд на Linux
2. Поставить и запустить OmniRoute через Docker. Гайд с оф доки
Делается все парой команд, здесь важное уточнение, что вам не надо приобретать домен, в NEXT PUBLIC BASE URL впихивайте ip сервака с портом
3. Заходим в браузер и подключаемся к http://ip:20128
Вводим пароль, который задали
Вот мы и в рабочей среде!
Пробегусь по интерфейсу:
• Endpoints - тут ваш API Endpoint.
• API Manager - тут создаете свои API ключи.
• Providers - главная магия, тут подключаете аккаунты/API ключи от разных провайдеров.
Выбираете, что используете и по инструкции подключайте, всё там в пару кликов.
• Combos - супер крутая фича. Можно создать свои combo. Например для кода, аи агента, генерации картинок или видео.
Пишем название, выбираем модели для комбо, выбираем стратегию работы (их много, под любые задачи, можете в доках подробнее почитать)
• Следующие пункты понятны, чисто для анализа или более специфического использования
По подключению к OpenCode, Cursor, ClaudeCode, Hermes, OpenClaw и т.п:
1. Выбираете Сustom Provider
2. URL - API Endpoint с вкладки Endpoints
3. API Key - ключик с API Manager вкладки
4. Model - название вашего combo или модели, которая подключена к OmniRoute.
У меня к примеру для кодинга комбо названо "code", я указываю это название модели и запросы идут через это комбо, где могут быть разные провайдеры, модели и логика работы.
Если я захочу поменять модель или провайдера, то мне достаточно отредактировать combo и не трогать ничего другого!
Если вы используете или планируете использовать разные инструменты, то эта технология сэкономит вам кучу сил, времени, нервов и денег❤️
Еще один важный плюс, если вы хотите работать с AI, но не хотите тратить деньги, то на гите есть целый гайд, как можно использовать множество современных моделей бесплатно!
Вся дока на гите, с командами, гайдами и т.п
OmniRoute github
Бульдозер | Чат | Закреп | Стена
Представим ситуацию:
У вас есть несколько аккаунтов от разных AI провайдеров, есть множество разных API ключей, а так же добавляются новые!
Работая с AI в OpenCode, Codex, Cursor и т.п, вечно надо переключаться между провайдерами и моделями.
Если один акк сожрал лимиты, приходится менять на второй.
Если аккаунт забанило, приходится опять переключаться.
Подключая другой инструмент, приходится по новой заходить в аккаунты
OmniRoute решает эту и еще множество других проблем!
Основные функции, которые дает OmniRoute:
- Возможность подключать 100+ разных провайдеров, через любые способы авторизации
- Создать свои combo и подключать их к своей экосистеме за пару кликов
- Следить за лимитами, затратами, историей
- Экономить токены, благодаря встроенному Caveman!
- Подключать к одному и тому же провайдеру любое кол-во аккаунтов
- Работать с любыми инструментами, Cursor, Hermes, OpenCode, Codex, Claude и т.д
У меня были аккаунты GPT Business
Лимиты для одного акка небольшие и быстро уходят.
Подключив к OmniRoute 5 аккаунтов, я использовал все 5 аккаунтов для работы, без необходимости их переключать в ручную и следить за лимитами!
Эти GPT Business акки недавно отлетели и вместо того, чтобы на каждом устройстве и в каждом инструменте переключаться на другого провайдера, менять модели и т.д
Я подключил новый провайдер к OmniRoute, поменял в combo модели и ничего не пришлось менять в инструментах где я работаю!
Меняю только в одном месте, выбираю разные модели и работает это абсолютно везде!
Работает система так:
Делается запрос к OmniRoute -> OmniRoute отправляет к нужному провайдеру -> Возвращает ответ
Выступая в роли некой прослойки, при этом скорость/качество ответов не портится!
Окей, технология имба, как работать то?
1. Крайне советую поставить её на свой VPS сервер, будет доступ абсолютно с любой машины и любым инструментом
Гайд на Linux
2. Поставить и запустить OmniRoute через Docker. Гайд с оф доки
Делается все парой команд, здесь важное уточнение, что вам не надо приобретать домен, в NEXT PUBLIC BASE URL впихивайте ip сервака с портом
3. Заходим в браузер и подключаемся к http://ip:20128
Вводим пароль, который задали
Вот мы и в рабочей среде!
Пробегусь по интерфейсу:
• Endpoints - тут ваш API Endpoint.
• API Manager - тут создаете свои API ключи.
• Providers - главная магия, тут подключаете аккаунты/API ключи от разных провайдеров.
Выбираете, что используете и по инструкции подключайте, всё там в пару кликов.
• Combos - супер крутая фича. Можно создать свои combo. Например для кода, аи агента, генерации картинок или видео.
Пишем название, выбираем модели для комбо, выбираем стратегию работы (их много, под любые задачи, можете в доках подробнее почитать)
• Следующие пункты понятны, чисто для анализа или более специфического использования
По подключению к OpenCode, Cursor, ClaudeCode, Hermes, OpenClaw и т.п:
1. Выбираете Сustom Provider
2. URL - API Endpoint с вкладки Endpoints
3. API Key - ключик с API Manager вкладки
4. Model - название вашего combo или модели, которая подключена к OmniRoute.
У меня к примеру для кодинга комбо названо "code", я указываю это название модели и запросы идут через это комбо, где могут быть разные провайдеры, модели и логика работы.
Если я захочу поменять модель или провайдера, то мне достаточно отредактировать combo и не трогать ничего другого!
Если вы используете или планируете использовать разные инструменты, то эта технология сэкономит вам кучу сил, времени, нервов и денег❤️
Еще один важный плюс, если вы хотите работать с AI, но не хотите тратить деньги, то на гите есть целый гайд, как можно использовать множество современных моделей бесплатно!
Вся дока на гите, с командами, гайдами и т.п
OmniRoute github
Бульдозер | Чат | Закреп | Стена