Репост из: AI Для Задротов
ЦЕНЫ ВЫРОСЛИ В 12 РАЗ!
Все айти чаты сейчас бурлят гавном по поводу того, что DeepSeek повысила цены на тарифы практически в десять раз(от 6 до 12, если быть точнее), за счёт повышения базовой стоимости, внедрения пиковых часов(лол, AI блэкаут) и прочих финтов. Неприятно, но вполне закономерно, а главное это никак не влияет на меня и мою работу.
В тысяча первый раз повторяю: вы должны строить свой РАБОЧИЙ ПРОЦЕСС НЕЗАВИСИМО ОТ КОНКРЕТНОГО ПРОВАЙДЕРА И КОНКРЕТНОЙ МОДЕЛИ. Любая завязка на одного поставщика - вендорлок, зависимость и потенциальная уязвимость вашего бизнеса(или бизнеса вашего хозяина). По факту завязывать всю работу на какую-то конкретную модель конкретного провайдера, это гарантировано подставить свой хуй под выстрел из дробовика в будущем.
Да, возможно, для вас эта новость прошла незаметно, дипсиком поьзуются меньше, чем двумя другими провайдерами. Но помяните мое слово, когда такую же шляпу исполнит Anthropic или OpenAI(не суть под каким предлогом) - пиздеца увидите гораздо больше.
Поэтому мы обязательно строим нормальные процессы:
- Внедряем абстрактный слой поверх API, чтобы смена провайдера делалась правкой одной переменной окружения, а не переписыванием половины кода.
- Используем роутинг запросов: дешёвые быстрые модели для простых задач, дорогие и умные - только когда действительно надо.
- Настраиваем автоматический fallback - если одна модель легла или начала дико тормозить, запрос уходит на другую без ручного вмешательства.
- Детерминируем максимум шагов: промпты, схемы ответов, скрипты валидации, парсинг - всё должно быть зафиксировано и версионировано, чтобы при переезде на другую модель вы получали тот же результат, а не сюрпризы.
- Регулярно прогоняем бенчмарки на своих задачах, а не верим воздуханам из твиттера.
- Держим в запасе минимум двух-трёх провайдеров и локальные модели для критичных сценариев, где внешнее API недоступно.
Мир постоянно меняется и не всегда в лучшую сторону - политические санкции, экстренные поднятия ценя, аварии в сервреных - вы должны быть готовы ко всему этому, и решать такие проблемы одним переключением тумблера, а в идеале вообще иметь интеллекутальную систему фоллбека. Давайте не забывать, что мы инженеры, а не вайбкодинг monkey всё таки.
AI For Geeks. Подписаться
Все айти чаты сейчас бурлят гавном по поводу того, что DeepSeek повысила цены на тарифы практически в десять раз(от 6 до 12, если быть точнее), за счёт повышения базовой стоимости, внедрения пиковых часов(лол, AI блэкаут) и прочих финтов. Неприятно, но вполне закономерно, а главное это никак не влияет на меня и мою работу.
В тысяча первый раз повторяю: вы должны строить свой РАБОЧИЙ ПРОЦЕСС НЕЗАВИСИМО ОТ КОНКРЕТНОГО ПРОВАЙДЕРА И КОНКРЕТНОЙ МОДЕЛИ. Любая завязка на одного поставщика - вендорлок, зависимость и потенциальная уязвимость вашего бизнеса(или бизнеса вашего хозяина). По факту завязывать всю работу на какую-то конкретную модель конкретного провайдера, это гарантировано подставить свой хуй под выстрел из дробовика в будущем.
Да, возможно, для вас эта новость прошла незаметно, дипсиком поьзуются меньше, чем двумя другими провайдерами. Но помяните мое слово, когда такую же шляпу исполнит Anthropic или OpenAI(не суть под каким предлогом) - пиздеца увидите гораздо больше.
Поэтому мы обязательно строим нормальные процессы:
- Внедряем абстрактный слой поверх API, чтобы смена провайдера делалась правкой одной переменной окружения, а не переписыванием половины кода.
- Используем роутинг запросов: дешёвые быстрые модели для простых задач, дорогие и умные - только когда действительно надо.
- Настраиваем автоматический fallback - если одна модель легла или начала дико тормозить, запрос уходит на другую без ручного вмешательства.
- Детерминируем максимум шагов: промпты, схемы ответов, скрипты валидации, парсинг - всё должно быть зафиксировано и версионировано, чтобы при переезде на другую модель вы получали тот же результат, а не сюрпризы.
- Регулярно прогоняем бенчмарки на своих задачах, а не верим воздуханам из твиттера.
- Держим в запасе минимум двух-трёх провайдеров и локальные модели для критичных сценариев, где внешнее API недоступно.
Мир постоянно меняется и не всегда в лучшую сторону - политические санкции, экстренные поднятия ценя, аварии в сервреных - вы должны быть готовы ко всему этому, и решать такие проблемы одним переключением тумблера, а в идеале вообще иметь интеллекутальную систему фоллбека. Давайте не забывать, что мы инженеры, а не вайбкодинг monkey всё таки.
AI For Geeks. Подписаться