Зачем платить, если можно не платить
Бизнес отказывается от дорогих моделей ИИ
Похоже, бизнес начал догадываться, что не обязан оплачивать каждый чих сотрудников по тарифам OpenAI и Anthropic. Например, AT&T решил не увеличивать расходы на их модели в ближайшие годы, хотя использование ИИ внутри компании продолжает расти. Сейчас вместе с Аароном Холмсом из The Information разберёмся, как один из крупнейших операторов США учится экономить на ИИ и почему за ним могут последовать другие.
В 2023 году внутренний сервис компании Ask AT&T работал на OpenAI через Microsoft. Теперь около 40% запросов сотрудников перенеправляются на более дешёвые модели с открытыми весами, и со временем AT&T хочет довести их долю до 60–70%. Собственно, вот такой незамысловатый рецепт экономии. Дорогие же Claude, Codex и другие передовые модели остаются для сложных задач. При этом процесс автоматизирован и отдельный роутер сам выбирает подходящую модель. На части задач расходы, по заявлениям компании, уже удалось сократить больше чем наполовину почти без потери качества.
Для OpenAI и Anthropic это довольно неприятное открытие. Что потребление ИИ компаниями может расти хоть в пять раз, но совсем не обязательно вместе с ним будут расти их собственные доходы. Новые открытые модели появляются постоянно и догоняют вчерашних лидеров, которые становятся скорее последней опцией – в том случае, если все остальные не справились.
В России пока всё парадоксальным образом наоборот. Корпоративный ИИ здесь есть у довольно многих крупных компаний, но сотрудники им не пользуются. Если верить опросу корпоративного мессенджера «Пачка», для работы сотрудники используют личные аккаунты зарубежных сервисов. Собственно, свечку не держали, но по сообщениям работников ИТ-индустрии картина складывается такая же, а Claude всегда открыт и ждёт.
Бизнес отказывается от дорогих моделей ИИ
Похоже, бизнес начал догадываться, что не обязан оплачивать каждый чих сотрудников по тарифам OpenAI и Anthropic. Например, AT&T решил не увеличивать расходы на их модели в ближайшие годы, хотя использование ИИ внутри компании продолжает расти. Сейчас вместе с Аароном Холмсом из The Information разберёмся, как один из крупнейших операторов США учится экономить на ИИ и почему за ним могут последовать другие.
В 2023 году внутренний сервис компании Ask AT&T работал на OpenAI через Microsoft. Теперь около 40% запросов сотрудников перенеправляются на более дешёвые модели с открытыми весами, и со временем AT&T хочет довести их долю до 60–70%. Собственно, вот такой незамысловатый рецепт экономии. Дорогие же Claude, Codex и другие передовые модели остаются для сложных задач. При этом процесс автоматизирован и отдельный роутер сам выбирает подходящую модель. На части задач расходы, по заявлениям компании, уже удалось сократить больше чем наполовину почти без потери качества.
Для OpenAI и Anthropic это довольно неприятное открытие. Что потребление ИИ компаниями может расти хоть в пять раз, но совсем не обязательно вместе с ним будут расти их собственные доходы. Новые открытые модели появляются постоянно и догоняют вчерашних лидеров, которые становятся скорее последней опцией – в том случае, если все остальные не справились.
В России пока всё парадоксальным образом наоборот. Корпоративный ИИ здесь есть у довольно многих крупных компаний, но сотрудники им не пользуются. Если верить опросу корпоративного мессенджера «Пачка», для работы сотрудники используют личные аккаунты зарубежных сервисов. Собственно, свечку не держали, но по сообщениям работников ИТ-индустрии картина складывается такая же, а Claude всегда открыт и ждёт.