Малые языковые модели: будущее агентного ИИ
Недавно на arXiv вышла статья «Small Language Models are the Future of Agentic AI» (Belcak et al., 2025), которая может серьёзно повлиять на то, как мы смотрим на развитие агентных систем.
🚀 Основная идея
Авторы утверждают, что малые языковые модели (SLMs) способны заменить или дополнить большие модели (LLMs) в большинстве задач агентного ИИ:
🔑 Три аргумента в пользу SLM
1. Достаточная мощность
2. Операционная гибкость
Малые модели проще адаптировать под узкие задачи, комбинировать между собой и запускать прямо на устройствах.
3. Экономическая эффективность
🧩 Где особенно полезны SLM?
• NER (распознавание сущностей)
• Классификация текстов
• Intent detection (определение намерений)
• Узкие агентные задачи с предсказуемым форматом (JSON, API-запросы)
Переход от LLM к SLM
Авторы предлагают 6-шаговый план постепенной миграции:
1. Сбор логов и запросов
2. Очистка и анонимизация данных
3. Кластеризация задач
4. Подбор SLM-кандидатов
5. Дообучение на специфичных данных
6. Постоянное обновление и маршрутизация запросов
Таким образом, система может начинать с LLM, но со временем всё чаще использовать локальные SLM.
⚖️ Контраргументы
• LLM остаются более универсальными и лучше в «понимании языка» в целом.
• У индустрии уже огромные инвестиции в инфраструктуру LLM.
• SLM пока недооценены в медиа и бизнесе.
Тем не менее, авторы настаивают, что будущее именно за «SLM-first подходом»:
Вывод
Малые модели могут стать новым стандартом для прикладного ИИ: быстрые, дешёвые, специализированные. LLM же будут использоваться как «резерв» для сложных и широких задач.
Это значит, что в ближайшие годы мы увидим всё больше гибридных систем, где SLM работают на фронте, а LLM подключаются лишь для самых «тяжёлых» случаев.
🚀 ©ТехноТренды
Недавно на arXiv вышла статья «Small Language Models are the Future of Agentic AI» (Belcak et al., 2025), которая может серьёзно повлиять на то, как мы смотрим на развитие агентных систем.
🚀 Основная идея
Авторы утверждают, что малые языковые модели (SLMs) способны заменить или дополнить большие модели (LLMs) в большинстве задач агентного ИИ:
«Мы определяем SLM как модель, которая подходит для вывода на одном пользовательском устройстве с низкой задержкой. Всё, что не подходит под это определение, мы называем LLM».
🔑 Три аргумента в пользу SLM
1. Достаточная мощность
«Современные SLM уже демонстрируют конкурентные результаты в рассуждении, генерации кода, следовании инструкциям и использовании инструментов».
2. Операционная гибкость
Малые модели проще адаптировать под узкие задачи, комбинировать между собой и запускать прямо на устройствах.
3. Экономическая эффективность
«Запуск SLM обходится значительно дешевле, чем использование LLM, как в вычислениях, так и в дообучении».
🧩 Где особенно полезны SLM?
• NER (распознавание сущностей)
• Классификация текстов
• Intent detection (определение намерений)
• Узкие агентные задачи с предсказуемым форматом (JSON, API-запросы)
«Агентные системы часто используют лишь небольшой поднабор возможностей модели, и этот поднабор можно реализовать на SLM».
Переход от LLM к SLM
Авторы предлагают 6-шаговый план постепенной миграции:
1. Сбор логов и запросов
2. Очистка и анонимизация данных
3. Кластеризация задач
4. Подбор SLM-кандидатов
5. Дообучение на специфичных данных
6. Постоянное обновление и маршрутизация запросов
Таким образом, система может начинать с LLM, но со временем всё чаще использовать локальные SLM.
⚖️ Контраргументы
• LLM остаются более универсальными и лучше в «понимании языка» в целом.
• У индустрии уже огромные инвестиции в инфраструктуру LLM.
• SLM пока недооценены в медиа и бизнесе.
Тем не менее, авторы настаивают, что будущее именно за «SLM-first подходом»:
«Глобальные модели не всегда оптимальны. В большинстве агентных сценариев меньшее и специализированное может оказаться лучшим».
Вывод
Малые модели могут стать новым стандартом для прикладного ИИ: быстрые, дешёвые, специализированные. LLM же будут использоваться как «резерв» для сложных и широких задач.
Это значит, что в ближайшие годы мы увидим всё больше гибридных систем, где SLM работают на фронте, а LLM подключаются лишь для самых «тяжёлых» случаев.
🚀 ©ТехноТренды