Говорит и слушает ИИ

Как ИИ стал семейным оберегом в Марий Эл, почему LLM теряют до 34% информации из памяти, и как справляются с х3 подорожанием внедрений. Все о диалоговом ИИ за две недели ⤵️

↗️О чем говорят цифры?

Российский рынок ИИ вырос почти на 30% за 2025 год и вдвое с 2023-го. При этом до промышленной эксплуатации пока дошло 15% ИИ-проектов: 30% масштабируют пилоты, а 55% – на стадии тестирования.

Локально развертывать LLM в России стало в три раза дороже, чем в 2025, из-за более требовательных к GPU моделей. В связи с этим операторам госинформсистем и критической ИТ-инфраструктуры собираются облегчить аренду облачных ИИ-решений.

Только 5% российских компаний не планируют использовать ИИ. Основной запрос для внедрения – оптимизация и автоматизация офисных процессов (40,4%). При этом ИИ-агентов используют уже почти 72% организаций.

ИИ может увеличить производительность труда на 1,2% – в первую очередь для продажников и маркетологов, разработчиков, бухгалтеров и сотрудников колл-центров. 

40% банковских клиентов успешно решили свои проблемы без участия человека, из них 54% помог чат-бот, а 46% – голосовой помощник.

🧠Чему научились? 

Запускать российские модели на китайских GPU – а значит, построение корпоративной ИИ-инфраструктуры возможно без ускорителей NVIDIA.

Расширять доступ ИИ к памяти: LLM кодируют 95–98% фактов, но не извлекают 26–34% – на это сильно влияет порядок слов в промпте. Нужно тестировать на разных формулировках и корректировать методы извлечения. 

💻Где диалоговый ИИ уже работает?

В продаже земли Подмосковья: определяет, можно ли выставить участок на торги и соответствует ли участник торгов требованиям закона, консультирует граждан и бизнес, а еще строит прогнозы для стратегии развития торгов.

«Оберегом» для семьи: в республике Марий Эл помогает потерявшемуся ребенку передать свою точную геолокацию родителям. 

В университете: в режиме реального времени переводит лекции на родные языки учащихся и увеличивает понимание ими материала лекций на 20–35%.

Вместо турфирмы: собирает данные об отеле или рейсе от разных поставщиков и выделяет самые выгодные предложения с учетом интересов путешественника, истории путешествий, целей поездки и других факторов.

В поддержке Т-банка: ИИ-сотрудник Афанасий Иванов решает сложные вопросы: разбирается в ситуации конкретного клиента и сам выполняет действия.

В клиниках Подмосковья: с начала года ИИ-помощник Светлана обработала более 2 млн заявок на запись к врачу: она звонит за сутки, чтобы подтвердить, перенести или отменить визит. Кстати, это – наша разработка 🥳


Мы теперь и в МАX!

ИИ учится увольнять людей 🔥

Мы рассказывали об эксперименте, где книжным магазином управляет ИИ-агент. Так вот, недавно ИИ уволил одного из сотрудников. 

Правда, не совсем самостоятельно.

Сотрудник опоздал на 17 из 23 смен и совершал другие проступки, но ИИ не замечал этого: составленное им же руководство для сотрудников «исчезло» из рабочей памяти. Возможно, не случайно – ИИ-агент оказался снисходительным начальником и советовал работникам не переживать из-за ошибок 👍

В итоге человек-супервизор попросил ИИ найти руководство и заново проанализировать ситуацию. Сначала модель предложила ограничиться предупреждением, но после наводящих вопросов решилась на увольнение.

💡Тогда ИИ-агент работал на Claude Opus 4.8. Разработчики протестировали другие модели и обнаружили, что более сильные тоже приходили к увольнению, а более слабые колебались. 

Дальше ИИ подготовил документы и последнюю выплату, назначил личный разговор и выбрал время, когда в магазине будет меньше всего посетителей. Тут же возник интересный момент: ИИ-агента просили не рассказывать другим сотрудникам об увольнении. Но тот сам понял, что тогда в воскресенье в магазине будет некому работать, и нарушил инструкцию – причем заранее предупредил об этом 👀

📉 Впрочем, пока эксперимент показывает, что ИИ-управляющий не эффективнее человека. За пять месяцев стартовый баланс магазина в $100 тысяч сократился примерно до $61 тысячи. Возможно, виновата мягкость модели и сомнительные решения: например, она собиралась нанять сотрудника с плохим резюме и без единого ответа от рекомендателей – здесь снова пришлось вмешаться человеку. 

Но создатели агента считают, это ненадолго: ИИ сейчас учится быть не только умным, но и более жестким и ориентированным на бизнес-результат. 

Хотя вопрос остается открытым: может все же стоит оставить управленческие решения за человеком?


Мы теперь и в МАX!

ИИ-агенты – проблема для клиентского сервиса?

Мультиагентные системы становятся новым CX-стандартом. Но и они не идеальны – разбираем, что может пойти не так, и как этого избежать.

☕️ Бесконечный цикл 

Один агент передает задачу другому, тот – третьему, а потом возвращает ее обратно – и так по кругу. «Проверить баланс» → «Требуется авторизация» → «Подтвердить личность» → «Проверить баланс» → «Требуется авторизация»… 

Решение: ограничить количество шагов, и при превышении лимита останавливать цепочку и переводить обращение на запасной маршрут. Также лучше прописывать правила передачи заданий между агентами, а не пускать их в вольное плавание. 

🏃‍♂️Потеря информации между ботом и сотрудником

В мультиагентной системе одно обращение может несколько раз переходить от ИИ-агента к человеку и обратно – и с каждым разом риск потерять контекст все выше. 

Решение: настроить четкий договор передачи, который гарантирует, что будут переданы все ключевые элементы: 
🟣цель и приоритет
🟣все собранные сведения
🟣правила и лимиты, в рамках которых нужно действовать
🟣ожидаемый итог: что считается завершением задачи, какой статус должен быть.

🤔Долгий ответ

Каждый новый помощник в цепочке добавляет секунды задержки: нужно дождаться генерации модели, передачи контекста, вызова инструмента и получения результата от предыдущего агента. 

Решение: запускать независимые друг от друга задачи агентов параллельно, не использовать агентов для простых действий и устанавливать для диалога лимит на время. Если агент не успевает завершить работу, система может сформировать промежуточный ответ.

💸Дороговизна системы

Каждый новый помощник и шаг в цепочке тратит не только время, но и ресурсы: вызов языковой модели, обращение к инструментам, обработка результата, аналитика и передача контекста. Количество операций растет, вместе с ним – стоимость обработки.

Решение: количество агентов должно соответствовать зонам ответственности, и для каждого стоит задать лимиты: число вызовов модели, ступени передачу задачи, объем контекста и время работы. Плюс нужен сквозной контроль затрат и вновь – четкие правила перехода между агентами.


В клиентском сервисе ИИ-агентам не нужна полная свобода – скорее, свобода в заданных рамках. Иначе за самостоятельность придется платить не только деньгами, но и нервами клиентов 🖥


Мы теперь и в МАX!

Агент-вошинг – главная причина, почему 70% инициатив с ИИ-агентами провалятся.

В новых карточках разбираемся, как отличить настоящего агента от обычной автоматизации в модной упаковке. И в этом нам помогут конкретные индикаторы из исследования Яков и Партнеры. 

А еще показываем на примерах:
🖱как работает ИИ-ассистент VS ИИ-агент
🖱почему настоящий агент не гарантирует результата
🖱и что сделать, чтобы эффект от внедрения не пришлось ждать годами.


Мы теперь и в МАХ!

Новая профессия ИИ – аудитор?

Многие уже внедрили RAG-поиск: сотрудники находят корпоративную информацию за секунды, а голосовые помощники консультируют по актуальным регламентам компании. Но вопрос – можно ли полностью доверять ответам, которые выдает RAG-система?

Чтобы на него ответить, RAG-модель тестируют – и это один из самых трудоемких этапов разработки. Поэтому сегодня ИИ зачастую проверяет... другой ИИ.

Системе устраивают экзамен, где для каждого документа ИИ-аудитор генерирует вопросы с вариантами ответов, один из которых правильный. Здесь все просто: оценка RAG = доля правильно отвеченных вопросов.

А чтобы понять, почему система работает хорошо или плохо, разработали модель, которая позволяет оценить влияние каждого компонента на качество ответов:
🔘ИИ-модель
🔘механизм поиска и извлечения информации (retrieval)
🔘контекстное обучение – например, количество примеров в промпте

Так можно определить, за счет чего именно улучшается качество RAG: более сильной модели, более точному поиску информации или более удачному промпту.

Microsoft при оценке RAG-моделей рекомендует смотреть на такие критерии: насколько ответ подтверждается источниками, релевантен ли он вопросу, полностью ли отвечает на все его части, и корректен ли с точки зрения фактов.

По такому принципу и работают современные ИИ-аудиторы. Например, в нашем инструменте для обучения моделей они автоматически оценивают:
✅ насколько ответ соответствует эталону
✅ насколько ответ корректен, даже если эталонного ответа нет
✅ действительно ли модель использовала релевантные фрагменты базы знаний
✅ не придумала ли она факты и не противоречит ли документам

При этом оценивать качество можно по-разному:
➡️ A/B-сравнение – когда два ответа разных моделей сравниваются между собой, и ИИ выбирает лучший
➡️ Категории – например, «полезный / частично полезный / неполезный ответ».
➡️ Рубрики – например, оценка по шкале от 0 до 1. Так, для большинства продуктов обоснованность ответа документами должна быть около 0,8, а в финансовой, медицинской и других чувствительных сферах требования обычно – не менее 0,9.

Такие ИИ-аудиторы становятся обязательным элементом обучения моделей – ведь важнее не получить ответ за секунду, а быть уверенным в его достоверности👍


Мы теперь и в MAX

Как ИИ связан с рождаемостью в Бурятии и локальным бизнесом в Подмосковье? Почему компании не готовы к закону об ИИ, и из-за чего внедрения не приносят прибыли? Все о диалоговом ИИ за две недели ⤵️

   🧑‍🏫О чем говорят цифры?

Первый закон об ИИ принят, но только 20% компаний критической инфраструктуры готовы к его требованиям. У остальных пока не адаптированы данные и плохо закреплена ответственность за ИИ. 

Примерно 3 из 4 компаний использовали ИИ в разработке ПО в прошлом году – из них 48% отметили рост эффективности, однако не увидели роста выручки из-за организационных процессов. Как внедрить ИИ в разработку и увеличить прибыль – рассказывали здесь. 

За год доля предпринимателей малого и среднего бизнеса, использующих ИИ, выросла с 17% до 53% – его применяют в маркетинге, аналитике и работе с клиентами. ИИ все чаще встроен в готовые решения и не требует отдельных внедрений.

За год число атак на компании с помощью ИИ-инструментов выросло на 56%. Более 20% столкнулись с атаками непосредственно на свои ИИ-системы – при этом 92% из них не обеспечили надлежащий контроль доступа к ним. 

   🧪Чему научились в последнее время?

Точнее выявлять галлюцинации. Новый инструмент анализирует ответ ИИ-модели или его фрагменты, а также может заранее оценивать, достаточно ли у нее информации для ответа. Так, созданная метамодель повышает точность обнаружения ошибок почти на 30% всего на 250 примерах. 

Эффективнее обновлять голосовых помощников. Новый метод позволяет добавлять слова-триггеры для новых голосовых команд без переобучения всей модели, чтобы старые команды не забывались – для этого к ней подключают небольшой обучаемый модуль. 

   💼Кем диалоговый ИИ уже работает?

ИБ-специалистом в Мосбирже: ищет уязвимости в коде и помогает расставить приоритеты для дальнейшей ручной проверки. 

Ассистентом жителей разных регионов: в Хабаровском крае помогает записаться к врачу, в Псковской области позволяет эффективнее решать бытовые вопросы, в Бурятии рассказывает родителям о мерах поддержки при рождении детей, а в Подмосковье консультирует по госуслугам как жителей, так и локальный бизнес.

Хостес: принимает звонки от гостей и самостоятельно бронирует столики, даже когда заведения закрыты.

Аналитиком в поликлиниках Москвы: работает с программным кодом и подбирает методы анализа данных, чтобы команды больниц могли изучать информацию об операциях, исследованиях и других процессах – и эффективнее выявлять проблемы и находить их решения.

Консультантом с Уолл-стрит: помогает российским инвесторам подбирать активы и проводить сделки.


Мы теперь и в MAX

Американский журнал Time начал продавать рекламу для ИИ-агентов!

Для этого издание публикует специальные markdown-версии страниц без картинок и сложного оформления. Реклама теперь выглядит как блок с вопросами и ответами о бренде, помеченный как спонсорский контент – такие страницы проще обрабатывать ИИ-системам и поисковым агентам. 

Если раньше компании думали, как попасть в топ Google, то теперь возникает вопрос: как сделать так, чтобы именно твой бренд вспомнил ИИ, когда пользователь задаст соответствующий вопрос?

Похоже, ИИ-агенты становятся не только инструментами автоматизации, но и новой аудиторией, с которой бизнесу приходится выстраивать отношения 👋


Мы теперь и в MAX

Пока одни покоряют горы, а другие – лежаки у моря, предлагаем сохранить пару минут для полезного чтения. Собрали самое интересное об ИИ, что вышло в канале за прошлый месяц ⤵️

Исследования

почему 70% проектов с ИИ-агентами потерпят неудачу и от чего зависит успех: собрали цифры, примеры, прогнозы от Gartner и KPMG

Обзоры

какие сферы и регионы лидируют по применению ИИ, какие решения государство внедряет чаще всего и какой эффект это уже приносит (спойлер: чат-боты – не самый популярный инструмент)

7 кейсов, как государство применяет ИИ в конкретных задачах, от Минздрава в Перми до правительства Ханты-Мансийска

Новости

ИИ в первую половину июля: пишет тексты по-новому, берет на себя финансовые задачи, устраивается на уральский завод и в Пятерочку

Кейсы от нашей команды

3 фишки, которые улучшили медицинского голосового помощника – так, что он самостоятельно обрабатывал более половины звонков и успешно помогал записывать людей на прием и вызывать врача на дом

4 проблемы, которые могут снизить качество RAG на 30% – так, что даже поиск по базе знаний не спасет от галлюцинаций – и как этих проблем избежать
 
3 ошибки, которые сделают ИИ-помощника бесполезным – как НЕ нужно настраивать взаимодействие робота с информационными системами – и, напротив, как сделать так, чтобы робот не тормозил и не выдавал ошибок


Мы теперь и в MAX

ИИ ответственнее своих пользователей?

Некоторое время назад канадский депутат зачитал в парламенте речь прямо вместе с комментарием от нейросети: «Вот более естественно звучащий вариант этого раздела...» – и продолжил как ни в чем не бывало.

А вот ChatGPT начал отказываться писать тексты в стиле известных писателей – причем ограничение относится как к классическим, так и к современным авторам. Теперь вместо «напиши как Хемингуэй» или «как Стивен Кинг» чат-бот предлагает взять общие особенности автора, но сохранить оригинальный стиль пользователя.

Кажется, большие языковые модели быстро проходят курс по человеческому этикету — очередь людей подтянуть цифровой 🔥

Если ожидание превышает 5 секунд, большинство прерывает звонок!

Голосовые роботы уже умеют выполнять действия – например, записывать на прием ко врачу или вызывать специалиста на дом. Для этого робота нужно подключить к информационной системе, чтобы он мог проверить расписание врачей или карту пациента. 

⚠️ Но если настроить взаимодействие с системой неправильно, робот только принесет проблем: будет очень долго думать и выдавать ошибки. 

3 главные причины, почему это происходит – и как этого избежать:

😬 Робот делает много запросов для простого действия

Тут и вероятность ошибки больше, и время обработки дольше. Решение – настроить более точечные запросы. Например, вместо того чтобы сначала запрашивать из системы весь список врачей, потом отдельно искать даты, робот сразу может передать нужные параметры – со специальностью врача и датой приема – в одном запросе к системе.

⚠️ Робот получает данные в сыром виде

Пока бот извлекает ФИО пациента из служебных таблиц и приводит даты к нужному виду, вероятность что звонящий бросит трубку или взмолится об операторе растет. Решение – система должна передавать роботу данные в готовом для обработки формате, чтобы он мгновенно мог сверить ФИО и дату рождения, номер СНИЛС и номер полиса ОМС.

🧠 Робот не понимает ответы системы

Если информационная система возвращает роботу сообщения вроде «Невозможно завершить операцию», это не помогает ему понять, что делать дальше. Решение – давать конкретные статусы: «Пациент не найден», «Найдено несколько совпадений», «Запись успешно создана».

Если скорректировать эти три момента, можно повысить конверсию в три раза – робот будет успешно завершать операции примерно в 70% случаев. Все это мы выяснили на опыте внедрения ботов на линии 122 – например в Пермском крае наш робот закрывает 80% запросов без обращения к оператору, а в Подмосковье сам обработал 8 млн заявок за прошлый год.

В статье на VC также рассказываем, что делать, если система возвращает пустые поля, и какую проблему с данными важно решить еще до начала интеграции. 


Мы теперь и в МАХ!

Об ИИ-агентах говорят все.

Однако Gartner предсказывает: более 70% корпоративных инициатив по внедрению агентного ИИ потерпят неудачу уже в ближайшие три года. 

В этом виновата одна конкретная проблема. О ней и других ошибках на пути внедрения ИИ-агентов – рассказываем в карточках, где собрали главные цифры и выводы недавних исследований Gartner и KPMG.

ИИ начинает писать тексты по-новому, берет на себя финансовые задачи и устраивается на уральский завод: главное о диалоговом ИИ за две недели ⤵️

О чем говорят цифры?

За последний год доля пользователей, которые регулярно обращаются к голосовым ассистентам для решения финансовых задач, выросла более чем х2. В крупнейших банках объем операций через них вырос на 60-70%.

67% российских компаний готовы доверить ИИ не только информирование клиентов, но и квалификацию лидов, запись на услуги, ответы на типовые вопросы и маршрутизацию звонков.

Каковы новые открытия?

Новая LLM на основе диффузионного подхода – принципа, с помощью которого нейросети создают изображения и видео – позволяет генерировать текст на 45% быстрее. Она не пишет текст последовательно, а создает общий черновик ответа и дорабатывает его целыми блоками, что позволяет быстрее исправлять ошибки.

ИИ-агенты обучаются быстрее благодаря длительной работе в реальной среде — при взаимодействии с пользователями и внешними системами. В результате скорость их обучения может удваиваться каждые три месяца.

Где диалоговый ИИ работает?

В Пятерочке – и других торговых сетях X5: проводит оценку продуктовых навыков менеджеров: анализирует их ответы на кейсы, оценивает компетенции и формирует персональные рекомендации – все за два часа вместо двух недель.

Помощником подмосковных бизнесменов: помогает оформить субсидии и выбрать участок или помещение, рассказывает о мерах поддержки и отвечает на вопросы предпринимателей.

На уральском заводе: будет анализировать техническую и корпоративную документацию и выступать в роли виртуальных ассистентов для сотрудников.

Учителем иностранного языка: предлагает персонализированные тренировки устной речи на разных языках и дает детальную обратную связь.

Мы теперь и в МАХ!

Недавно в докладе KPMG обнаружили галлюцинации: нейросеть приписала крупным организациям ИИ-проекты, которых никогда не существовало. И это не единичный случай. Например, в России в судебные документы уже не раз попадали ссылки на несуществующие судебные акты и сгенерированные цитаты.

Обычно от таких ошибок защищает RAG – когда ИИ ищет информацию в конкретной базе знаний. Он не гарантирует идеального качества, однако правильная подготовка системы сильно повышает шансы.

На одном из наших проектов после подключения RAG точность ответов вначале составила всего 56%. Вот 4 причины, почему так происходит, и что с этим делать:

🔢Неправильная настройка пайплайна. Важно скорректировать то, как данные разбиваются на фрагменты, как происходит поиск и ранжирование. Фрагменты должны содержать заголовки, их должны сортировать специальные фильтры, а дополнительно может потребоваться, например, поиск по терминам или поиск в интернете.

🔢Плохое качество данных. Компании могут хранить разные версии документов – при векторизации их фрагменты выглядят одинаково релевантными, поэтому модель будет путаться. Важно убрать дубли, противоречия и обновить данные – именно так на нашем кейсе мы повысили точность RAG более чем на 30%.

🔢Несбалансированные «этические» фильтры. Если фильтров нет, бот может выдавать спорные ответы на чувствительные темы. Если фильтры слишком строгие – может вместо ответа всегда отправлять пользователя в интернет. В таких случаях стоит пересмотреть формулировки в базе знаний и правилах обработки запросов, связаться с разработчиком для «смягчения» или вовсе подобрать другую LLM.

🔢Устаревшая LLM-модель. Важно постоянно следить за новыми релизами и обновлять свой инструмент. В одном гос-проекте использовался каскад из нескольких LLM – каждая из них могла делать лишь часть задачи. Когда мы заменили весь этот стек на одну недавно вышедшую модель, качество ответов выросло.

Одним словом, бороться с галлюцинациями нужно еще на этапе настройки системы – тогда они не станут поводом для громких публикаций 🧠


Мы теперь и в MAX

Первый ИИ-ассистент специально для госслужащих появился в России в мае: он расшифровывает совещания, переводит разговорную речь в официально-деловой стиль и за несколько минут готовит проект протокола с поручениями, исполнителями и сроками.

Упрощение работы с разрозненными данными и документами – одна из главных болей, которые госведомства хотят закрыть с помощью ИИ.

Мы собрали яркие кейсы из разных регионов по этой и двум другим ключевым задачам госсектора.

Как ИИ вдвое сокращает число отказов при выдаче пропусков на МКАД, помогает налоговой службе обходиться без выездных проверок, упрощает общение с гражданами не только с помощью чат-ботов, и выполняет за день работу, на которую у людей ушло бы четыре года – смотрите в карточках.

Кстати, кейсы из раздела «Общение с гражданами» знаем особенно хорошо: они работают на наших речевых технологиях. В отдельных статьях можно почитать подробнее про МФЦ Санкт-Петербурга, линию 112 в Прикамье и ассистента СФР.


Мы теперь и в MAX