🤖 ТЕСТИРУЕМ ИИ l ЧАСТЬ 2
Бот сказал, что услуги нет, а она была
Прилетает жалоба в поддержку: пользователь спрашивает у нашего бота записи «можно сделать МРТ колена в клинике на Ленинском?», а бот уверенно отвечает, что такой услуги в этой клинике нет
Услуга при этом есть, висит в прайсе, люди на неё записываются через сайт каждый день
Первая реакция у команды была предсказуемая:
Я попросил не трогать промпт, пока не поймём, где именно сломалось, потому что у нашего бота, как у любого RAG, два этапа:
1️⃣ Поиск: достаём из базы знаний куски документов, похожие на вопрос
2️⃣ Генерация: модель читает эти куски и пишет ответ
Ломаются они по-разному, и чинятся тоже по-разному
Приём, который решает спор за 5 минут, очень простой: берёшь тот же вопрос и вручную подставляешь модели правильный кусок документа, где явно написано, что МРТ колена в этой клинике есть
Если даже с правильным куском модель несёт чушь, значит проблема в генерации и уже можно идти в промпт
У нас ответ сразу стал правильным
Полезли смотреть поиск, и там всё оказалось банально:
Поиск по запросу «МРТ колена» находил что угодно, только не это
Починили нарезку и добавили синонимы для популярных сокращений, промпт вообще не трогали
Что из этого стоит забрать себе:
1️⃣ Поиск тестируйте отдельно от модели. Соберите 20–30 вопросов, для которых вы точно знаете, в каком документе ответ, и смотрите, попадает ли нужный кусок в топ-5 выдачи (это называется hit rate или recall@k)
2️⃣ Генерацию проверяйте на идеальном контексте, тогда проблемы поиска не будут маскировать проблемы модели
3️⃣ Логируйте, какие куски принёс поиск на каждый ответ, иначе потом разбирать жалобы придётся вслепую
Главная мысль тут такая: прежде чем чинить бота, найдите, какой этап сломался, иначе можно неделю переписывать промпт, который ни в чём не виноват
В следующей части расскажу, как мы пытались автоматически сравнивать ответы бота с эталоном и почему метрика поставила правильному ответу двойку, а неправильному почти пятёрку
Первая часть — https://t.me/threadqa_blog/188
На 50 👨💻 выпускаю третью часть
Бот сказал, что услуги нет, а она была
Прилетает жалоба в поддержку: пользователь спрашивает у нашего бота записи «можно сделать МРТ колена в клинике на Ленинском?», а бот уверенно отвечает, что такой услуги в этой клинике нет
Услуга при этом есть, висит в прайсе, люди на неё записываются через сайт каждый день
Первая реакция у команды была предсказуемая:
модель тупит, давайте перепишем промпт
Я попросил не трогать промпт, пока не поймём, где именно сломалось, потому что у нашего бота, как у любого RAG, два этапа:
1️⃣ Поиск: достаём из базы знаний куски документов, похожие на вопрос
2️⃣ Генерация: модель читает эти куски и пишет ответ
Ломаются они по-разному, и чинятся тоже по-разному
Приём, который решает спор за 5 минут, очень простой: берёшь тот же вопрос и вручную подставляешь модели правильный кусок документа, где явно написано, что МРТ колена в этой клинике есть
Если с идеальным контекстом ответ стал правильным, значит модель нормальная, а виноват поиск, он просто не принёс нужный кусок
Если даже с правильным куском модель несёт чушь, значит проблема в генерации и уже можно идти в промпт
У нас ответ сразу стал правильным
Полезли смотреть поиск, и там всё оказалось банально:
в прайсе услуга называлась «Магнитно-резонансная томография коленного сустава», без слова «МРТ», а при нарезке документа название вообще отрезалось от названия клиники и строки с ценой
Поиск по запросу «МРТ колена» находил что угодно, только не это
Починили нарезку и добавили синонимы для популярных сокращений, промпт вообще не трогали
Что из этого стоит забрать себе:
1️⃣ Поиск тестируйте отдельно от модели. Соберите 20–30 вопросов, для которых вы точно знаете, в каком документе ответ, и смотрите, попадает ли нужный кусок в топ-5 выдачи (это называется hit rate или recall@k)
2️⃣ Генерацию проверяйте на идеальном контексте, тогда проблемы поиска не будут маскировать проблемы модели
3️⃣ Логируйте, какие куски принёс поиск на каждый ответ, иначе потом разбирать жалобы придётся вслепую
Главная мысль тут такая: прежде чем чинить бота, найдите, какой этап сломался, иначе можно неделю переписывать промпт, который ни в чём не виноват
В следующей части расскажу, как мы пытались автоматически сравнивать ответы бота с эталоном и почему метрика поставила правильному ответу двойку, а неправильному почти пятёрку
Первая часть — https://t.me/threadqa_blog/188
На 50 👨💻 выпускаю третью часть