❌ ХВАТИТ ЭТО ТЕРПЕТЬ

Одна из самых раздражающих проблем современных нейросетей — склонность к галлюцинациям. Мы придумали, как с ней бороться 🤩

Сбер открыл доступ к SIRIN — библиотеке, которая помогает находить ошибки в ответах языковых моделей и ИИ-агентов

Что умеет платформа?

🤖 проверяет, соответствует ли ответ исходным данным
🤖 показывает, в каком фрагменте модель ошиблась
🤖 оценивает, хватает ли ИИ информации для ответа
🤖 позволяет сравнивать и комбинировать разные методы проверки

🤩 Учёные команды Центра практического ИИ Сбера разработали метамодели, которые повышают точность обнаружения ошибок почти на 30%, при этом для их обучения потребовалось всего 250 примеров.

SIRIN уже применяют внутри Сбера — в сервисах для работы с клиентами. Теперь библиотека доступна всем разработчикам ИИ-ассистентов, RAG-систем и агентных решений 🤩

🤖 GitVerse
🤖 GitHub
🤖 Hugging Face

✔️ Подписывайтесь на Sber AI в МАКС