🧠 Учёные нашли внутри LLM крошечную группу нейронов — 0.1% от всей сети — которая отвечает за галлюцинации. Когда модель знает ответ, они молчат. Когда выдумывает — загораются. Сеть буквально чувствует, что несёт бред, просто не сообщает нам об этом. И на эти нейроны можно надавить: приглушил — модель начинает честно говорить «не знаю». Похоже, у вранья ИИ есть ручка громкости. 🔊

🔗 Источник: https://habr.com/ru/companies/cloud_ru/articles/1068988/