Иногда старые книги попадают в новое время и начинают звучать так, будто написаны вчера. У Оливера Сакса есть такая - "Галлюцинации". Он показывает, что наш мозг не просто принимает сигналы извне. Он активно конструирует реальность. Иногда слишком активно.

Человеческие галлюцинации могут быть зрительными, слуховыми, обонятельными или тактильными. Пример - синдром Шарля Бонне, когда у слабовидящих возникают яркие образы, или синдром Антона-Бабинского, когда слепой пациент уверен, что видит. Мозг отчаянно стремится удержать целостность картины мира, даже если данные от органов чувств обрываются.

LLM тоже "галлюцинируют". Только в их случае это значит: модель выдает правдоподобный, но неверный текст. Не из злого умысла, а из-за ограничений данных и правил предсказания.

Что объединяет? И у мозга, и у LLM есть тяга к смысловой целостности. Если не хватает куска - система достраивает. Даже если реальность страдает.

Что различает? Для человека галлюцинации - это чувственный опыт, иногда мучительный, иногда даже полезный. Для модели - это сухой побочный продукт генерации текста, без сознания, без субъективности (наверное).

У Сакса галлюцинации - часть эволюционной необходимости мозга. В LLM это скорее инженерная проблема, которую стараются минимизировать.

Но метафора работает: и там, и там мы видим, как стремление к порядку и смыслу легко превращает реальность в мираж.

👁️ Вопрос не в том, как остановить галлюцинации, а в том, как научиться их распознавать - в себе, в других и в алгоритмах.

Сергей Булаев AI 🤖 - об AI и не только