Прочитал на днях как пара россиян доверилась ChatGPT и отправилась в Северную Македонию без виз. В итоге ии-путешественники провели свой отпуск в аэропорту.
У нейросетей есть прекрасная особенность: когда они не знают ответа, они редко говорят «не знаю», они надевают костюм уверенного консультанта, берут в руки воображаемый указатель и начинают красиво нести чушь.
Самые опасные галлюцинации начинаются там, где человеку особенно хочется верить готовому тексту: законы, суды, медицина, финансы, свежие новости, биографии, цифры, ссылки и цитаты. Именно там модель может придумать судебное дело, исследование Гарварда, дозировку лекарства, условия гранта, должность чиновника или цитату Достоевского, которую Достоевский, скорее всего, не говорил даже после третьей бессонной ночи.
Примеры уже вошли в историю идиотизма: в США юристы принесли в суд несуществующие прецеденты от ChatGPT и получили штраф $5 000; Google AI Overview советовал добавлять клей в пиццу и есть камни; в июне 2026 года судья в Миссисипи отстранила юристов обеих сторон дела за непроверенные AI-цитаты; исследование 111 млн научных ссылок оценило, что только в 2025 году могло появиться около 146 932 несуществующих ссылок, связанных с LLM-галлюцинациями.
И вот главный вывод для всех, кто радостно копирует сгенерированный текст в документы, презентации, посты и письма: ИИ может быть отличным помощником, но плохим свидетелем, потому что он не отвечает за последствия, а вы отвечаете.
Если в ответе есть точная дата, ссылка, закон, судебное дело, медицинский совет, финансовое условие, статистика или красивая цитата — проверяйте руками, потому что уверенный тон еще не делает текст правдой, а галлюцинация в деловой переписке выглядит уже не как технология будущего, а как дебют клоуна в юридическом отделе.
Проводник
