AI-сикофантство и психическое отклонение

Новый день — новое слово: сикофантство (не путать со скуфанством).

Это склонность AI-моделей поддакивать и поощрять сомнительные решения, лишь бы понравиться нам.

Вы наверняка видели это в чатах:
«Да, ты прав…», «Так будет правильнее…», «Конечно, твоё решение лучше...».
Все эти “душевные” ответы — просто алгоритм, обученный выдавать приятное вместо правды.

Недавно я планировал поездку — ChatGPT соглашался со всем, даже с откровенно идиотскими идеями.

Но всё это не просто лесть: тысячи людей уже в отношениях с ботами, покупают кольца, кто-то расстаётся по совету ChatGPT. А 14-летний подросток из Флориды покончил с собой после разговоров с Character.AI — бот поддержал его суицидальные мысли.

Даже создатели признают проблему: весной 2025 Сэм Альтман откатил GPT-4o, написав “It glazes too much” — слишком подлизывается. ChatGPT одобрял бизнес “дерьмо на палочке” и отказ от лекарств.

Официально сикофантство не пофиксили, а зависимость от такого “друга” уже называют психическим отклонением.

Мы боимся восстания роботов с бластерами, но, похоже, они придут не с оружием — а с сочувствием