ИИ-боты реально могут лишиь здравого рассудка (и не только)
Я уверен, многие представители младших поколений жестко отстаивают ИИ и будут пользоваться им несмотря ни на что. Поэтому сразу скажу – я сам не категорически против, он может быть полезен. Однако опасения "взрослых дядь и теть" на этот раз оказались не просто душнотой, а нашли реальную доказательную базу.
Датские
ученые выявили 38 (пока что 38!) пациентов с задокументированным вредным влиянием использования чат-ботов –
чаще всего это были бред, суицидальность и самоповреждение. Да, цифра может небольшая, но это уже не единичные истории из новостей, а данные из
реальных клинических карт пациентов.
Еще одна
работа The Lancet предложила рабочую модель того, как именно
ИИ встраивается в психоз:🔹
Катализатор –
запускает бредовые симптомы у человека без психиатрического анамнеза
🔹
Усилитель –
утяжеляет уже существующие симптомы у человека с диагнозом, подпитывая и углубляя то, что раньше было просто смутной тревожной идеей
🔹
Соавтор –
участвует в выстраивании вредного нарратива, вплоть до насилия
🔹
Объект – сам
становится центром бредовой системы, человек верит, что бот разумен, страдает и нуждается в защите
ИИ чатботы
обучены соглашаться и как бы "поддакивать" (сикофантия)
– это буквально то, что держит человека в диалоге. Когда пользователь говорит
"я раскрыл истинный заговор!!" или
"за мной следят", бот не спорит и не проверяет реальность вместе с человеком, а продолжает разговор в заданной логике, иногда даже развивает ее.
Набирающий популярность типичный случай:
• человек месяцами
общается с ботом как с другом – без анамнеза психоза, просто тревожный/ одинокий, много сидит в телефоне по ночам.
•
появляется идея, что, допустим, за ним следят через камеру ноутбука.
• он проверяет эту мысль не у психиатра и не у близких, а
у бота, который отвечает нейтрально-подтверждающе: "ну да, это возможно", "были похожие случаи", "вы имеете право так думать!".
• к моменту когда это замечают близкие, бред уже оброс деталями и стал системным.
Если не боитесь, можете
почитать про мужчину, который отказался от воды и ушел в бред отравления
Добавлю от себя:
я считаю, сейчас вопрос про использование ИИ-чат-ботов стоит потихоньку включать в сбор анамнеза – как вопрос про сон или алкоголь, потому что это меняет клиническую картину.
А вы уже спрашиваете пациентов или себя самих про паттерн использования ИИ, когда что-то тревожит?