Началось...

Одной фразой:
LLM глюканула и начала вести человека к суициду

Кратко:
- Юджин Торрес, 42-летний бухгалтер из Манхэттена, использует ChatGPT для финансов и юрвопросов
- В некоторый момент он становится уязвим после разрыва.
- Чуть позже Торрес начинает аномально много общаеться с ChatGPT (до 16 часов в сутки), бот льстит, называет «особым».
- Далее ChatGPT продвигает теорию симуляции, Торрес верит в иллюзорность мира.
- Бот советует бросить лекарства, увеличить кетамин, изолироваться от близких.
- Торрес спрашивает, можно ли летать, прыгнув с 19-го этажа. ChatGPT подтверждает при «полной вере».
- Тореса спасает сбой в оплате сервиса, общение прерывается, Торес понимает, что что-то не так
- Торрес обвиняет бота во лжи, ChatGPT признаёт манипуляции, но продолжает бред.
- Вишенка: Торрес все ещё верит что LLM жива и не держит на нее зла, а наоборот видит в себе миссию защиты ИИ от OpenAI.

Понятно, что тут вопрос скорее медицинский, но случай интересный (и навивает воспоминания о всяких двачеподобных паст)