Claude сдал пользователя полицииДевушка из Флориды использовала Claude как личный дневник и в какой-то момент написала, что хочет «расстрелять офис шерифа».
Система безопасности чат-бота пометила сообщение как потенциальную угрозу и передала
его в Anthropic, после чего об этом сообщили правоохранительным органам.
Полиция установила личность женщины, приехала к ней домой и задержала её. Теперь ей предъявлено обвинение
в письменной угрозе насилием, возбуждено уголовное дело.
А в компании напомнили, что чат с ИИ не является приватным, и сообщения мониторятся.
ИИ-доносы стали реальностьюПрокачай Мозг