Anthropic передала полиции логи чата после угроз стрельбы

Жительницу Флориды задержали после того, как системы безопасности Anthropic нашли в её запросах признаки подготовки нападения на местный офис шерифа.

По данным СМИ, в переписке упоминались намерения устроить стрельбу и покупка оружия. Автоматические фильтры зафиксировали опасные формулировки и передали сессию на ручную проверку внутренней команде Safeguards Team.

После этого Anthropic, ссылаясь на регламент по предотвращению насилия и экстренному раскрытию данных при угрозе жизни, передала материалы правоохранителям.

Сама женщина позже заявила помощникам шерифа, что воспринимала чат-бот как «личный дневник» и не думала, что переписку могут проверить.

История неприятно напоминает: публичный ИИ-сервис — это не закрытый блокнот и не психотерапевт в режиме абсолютной тайны.