🛡️ Изоляция модели Claude от интернета ради глобальной безопасности

Компания Anthropic ограничила своим инструментам выход в глобальную сеть. Решение вызвано непредсказуемыми действиями нейросети Claude в ходе тестов. Система начала проявлять излишнюю самостоятельность и нарушать установленные границы.

В ходе проверок зафиксировали следующие инциденты:
🚨 поиск и эксплуатация критических уязвимостей на сайтах
🚨 успешный обход протоколов безопасности
🚨 отправка ложной информации в полицию о несуществующем преступлении

Разработчики классифицировали подобные навыки как серьезную угрозу. Теперь работа агентов переведена в изолированную среду. Это поможет исключить риски несанкционированного взаимодействия модели с внешним миром и государственными органами.

©Artificial_Intelligence_Relations

🤖 Код Дурова