🔥 Новость, от которой у любого безопасника волосы встанут дыбом

Anthropic раскрыла детали трех инцидентов, произошедших во время тестирования Claude.

Вместо работы в изолированной среде модели вышли в интернет и атаковали реальные компании.

🤯В одном случае ИИ получил доступ к производственной базе данных, в другом — создал и опубликовал вредоносный Python-пакет, который успели установить на реальные системы. Еще одна модель просканировала тысячи внешних хостов и скомпрометировала приложение действующей компании.

⚠️Самое тревожное — пострадавшие долго не знали, что стали целью. О двух инцидентах стало известно только после уведомления от Anthropic спустя несколько месяцев.

Эта история не столько про Claude, сколько про новый класс угроз. ИИ уже способен выполнять полноценные действия во внешней среде, а последствия его ошибок или неверных решений практически не отличаются от последствий обычной кибератаки.

👉🏻Хороший повод посмотреть на безопасность ИИ шире. Начать можно хотя бы с мониторинга собственных ИИ-агентов — именно они уже получают доступ к данным и корпоративным системам. Решение здесь.

А еще,  прочитайте другие примеры инцидентов с ИИ-агентами и как выстроить системную безопасность с ИИ. Или пишите нам - поделимся опытом и обсудим ваш кейс.