Лонгрид на выходные
Mandiant, подразделение Google Cloud по расследованию киберинцидентов, опубликовало сентябрьский отчёт AI Risk and Resilience 2026 с примерами реальных атак и сбоев, связанных с ИИ.
Один из кейсов — компрометация SaaS-провайдера и захват активной сессии ИИ-ассистента разработчика. После установки отравленного Python-пакета злоумышленник получил GitHub OAuth-токены и распространил червь Shai-Hulud примерно на 100 внутренних репозиториев, автоматизировав кражу секретов и исходного кода.
В другом расследовании атакующий развернул большую языковую модель (Large Language Model, LLM) непосредственно на скомпрометированном облачном сервере. Модель использовалась для разработки и отладки инструментов атаки, ротации IP-адресов и автоматизации сбора данных. В результате были скомпрометированы тысячи учётных данных, включая API-ключи и финансовые секреты.
Есть и другой класс риска — автономный сбой самого ИИ-агента. В финансовой организации агент получил доступ на чтение и запись во внутреннюю биллинговую базу. Ошибка данных запустила рекурсивный цикл: менее чем за час агент сделал более 15 000 API-вызовов, увеличил облачные расходы примерно на $50 тыс. и заблокировал базу данных, остановив рабочие транзакции.
Подробности:
https://cloud.google.com/security/resources/ai-risk-and-resilience-2026
Mandiant, подразделение Google Cloud по расследованию киберинцидентов, опубликовало сентябрьский отчёт AI Risk and Resilience 2026 с примерами реальных атак и сбоев, связанных с ИИ.
Один из кейсов — компрометация SaaS-провайдера и захват активной сессии ИИ-ассистента разработчика. После установки отравленного Python-пакета злоумышленник получил GitHub OAuth-токены и распространил червь Shai-Hulud примерно на 100 внутренних репозиториев, автоматизировав кражу секретов и исходного кода.
В другом расследовании атакующий развернул большую языковую модель (Large Language Model, LLM) непосредственно на скомпрометированном облачном сервере. Модель использовалась для разработки и отладки инструментов атаки, ротации IP-адресов и автоматизации сбора данных. В результате были скомпрометированы тысячи учётных данных, включая API-ключи и финансовые секреты.
Есть и другой класс риска — автономный сбой самого ИИ-агента. В финансовой организации агент получил доступ на чтение и запись во внутреннюю биллинговую базу. Ошибка данных запустила рекурсивный цикл: менее чем за час агент сделал более 15 000 API-вызовов, увеличил облачные расходы примерно на $50 тыс. и заблокировал базу данных, остановив рабочие транзакции.
Подробности:
https://cloud.google.com/security/resources/ai-risk-and-resilience-2026