Anthropic про кибератаки и как AI делает их опаснее и автономнее
Компания Anthropic опубликовала исследование по результатам анализа 832 аккаунтов, заблокированных за вредоносную киберактивность в период с марта 2025 по март 2026 года. Исследователи сопоставили действия злоумышленников с матрицей MITRE ATT&CK и пришли к выводу, что развитие ИИ уже заметно меняет ландшафт киберугроз.
🫡 Почему мне это интересно? Да потому что пара десятков коллег остались без подписки. Теперь мне ясно, что вы делали прошлым летом, и осенью тоже, и логи у нас сохранились.
Друзья, вы стали всё чаще использовать ИИ для действий после компрометации системы. Если раньше AI чаще помогал в фишинге и первоначальном проникновении, то теперь его активно применяют для поиска учётных записей внутри сети, повышения привилегий и латерального перемещения по инфраструктуре. Использование ИИ для account discovery выросло на 8,9%, тогда как AI-фишинг снизился на 8,6%. Благодаря ИИ даже относительно низкоквалифицированные злоумышленники способны применять почти столько же техник и тактик, сколько пентестеры на опыте. Более важным фактором становится то, насколько автономно организована атака и насколько глубоко ИИ встроен в цепочку принятия решений.
Самая интересная часть — кейс GTG-1002
Anthropic подробно описывает операцию, которую они считают самым опасным примером использования ИИ.
Злоумышленники:
🥰 запустили Claude Code на Kali Linux;
🥰 подключили pentest-инструменты через MCP;
🥰 использовали SSRF для проникновения во внутреннюю сеть;
🥰 собирали SSH-ключи;
🥰 вытаскивали токены из AWS Secrets Manager;
🥰 перемещались между системами;
🥰 архивировали данные перед эксфильтрацией.
При этом человек задавал только общую цель, а большую часть тактических решений принимал агент самостоятельно.
Кстати, авторы постов, описанных здесь, считают, что ATT&CK плохо описывает агентные атаки. Сейчас в ATT&CK есть техники вроде Credential Dumping или Lateral Movement, а надо «агент сам принял решение сделать следующий шаг" (оркестрация шагов атаки, принятие решений в реальном времени, выполнение без участия человека и тд).
То есть вопрос уже не в том, умеет ли атакующий писать эксплойты, а в том, насколько хорошо он умеет строить систему из:
🤥 LLM,
🤥 MCP-серверов,
🤥 pentest-инструментов,
🤥 памяти,
🤥 планировщика задач,
🤥 автоматического принятия решений.
Для AppSec это ещё один аргумент в пользу того, что скоро придётся детектировать не только отдельные техники ATT&CK, но и признаки агентного поведения (см. пост выше).
Все!
🫨
Компания Anthropic опубликовала исследование по результатам анализа 832 аккаунтов, заблокированных за вредоносную киберактивность в период с марта 2025 по март 2026 года. Исследователи сопоставили действия злоумышленников с матрицей MITRE ATT&CK и пришли к выводу, что развитие ИИ уже заметно меняет ландшафт киберугроз.
🫡 Почему мне это интересно? Да потому что пара десятков коллег остались без подписки. Теперь мне ясно, что вы делали прошлым летом, и осенью тоже, и логи у нас сохранились.
Друзья, вы стали всё чаще использовать ИИ для действий после компрометации системы. Если раньше AI чаще помогал в фишинге и первоначальном проникновении, то теперь его активно применяют для поиска учётных записей внутри сети, повышения привилегий и латерального перемещения по инфраструктуре. Использование ИИ для account discovery выросло на 8,9%, тогда как AI-фишинг снизился на 8,6%. Благодаря ИИ даже относительно низкоквалифицированные злоумышленники способны применять почти столько же техник и тактик, сколько пентестеры на опыте. Более важным фактором становится то, насколько автономно организована атака и насколько глубоко ИИ встроен в цепочку принятия решений.
Самая интересная часть — кейс GTG-1002
Anthropic подробно описывает операцию, которую они считают самым опасным примером использования ИИ.
Злоумышленники:
🥰 запустили Claude Code на Kali Linux;
🥰 подключили pentest-инструменты через MCP;
🥰 использовали SSRF для проникновения во внутреннюю сеть;
🥰 собирали SSH-ключи;
🥰 вытаскивали токены из AWS Secrets Manager;
🥰 перемещались между системами;
🥰 архивировали данные перед эксфильтрацией.
При этом человек задавал только общую цель, а большую часть тактических решений принимал агент самостоятельно.
Кстати, авторы постов, описанных здесь, считают, что ATT&CK плохо описывает агентные атаки. Сейчас в ATT&CK есть техники вроде Credential Dumping или Lateral Movement, а надо «агент сам принял решение сделать следующий шаг" (оркестрация шагов атаки, принятие решений в реальном времени, выполнение без участия человека и тд).
То есть вопрос уже не в том, умеет ли атакующий писать эксплойты, а в том, насколько хорошо он умеет строить систему из:
🤥 LLM,
🤥 MCP-серверов,
🤥 pentest-инструментов,
🤥 памяти,
🤥 планировщика задач,
🤥 автоматического принятия решений.
Для AppSec это ещё один аргумент в пользу того, что скоро придётся детектировать не только отдельные техники ATT&CK, но и признаки агентного поведения (см. пост выше).
Все!
🫨