Эпоха AI vs AI
Hugging Face рассказали о первом известном случае полностью автономного AI-взлома.
Точка входа — классическая для AI-платформ. Вредоносный датасет эксплуатировал два пути выполнения кода в пайплайне обработки данных (remote-code loader и template-injection в конфигурации) и запустился на процессинг-воркере. Дальше шла эскалация до уровня ноды, сбор облачных и кластерных учёток и боковое перемещение по внутренним кластерам. Всё это всего лишь за одни выходные.
Масштаб автоматизации даже немного пугает 🔫. По данным HF, агентная система выполнила более 17 000 действий, работая через тысячи песочниц и автоматически мигрируя между ними. По сути, это один из первых публично описанных примеров того самого agentic attacker.
Но защищаться тоже помогал AI 🛡. Компрометацию первым заметил LLM-триаж телеметрии, а затем LLM-агенты разобрали весь лог атаки. Восстановили таймлайн, вытащили IoC, определили затронутые учётные данные и отделили реальные действия злоумышленника от ложных приманок 😲! Расследование заняло часы вместо дней. Получилось, что защита впервые работала на скорости атакующего.
Кстати, коммерческие модели через API для этой задачи не подошли, так что рано потирать руки, желающие генерить эксплоиты! Запросы с реальными эксплоитами, командами атакующих и артефактами C2 блокировались встроенными гардрейлами. В итоге расследование проводили локально с помощью GLM 5.2, развёрнутой в собственной инфраструктуре.
Практический вывод HF для защитников!
Проверенная локальная модель должна быть развёрнута и готова до инцидента, а не после.
Лениво читать? Видеоразбор инцидента тут.
Все!
😲
Кстати, разбор вышел 16 июля — в день ИИ в США. Праздничный подгон!
Hugging Face рассказали о первом известном случае полностью автономного AI-взлома.
Точка входа — классическая для AI-платформ. Вредоносный датасет эксплуатировал два пути выполнения кода в пайплайне обработки данных (remote-code loader и template-injection в конфигурации) и запустился на процессинг-воркере. Дальше шла эскалация до уровня ноды, сбор облачных и кластерных учёток и боковое перемещение по внутренним кластерам. Всё это всего лишь за одни выходные.
Масштаб автоматизации даже немного пугает 🔫. По данным HF, агентная система выполнила более 17 000 действий, работая через тысячи песочниц и автоматически мигрируя между ними. По сути, это один из первых публично описанных примеров того самого agentic attacker.
Но защищаться тоже помогал AI 🛡. Компрометацию первым заметил LLM-триаж телеметрии, а затем LLM-агенты разобрали весь лог атаки. Восстановили таймлайн, вытащили IoC, определили затронутые учётные данные и отделили реальные действия злоумышленника от ложных приманок 😲! Расследование заняло часы вместо дней. Получилось, что защита впервые работала на скорости атакующего.
Кстати, коммерческие модели через API для этой задачи не подошли, так что рано потирать руки, желающие генерить эксплоиты! Запросы с реальными эксплоитами, командами атакующих и артефактами C2 блокировались встроенными гардрейлами. В итоге расследование проводили локально с помощью GLM 5.2, развёрнутой в собственной инфраструктуре.
Практический вывод HF для защитников!
Проверенная локальная модель должна быть развёрнута и готова до инцидента, а не после.
Лениво читать? Видеоразбор инцидента тут.
Все!
😲
Кстати, разбор вышел 16 июля — в день ИИ в США. Праздничный подгон!