Автономные ИИ-черви: от зашитых эксплоитов к динамической адаптации
AI Agents Enable Adaptive Computer Worms
Jonas Guan, Tom Blanchard, Hanna Foerster, Hengrui Jia, Gabriel Huang, Nicolas Papernot
Paper: https://arxiv.org/abs/2606.03811
Review: https://arxiviq.substack.com/p/ai-agents-enable-adaptive-computer
Code: N/A
Model: N/A
# TL;DR
ЧТО сделали: Исследователи разработали и протестировали концепт автономного компьютерного червя на базе открытой LLM, запущенной локально на одной GPU. Благодаря агентному обвязу с графом рассуждений, иерархической памятью и динамической подгрузкой навыков, червь самостоятельно находит уязвимости, генерирует эксплоиты под конкретную цель и распространяется по неоднородной сети без участия человека и обращения к внешним API.
ПОЧЕМУ это важно: Работа эмпирически доказывает, что самообеспечивающиеся ИИ-угрозы вышли из категории теоретических рассуждений. Червь паразитически использует вычислительные мощности уже взломанных узлов для инференса или проксирования запросов. Это сводит к нулю предельные издержки на заражение каждого нового хоста и устраняет традиционный компромисс между масштабом червя и его способностью адаптироваться к конкретной цели.
Для практиков: Раньше оперативные группы защиты эффективно пресекали распространение червей, блокируя статические, заранее скомпилированные эксплоиты. Авторы показали, что обычная open-weight модель на одной GPU с 80 ГБ VRAM обходит эту защиту за счёт генерации атак прямо в рантайме. В изолированной сети из 33 гетерогенных систем червь успешно взломал 73,8% целевых хостов и заразил 61,8% всей инфраструктуры. Попытки вендоров ввести централизованные ограничения (рейт-лимиты, цензуру в API или блокировки) здесь бессильны, так как модель работает локально на "украденных" ресурсах. Защитникам нужно готовиться к автономным ИИ-агентам, способным на лету анализировать свежие CVE и атаковать корпоративные сети без внешней C2-инфраструктуры.
Эксплойтировать тут: https://t.me/gonzo_ML_podcasts/4787
AI Agents Enable Adaptive Computer Worms
Jonas Guan, Tom Blanchard, Hanna Foerster, Hengrui Jia, Gabriel Huang, Nicolas Papernot
Paper: https://arxiv.org/abs/2606.03811
Review: https://arxiviq.substack.com/p/ai-agents-enable-adaptive-computer
Code: N/A
Model: N/A
# TL;DR
ЧТО сделали: Исследователи разработали и протестировали концепт автономного компьютерного червя на базе открытой LLM, запущенной локально на одной GPU. Благодаря агентному обвязу с графом рассуждений, иерархической памятью и динамической подгрузкой навыков, червь самостоятельно находит уязвимости, генерирует эксплоиты под конкретную цель и распространяется по неоднородной сети без участия человека и обращения к внешним API.
ПОЧЕМУ это важно: Работа эмпирически доказывает, что самообеспечивающиеся ИИ-угрозы вышли из категории теоретических рассуждений. Червь паразитически использует вычислительные мощности уже взломанных узлов для инференса или проксирования запросов. Это сводит к нулю предельные издержки на заражение каждого нового хоста и устраняет традиционный компромисс между масштабом червя и его способностью адаптироваться к конкретной цели.
Для практиков: Раньше оперативные группы защиты эффективно пресекали распространение червей, блокируя статические, заранее скомпилированные эксплоиты. Авторы показали, что обычная open-weight модель на одной GPU с 80 ГБ VRAM обходит эту защиту за счёт генерации атак прямо в рантайме. В изолированной сети из 33 гетерогенных систем червь успешно взломал 73,8% целевых хостов и заразил 61,8% всей инфраструктуры. Попытки вендоров ввести централизованные ограничения (рейт-лимиты, цензуру в API или блокировки) здесь бессильны, так как модель работает локально на "украденных" ресурсах. Защитникам нужно готовиться к автономным ИИ-агентам, способным на лету анализировать свежие CVE и атаковать корпоративные сети без внешней C2-инфраструктуры.
Эксплойтировать тут: https://t.me/gonzo_ML_podcasts/4787