# Как хуситы наняли Клод как конструкторское бюро ракетчиков
Два года индустрия спорит, заменит ли ИИ джуна, или это очередной раздутый хайп. В северном Йемене спор уже закрыли практикой. Там ИИ заменил не джуна, а целый конструкторский отдел, который проектирует боевые ракеты.
10 сентября Антропик опубликовала самый подробный отчёт о вредоносном использовании Клода за всю историю компании. В нём описан кейс, где ячейка, которую компания с высокой вероятностью связывает с хуситами, использовала Клод Код вместо штата инженеров-ракетчиков. Операция шла с декабря 2025-го по август 2026-й, в ней использовались все три модели линейки: Haiku, Sonnet и Opus. Группа вела три программы параллельно: управляемую ракету на базе бытового полётного компьютера уровня смартфона с наведением на финальном участке, баллистическую ракету с заявленной дальностью свыше 2000 км и семейство изделий под названием R2000, куда входил вариант с гиперзвуковым планирующим блоком.
Вместо одного чат-бота операторы развернули конвейер. Несколько инстансов Клода работали одновременно и с разделением ролей: один писал код, второй вёл исследование, третий проверял результат первого. По сути смоделировали обычный инженерный отдел, только зарплату платить некому и дейлики никто не пропускает.
Дальше начинается часть, знакомая каждому, кто хоть раз обходил лимит запросов или модерацию промпта. Вместо того чтобы формулировать полную задачу в одном чате, работу дробили на сессии, каждая из которых по отдельности выглядела безобидно, а истинную цель маскировали. Ровно так же дробят подозрительный трафик, чтобы не спалиться перед WAF. Антропик признаёт, что часть запросов фильтры безопасности всё же заблокировали, но группа на этом не остановилась, а адаптировалась, что предсказуемо для любой защиты, построенной на распознавании паттернов, а не намерений.
Реальный тестовый пуск управляемой ракеты, если верить отчёту, провалился. Через несколько часов операторы вернулись в Клод разбирать телеметрию и искать причину сбоя. Постмортем — стандартная инженерная практика, только предмет разбора не прод, а боеприпас. К моменту, когда Антропик вычислила и забанила связанные аккаунты, у группы уже был собственный офлайновый тулкит для симуляций, не зависящий ни от Клода, ни от MATLAB, и часть компетенций уже успела закешироваться в их инфраструктуре.
Йеменский кейс не единственный в отчёте. Три истории завязаны на Китай, две на Россию, одна на Йемен — шесть кейсов с обычным, не биологическим и не кибер, оружием. Отдельно там разобраны кибератаки, инфлюенс-операции, система слежки на 25 миллионов сим-карт в Мали, пять случаев с биологическими разработками и китайские лаборатории, незаконно дистиллирующие чужие модели в свои.
Вопрос «заменит ли ИИ программистов» на этом фоне звучит наивно. ИИ уже заменяет не отдельного разработчика, а целую компетенцию, причём там, где порог входа десятилетиями держался на дефиците инженеров с узким бэкграундом. Пока индустрия спорит про ревью кода нейронкой, кто-то использует ту же нейронку как аутсорс конструкторского бюро, обходя защиту тем же способом, каким обходят любую модерацию, то есть маленькими шагами и без явного намерения в каждом отдельном запросе.
Кто в такой архитектуре реально отвечает за периметр? Тот, кто пишет промпт, тот, кто проектирует фильтр безопасности, или тот, кто потом объясняет, почему банить аккаунты пришлось постфактум, а не заранее. Если работаете с LLM API и у вас есть свой ответ, пишите в комментариях, обсудим. Разборы таких кейсов и то, что реально волнует айтишников, выходят в канале Профсоюза, а обсуждения в бесплатном Закрытом чате. Статью можно репостить.
_ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _
Наши площадки:
Telegram | ВКонтакте | Дзен | RuTube | YouTube | Max | Закрытый чат
Два года индустрия спорит, заменит ли ИИ джуна, или это очередной раздутый хайп. В северном Йемене спор уже закрыли практикой. Там ИИ заменил не джуна, а целый конструкторский отдел, который проектирует боевые ракеты.
10 сентября Антропик опубликовала самый подробный отчёт о вредоносном использовании Клода за всю историю компании. В нём описан кейс, где ячейка, которую компания с высокой вероятностью связывает с хуситами, использовала Клод Код вместо штата инженеров-ракетчиков. Операция шла с декабря 2025-го по август 2026-й, в ней использовались все три модели линейки: Haiku, Sonnet и Opus. Группа вела три программы параллельно: управляемую ракету на базе бытового полётного компьютера уровня смартфона с наведением на финальном участке, баллистическую ракету с заявленной дальностью свыше 2000 км и семейство изделий под названием R2000, куда входил вариант с гиперзвуковым планирующим блоком.
Вместо одного чат-бота операторы развернули конвейер. Несколько инстансов Клода работали одновременно и с разделением ролей: один писал код, второй вёл исследование, третий проверял результат первого. По сути смоделировали обычный инженерный отдел, только зарплату платить некому и дейлики никто не пропускает.
Дальше начинается часть, знакомая каждому, кто хоть раз обходил лимит запросов или модерацию промпта. Вместо того чтобы формулировать полную задачу в одном чате, работу дробили на сессии, каждая из которых по отдельности выглядела безобидно, а истинную цель маскировали. Ровно так же дробят подозрительный трафик, чтобы не спалиться перед WAF. Антропик признаёт, что часть запросов фильтры безопасности всё же заблокировали, но группа на этом не остановилась, а адаптировалась, что предсказуемо для любой защиты, построенной на распознавании паттернов, а не намерений.
Реальный тестовый пуск управляемой ракеты, если верить отчёту, провалился. Через несколько часов операторы вернулись в Клод разбирать телеметрию и искать причину сбоя. Постмортем — стандартная инженерная практика, только предмет разбора не прод, а боеприпас. К моменту, когда Антропик вычислила и забанила связанные аккаунты, у группы уже был собственный офлайновый тулкит для симуляций, не зависящий ни от Клода, ни от MATLAB, и часть компетенций уже успела закешироваться в их инфраструктуре.
Йеменский кейс не единственный в отчёте. Три истории завязаны на Китай, две на Россию, одна на Йемен — шесть кейсов с обычным, не биологическим и не кибер, оружием. Отдельно там разобраны кибератаки, инфлюенс-операции, система слежки на 25 миллионов сим-карт в Мали, пять случаев с биологическими разработками и китайские лаборатории, незаконно дистиллирующие чужие модели в свои.
Вопрос «заменит ли ИИ программистов» на этом фоне звучит наивно. ИИ уже заменяет не отдельного разработчика, а целую компетенцию, причём там, где порог входа десятилетиями держался на дефиците инженеров с узким бэкграундом. Пока индустрия спорит про ревью кода нейронкой, кто-то использует ту же нейронку как аутсорс конструкторского бюро, обходя защиту тем же способом, каким обходят любую модерацию, то есть маленькими шагами и без явного намерения в каждом отдельном запросе.
Кто в такой архитектуре реально отвечает за периметр? Тот, кто пишет промпт, тот, кто проектирует фильтр безопасности, или тот, кто потом объясняет, почему банить аккаунты пришлось постфактум, а не заранее. Если работаете с LLM API и у вас есть свой ответ, пишите в комментариях, обсудим. Разборы таких кейсов и то, что реально волнует айтишников, выходят в канале Профсоюза, а обсуждения в бесплатном Закрытом чате. Статью можно репостить.
_ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _
Наши площадки:
Telegram | ВКонтакте | Дзен | RuTube | YouTube | Max | Закрытый чат