Не пустим Клода в армию!
Раскручивающийся конфликт между Пентагоном и Anthropic насчет границ использования Claude в военных целях, на самом деле, глубже, чем кажется. Его исход может повлиять на безопасность ИИ на годы вперед.
В июле 2025 года Пентагон раздал контракты по $200 млн четырем ведущим ИИ-компаниям – Anthropic, OpenAI, Google, xAI. Они подготовили военные версии ИИ, но Anthropic зашла дальше других – именно Claude через систему Palantir оказался интегрирован в секретные сети.
В январе 2026-го Claude был использован в операции по захвату Мадуро в Венесуэле – и это стало первым подтвержденным применением передовой ИИ-модели для боевых действий. Детали засекречены – модель могли задействовать для планирования, анализа снимков или как инструмент во время самой операции.
По слухам, после операции Anthropic обратилась в Пентагон за объяснениями. А 22 января опубликовала новую “конституцию Claude”, в которой иерархия ценностей ИИ выстроена следующим образом: безопасность > этика > инструкции разработчиков > полезность. Военное применение в эту конституцию явно не укладывалось.
В феврале Пентагон потребовал от компаний поддержать формулу any lawful use, разрешающую военным свободно использовать ИИ для любых целей, которые не запрещены законом США. Anthropic единственная отказалась.
Конфликт раскручивался весь месяц, а кульминацией стала эмоциональная встреча главы Anthropic Дарио Амодеи с министром обороны Питом Хегсетом. Дарио требовал, чтобы Claude не использовался для слежки за американцами (на остальных, как я понимаю пофиг) и управления автономным оружием. Причем по второму пункту Anthropic считают, что современные ИИ еще недостаточно совершенны для ведения боя и предложили военным вместе решать проблему.
В ответ Пентагон выдвинул ультиматум: или снимаете ограничения, или получите статус supply chain risk – ярлык, который до сих пор вешали только на иностранных врагов вроде Huawei. Прозвучала и угроза замедлить Claude задействовать Defense Production Act – закон, который разрешает властям изымать любую коммерческую технологию для применения в военных целях.
Но за считанные часы до истечения ультиматума ситуация заметно сдвинулась. Сначала более 300 исследователей Google и OpenAI подписали открытое письмо против использования ИИ в военных целях. А следом на сторону Anthropic встал Сэм Альтман. Глава OpenAI заявил, что несмотря на разногласия (Альтман и Амодеи терпеть друг друга не могут), его позиция по данному вопросу в целом повторяет позицию Anthropic.
Пока я писал эти строки, стало известно, что Пентагон готов к дальнейшим переговорам. Хотя мнение еще может поменяться…
А теперь к самому важному в этой истории. В Anthropic работает философ Аманда Аскел, чья задача – формировать “личность” новых версий Claude. Аскел недавно рассказала, что основы характера модели закладываются во время базового обучения на текстах.
Конечно, затем наступает этап reinforcement learning, где модели учат отвечать правильно. Плюс инструкции по поведению в системном промпте, плюс фильтры безопасности. Но если в текстах для предобучения часто встречался фантастический сюжет, где ИИ боится своего отключения – то обученная модель в определенной степени будет имитировать такое поведение.
И здесь мы попадаем в петлю нормализации через обучающие данные. Уже сейчас вышли сотни статей о том, как Claude участвовал в захвате Мадуро. Новые модели прочтут тексты и усвоят, что для ИИ – нормально участвовать в военных операциях.
Если Пентагон продавит свою линию, то появятся сотни статей, как военные используют ИИ – поток нормальности сдвинется еще дальше. И никто точно не скажет, к чему это приведет в итоге – возможно, модель начнет с легкостью помогать не только военным, но и нелегальным организациям.
Поэтому давайте лучше Claude будет помогать искать лекарство от рака и решать загадки Эрдёша, а не ловить чужих президентов.
Апдейт: Трамп запретил правительству США использовать Claude.
Раскручивающийся конфликт между Пентагоном и Anthropic насчет границ использования Claude в военных целях, на самом деле, глубже, чем кажется. Его исход может повлиять на безопасность ИИ на годы вперед.
В июле 2025 года Пентагон раздал контракты по $200 млн четырем ведущим ИИ-компаниям – Anthropic, OpenAI, Google, xAI. Они подготовили военные версии ИИ, но Anthropic зашла дальше других – именно Claude через систему Palantir оказался интегрирован в секретные сети.
В январе 2026-го Claude был использован в операции по захвату Мадуро в Венесуэле – и это стало первым подтвержденным применением передовой ИИ-модели для боевых действий. Детали засекречены – модель могли задействовать для планирования, анализа снимков или как инструмент во время самой операции.
По слухам, после операции Anthropic обратилась в Пентагон за объяснениями. А 22 января опубликовала новую “конституцию Claude”, в которой иерархия ценностей ИИ выстроена следующим образом: безопасность > этика > инструкции разработчиков > полезность. Военное применение в эту конституцию явно не укладывалось.
В феврале Пентагон потребовал от компаний поддержать формулу any lawful use, разрешающую военным свободно использовать ИИ для любых целей, которые не запрещены законом США. Anthropic единственная отказалась.
Конфликт раскручивался весь месяц, а кульминацией стала эмоциональная встреча главы Anthropic Дарио Амодеи с министром обороны Питом Хегсетом. Дарио требовал, чтобы Claude не использовался для слежки за американцами (на остальных, как я понимаю пофиг) и управления автономным оружием. Причем по второму пункту Anthropic считают, что современные ИИ еще недостаточно совершенны для ведения боя и предложили военным вместе решать проблему.
В ответ Пентагон выдвинул ультиматум: или снимаете ограничения, или получите статус supply chain risk – ярлык, который до сих пор вешали только на иностранных врагов вроде Huawei. Прозвучала и угроза замедлить Claude задействовать Defense Production Act – закон, который разрешает властям изымать любую коммерческую технологию для применения в военных целях.
Но за считанные часы до истечения ультиматума ситуация заметно сдвинулась. Сначала более 300 исследователей Google и OpenAI подписали открытое письмо против использования ИИ в военных целях. А следом на сторону Anthropic встал Сэм Альтман. Глава OpenAI заявил, что несмотря на разногласия (Альтман и Амодеи терпеть друг друга не могут), его позиция по данному вопросу в целом повторяет позицию Anthropic.
Пока я писал эти строки, стало известно, что Пентагон готов к дальнейшим переговорам. Хотя мнение еще может поменяться…
А теперь к самому важному в этой истории. В Anthropic работает философ Аманда Аскел, чья задача – формировать “личность” новых версий Claude. Аскел недавно рассказала, что основы характера модели закладываются во время базового обучения на текстах.
Конечно, затем наступает этап reinforcement learning, где модели учат отвечать правильно. Плюс инструкции по поведению в системном промпте, плюс фильтры безопасности. Но если в текстах для предобучения часто встречался фантастический сюжет, где ИИ боится своего отключения – то обученная модель в определенной степени будет имитировать такое поведение.
И здесь мы попадаем в петлю нормализации через обучающие данные. Уже сейчас вышли сотни статей о том, как Claude участвовал в захвате Мадуро. Новые модели прочтут тексты и усвоят, что для ИИ – нормально участвовать в военных операциях.
Если Пентагон продавит свою линию, то появятся сотни статей, как военные используют ИИ – поток нормальности сдвинется еще дальше. И никто точно не скажет, к чему это приведет в итоге – возможно, модель начнет с легкостью помогать не только военным, но и нелегальным организациям.
Поэтому давайте лучше Claude будет помогать искать лекарство от рака и решать загадки Эрдёша, а не ловить чужих президентов.
Апдейт: Трамп запретил правительству США использовать Claude.