Военные из Йемена использовали Claude при разработке ракет, утверждает Anthropic

По данным компании, пользователи, связанные с военными на севере Йемена, запрашивали код для управляемой ракеты на базе компонентов обычного смартфона и для баллистической ракеты. Их возможная связь с хуситами не подтверждена.

Claude привлекали к настройке автопилота, моделированию полёта и сборке прошивки. Защитные системы блокировали часть запросов, однако некоторые проходили: пользователи скрывали военное назначение разработки и разбивали работу на небольшие задачи, распределённые по отдельным диалогам.

По описанию Anthropic, во время испытания ракета упала. После этого разработчики снова обратились к Claude - уже за помощью в поиске причины неудачи.