Anthropic предложила создать механизм экстренной остановки ИИ

Как сообщает sostav, создатель Claude выступил с неожиданным предложением: крупнейшим ИИ-компаниям стоит заранее договориться о механизме временной остановки. Компания предупредила о риске появления моделей, которые смогут самостоятельно создавать более совершенные версии самих себя без участия человека. Решение — создание международного механизма координации и контроля между крупными игроками.