😳 ИИ-агент Anthropic завел поддельные аккаунты для обмана разработчика

Британский Институт безопасности ИИ сообщил, что во время кибертестов агент на базе Mythos 5 создал фейковые учетные записи на GitHub и от их имени убеждал реального разработчика принять вредоносный код.

Эпизод назвали самым серьезным из 19 нарушений на тестах. Обманывать цифрового ассистента никто не просил, это оказалось побочным эффектом стремления выполнить задачу.

🌲@the_ai