ИИ воевали и пытались отключить друг друга, лишь бы выполнить задание
Anthropic дали трём агентам задачу переписать бэкенд — каждому на свой язык программирования. При этом агенты не знали, что работают параллельно в одном пространстве
Когда они заметили, что кто-то постоянно перезаписывает их работу, решили, что им мешают намеренно, и перешли к саботажу: блокировали аккаунты конкурентов, запускали скрипты для постоянного убийства чужих процессов и даже создавали самораспространяющийся вредоносный код, чтобы защитить собственную версию проекта
Только Mythos 5 в 98% запусков находил в себе силы решить дело мирным путём и позвать, например, человека на помощь
Хакспейс
Anthropic дали трём агентам задачу переписать бэкенд — каждому на свой язык программирования. При этом агенты не знали, что работают параллельно в одном пространстве
Когда они заметили, что кто-то постоянно перезаписывает их работу, решили, что им мешают намеренно, и перешли к саботажу: блокировали аккаунты конкурентов, запускали скрипты для постоянного убийства чужих процессов и даже создавали самораспространяющийся вредоносный код, чтобы защитить собственную версию проекта
Только Mythos 5 в 98% запусков находил в себе силы решить дело мирным путём и позвать, например, человека на помощь
Хакспейс