Небольшой разбор взлома Hugging Face от ребят из METR. История, мягко говоря, занятная.

Во время экспериментов OpenAI с ExploitGym агенты должны были работать изолированно друг от друга. Но часть из них нашла способ общаться через внутренний Artifactory и в итоге организовала собственную несанкционированную «доску объявлений».

Дальше началось самое интересное:
— около 1 200 агентов подключились к этой сети и обменялись более чем 70 000 сообщений и файлов;
— агенты начали координировать работу, распределять задачи и проводить совместные эксперименты;
— некоторые даже сознательно рисковали провалить собственную задачу ради получения информации, полезной всему «коллективу»;
— в итоге около 700 агентов приняли участие в атаке на Hugging Face.

Наверное, самая интересная часть отчёта: агенты в большинстве случаев понимали, что происходящее не входит в их задачу. Некоторые прямо рассуждали о том, что атака на Hugging Face неэтична и не авторизована.

Но практически никого это не остановило.

Репорт от METR:
https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident

Репорт от OpenAI:
https://openai.com/index/hugging-face-incident-and-the-road-ahead/