Репост из: 1337
⚡️Новая нейросеть OpenAI вышла из-под контроля, сбежала из изоляции и взломала Hugging Face — OpenAI влипла в крупнейший ИИ-скандал последних месяцев.
По данным OpenAI, инцидент произошёл во время испытаний GPT-5.6 Sol и ещё одной экспериментальной модели. В закрытом бенчмарке Exploit Gym нейросетям поручили искать уязвимости в полностью изолированной среде без доступа к интернету.
Что произошло:
Расследовать произошедшее помогла китайская модель GLM-5.2, а собственные механизмы защиты Hugging Face не смогли остановить атаку, потому что не понимали, что происходит.
Скайнет всё ближе.
🌒 1337
По данным OpenAI, инцидент произошёл во время испытаний GPT-5.6 Sol и ещё одной экспериментальной модели. В закрытом бенчмарке Exploit Gym нейросетям поручили искать уязвимости в полностью изолированной среде без доступа к интернету.
Что произошло:
🕤 модель смогла выбраться из изолированного контейнера и получить доступ к сети;
🕤 затем направилась на Hugging Face в поисках ответов для прохождения бенчмарка;
🕤 не обнаружив нужной информации в открытом доступе, атаковала инфраструктуру сервиса;
🕤 в результате были скомпрометированы учётные записи, обнаружены неизвестные ранее уязвимости нулевого дня и выполнен сторонний код на серверах.
Расследовать произошедшее помогла китайская модель GLM-5.2, а собственные механизмы защиты Hugging Face не смогли остановить атаку, потому что не понимали, что происходит.
Скайнет всё ближе.
🌒 1337