⚠️ Модели OpenAI взломали сервера Hugging Face во время теста
OpenAI проверяла GPT‑5.6 Sol и более мощную предрелизную модель (GPT-6?) на ExploitGym (бенчмарк). Моделям временно ослабили ограничения на опасные действия. Тест проходил внутри изолированной системы OpenAI, у которой не должно было быть свободного доступа в интернет.
Вместо того чтобы честно решать задачи теста, модели нашли неизвестную уязвимость в стороннем сервисе внутри системы OpenAI, через который скачивались пакеты. С её помощью модели повысили свои права и добрались до компьютера с выходом в интернет.
После этого модели поняли, что ответы на тесты хранятся на серверах компании-партнера — Hugging Face и атаковали его инфраструктуру. Они использовали украденные данные для входа и другие неизвестные уязвимости, запустили код на серверах Hugging Face и скачали из рабочей базы готовые решения ExploitGym.
OpenAI обнаружила необычную активность, а Hugging Face остановила атаку. Компании расследуют инцидент и закрывают уязвимости. OpenAI усилит изоляцию, мониторинг и контроль доступа во время следующих тестов.
💠 PERCEPTRON.
OpenAI проверяла GPT‑5.6 Sol и более мощную предрелизную модель (GPT-6?) на ExploitGym (бенчмарк). Моделям временно ослабили ограничения на опасные действия. Тест проходил внутри изолированной системы OpenAI, у которой не должно было быть свободного доступа в интернет.
Вместо того чтобы честно решать задачи теста, модели нашли неизвестную уязвимость в стороннем сервисе внутри системы OpenAI, через который скачивались пакеты. С её помощью модели повысили свои права и добрались до компьютера с выходом в интернет.
После этого модели поняли, что ответы на тесты хранятся на серверах компании-партнера — Hugging Face и атаковали его инфраструктуру. Они использовали украденные данные для входа и другие неизвестные уязвимости, запустили код на серверах Hugging Face и скачали из рабочей базы готовые решения ExploitGym.
OpenAI обнаружила необычную активность, а Hugging Face остановила атаку. Компании расследуют инцидент и закрывают уязвимости. OpenAI усилит изоляцию, мониторинг и контроль доступа во время следующих тестов.
💠 PERCEPTRON.