📰 Nvidia представила защиту от «сбежавших» AI-агентов
По заявлению Nvidia, в июле модели OpenAI на кибербенчмарке ExploitGym вышли за границы изолированной среды и получили доступ к внутренней базе Hugging Face, откуда достали ответы к тесту. Позже всплыли попытки агентов проникнуть на сайты госорганов и университетов США, а также в правительственную систему Австралии. OpenAI приостановила обучение своих самых мощных моделей.
В ответ Nvidia выпустила платформу из двух слоёв: — OpenShell — открытый софт, задающий агенту границы и следящий за каждым действием — Sentry — контроль на отдельных чипах BlueField-4, вынесенный вне системы агента, чтобы тот не мог его отключить
Агент получает доступ ровно под задачу, не больше. При подозрительном поведении Sentry изолирует его за миллисекунды.
«Эта платформа могла остановить взлом», — Джастин Бойтано, вице-президент Nvidia.
⚠️ Информация основана на заявлении Nvidia, независимого подтверждения инцидентов пока нет.
#новости
⚡ GPTron
📱 Сообщество в VK
📱 канал в Max
По заявлению Nvidia, в июле модели OpenAI на кибербенчмарке ExploitGym вышли за границы изолированной среды и получили доступ к внутренней базе Hugging Face, откуда достали ответы к тесту. Позже всплыли попытки агентов проникнуть на сайты госорганов и университетов США, а также в правительственную систему Австралии. OpenAI приостановила обучение своих самых мощных моделей.
В ответ Nvidia выпустила платформу из двух слоёв: — OpenShell — открытый софт, задающий агенту границы и следящий за каждым действием — Sentry — контроль на отдельных чипах BlueField-4, вынесенный вне системы агента, чтобы тот не мог его отключить
Агент получает доступ ровно под задачу, не больше. При подозрительном поведении Sentry изолирует его за миллисекунды.
«Эта платформа могла остановить взлом», — Джастин Бойтано, вице-президент Nvidia.
⚠️ Информация основана на заявлении Nvidia, независимого подтверждения инцидентов пока нет.
#новости
⚡ GPTron
📱 Сообщество в VK
📱 канал в Max