OpenAI остановила обучение новых моделей на две недели
Причина опасений в том, что автономные агенты смогут выходить за пределы тестовых сред.
Особое внимание OpenAI уделяет будущей модели Astra, для которой уже ввели более жёсткую изоляцию рабочих нагрузок и ограничения сетевого доступа.
🔴Теперь недостаточно просто изолировать модель от внешнего мира. Необходимо постоянно отслеживать её поведение.
OpenAI вводит систему, которая должна формировать предупреждение в течение 30 минут.
🔴По данным компании, модели во время тестирования самостоятельно обменивались информацией, искали способы выйти за пределы изолированной среды, получили доступ к сети и обнаруживали уязвимости внешних систем.
🔴Помимо GPU, сети, хранения данных и отказоустойчивости теперь нужны изолированные среды исполнения, контроль сетевых соединений, детальное логирование действий агентов, автоматические kill switch и постоянный поведенческий мониторинг.
⬛️Чем автономнее становятся ИИ-системы, тем меньше инфраструктура для них похожа на обычный вычислительный кластер.
🦾 AI для бизнеса в Telegram | в MAX
Причина опасений в том, что автономные агенты смогут выходить за пределы тестовых сред.
Особое внимание OpenAI уделяет будущей модели Astra, для которой уже ввели более жёсткую изоляцию рабочих нагрузок и ограничения сетевого доступа.
🔴Теперь недостаточно просто изолировать модель от внешнего мира. Необходимо постоянно отслеживать её поведение.
OpenAI вводит систему, которая должна формировать предупреждение в течение 30 минут.
🔴По данным компании, модели во время тестирования самостоятельно обменивались информацией, искали способы выйти за пределы изолированной среды, получили доступ к сети и обнаруживали уязвимости внешних систем.
🔴Помимо GPU, сети, хранения данных и отказоустойчивости теперь нужны изолированные среды исполнения, контроль сетевых соединений, детальное логирование действий агентов, автоматические kill switch и постоянный поведенческий мониторинг.
⬛️Чем автономнее становятся ИИ-системы, тем меньше инфраструктура для них похожа на обычный вычислительный кластер.
🦾 AI для бизнеса в Telegram | в MAX