⚠️ OpenAI назвала предстоящую модель Astra первой «критической» моделью для кибербезопасности
OpenAI провела внутренние тесты будущей Astra. Результаты по автономному написанию кода и кибербезопасности оказались настолько высокими, что ей предварительно присвоили порог Critical в рамках Preparedness Framework (внутренней шкалы оценки катастрофических рисков ИИ). Прошлые версии включая GPT-5.6-Sol доходили максимум до уровня High.
На этом уровне модель без участия человека находит и пишет рабочие zero-day (это уязвимости, о которых разработчики ещё не знают или для которых ещё не выпущено исправление) эксплойты для защищённых систем либо сама придумывает и проводит новые атаки на защищённые цели, получив только общую задачу.
Внутренние работы с Astra, которые не дотягивают до усиленных требований — изолированные среды, ограниченный доступ к сети и инструментам, шифрование весов, песочница, — приостановлены. Все агентные запуски модели, включая обучение и оценку, теперь под мониторингом, который читает цепочку рассуждений и прерывает опасные действия.
К проверке возможностей Astra подключат госведомства и организации по ИИ-безопасности.
Также уточнили, что Astra не связана с недавним инцидентом на Hugging Face.
Учитывая паузу в разработке, внедрение таких жестких мер изоляции и грядущие тесты со спецслужбами, полноценный релиз Astra, судя по всему, сильно откладывается.
💠 PERCEPTRON.
OpenAI провела внутренние тесты будущей Astra. Результаты по автономному написанию кода и кибербезопасности оказались настолько высокими, что ей предварительно присвоили порог Critical в рамках Preparedness Framework (внутренней шкалы оценки катастрофических рисков ИИ). Прошлые версии включая GPT-5.6-Sol доходили максимум до уровня High.
На этом уровне модель без участия человека находит и пишет рабочие zero-day (это уязвимости, о которых разработчики ещё не знают или для которых ещё не выпущено исправление) эксплойты для защищённых систем либо сама придумывает и проводит новые атаки на защищённые цели, получив только общую задачу.
Внутренние работы с Astra, которые не дотягивают до усиленных требований — изолированные среды, ограниченный доступ к сети и инструментам, шифрование весов, песочница, — приостановлены. Все агентные запуски модели, включая обучение и оценку, теперь под мониторингом, который читает цепочку рассуждений и прерывает опасные действия.
К проверке возможностей Astra подключат госведомства и организации по ИИ-безопасности.
Также уточнили, что Astra не связана с недавним инцидентом на Hugging Face.
Учитывая паузу в разработке, внедрение таких жестких мер изоляции и грядущие тесты со спецслужбами, полноценный релиз Astra, судя по всему, сильно откладывается.
💠 PERCEPTRON.