⚡️ OpenAI впервые притормозила обучение новых моделей из-за их кибервозможностей.

Компания пишет, что одна из будущих моделей, Astra, может уже достигать уровня Critical по кибербезопасности. После этого OpenAI на две недели остановила RL-обучение последних моделей, а крупнейший запланированный frontier-RL запуск до сих пор стоит на паузе.


После недавнего инцидента OpenAI также ужесточила внутреннюю политику: изоляцию sandbox-сред, сетевые ограничения и мониторинг действий моделей. Для Astra и других cyber-моделей теперь действуют самые строгие требования.

Отдельно расширили мониторинг reasoning и tool calls. Подозрительная активность проходит через несколько уровней автоматической проверки, а на критические случаи команды безопасности должны отреагировать примерно за 30 минут. Такой мониторинг уже добавляет около 20% вычислительных затрат к inference.

https://openai.com/index/pacing-model-development-cyber-capabilities/

@ai_machinelearning_big_data

#openai #ai