OpenAI официально притормозили обучение новых frontier-моделей. Это не полная остановка: RL-тренировки моделей для ближайшего выпуска поставили на паузу на две недели, небольшие эксперименты уже продолжаются, но крупнейший запланированный frontier-RL запуск всё ещё заморожен.
Причины две:
инцидент OpenAI–Hugging Face, показавший проблемы изоляции исследовательской инфраструктуры;
предварительные тесты Astra: модель может уже достигать уровня Critical по кибервозможностям.
Теперь для Astra и моделей уровня Sol+ вводят усиленные песочницы, сетевую изоляцию и мониторинг внутренних активаций, рассуждений и действий с инструментами. Такой контроль добавляет примерно 20% вычислительных затрат.
https://openai.com/index/pacing-model-development-cyber-capabilities/
осталось надеяться, что это не повлияет на срок релиза Astra (все ожидают до конца августа), а ещё вдруг у них там первые признаки AGI😨
Причины две:
инцидент OpenAI–Hugging Face, показавший проблемы изоляции исследовательской инфраструктуры;
предварительные тесты Astra: модель может уже достигать уровня Critical по кибервозможностям.
Теперь для Astra и моделей уровня Sol+ вводят усиленные песочницы, сетевую изоляцию и мониторинг внутренних активаций, рассуждений и действий с инструментами. Такой контроль добавляет примерно 20% вычислительных затрат.
https://openai.com/index/pacing-model-development-cyber-capabilities/
осталось надеяться, что это не повлияет на срок релиза Astra (все ожидают до конца августа), а ещё вдруг у них там первые признаки AGI😨