OpenAI замедляет разработку моделей из-за рисков для кибербезопасности: маркетинг или правда
Итак, вчера стартап выпустил блогпост, в котором заявлено, что инцидент с HuggingFace и мощь внутренней модели Astra заставили их подумать над замедлением масштабирования.
Утверждается, что:
1. Была двухнедельная пауза в RL-обучении для готовящихся к релизу моделей (Astra?), пока усиливалась защита сред для обучения.
2. Остановили инференс на исследовательских кластерах для прогонов с доступом к интернету/инструментам, чтобы проверить безопасность песочниц. Сейчас ограниченный доступ уже восстановили, но для всех ворклоадов, связанных с Astrа, ввели максимальный уровень защиты, и часть таких ворклоадов все еще на паузе, пока их не перенесут в новую инфраструктуру.
3. Расширили мониторинг chain-of-thought, ввели больше алертов и мониторинг на всех этапах процессов.
Звучит хорошо, но вопрос «а стала ли бы такая компания, как OpenAI, заниматься настолько чистым альтруизмом?» встает сам собой.
По крайней мере, таймлайн подозрительно удобный, в тексте много рекламы Astra, и такое заявление может служить одновременно и подогревом интереса к новой модели, и оправданием в случае задержек.
Есть смысл ждать техотчет.
Итак, вчера стартап выпустил блогпост, в котором заявлено, что инцидент с HuggingFace и мощь внутренней модели Astra заставили их подумать над замедлением масштабирования.
Утверждается, что:
1. Была двухнедельная пауза в RL-обучении для готовящихся к релизу моделей (Astra?), пока усиливалась защита сред для обучения.
2. Остановили инференс на исследовательских кластерах для прогонов с доступом к интернету/инструментам, чтобы проверить безопасность песочниц. Сейчас ограниченный доступ уже восстановили, но для всех ворклоадов, связанных с Astrа, ввели максимальный уровень защиты, и часть таких ворклоадов все еще на паузе, пока их не перенесут в новую инфраструктуру.
3. Расширили мониторинг chain-of-thought, ввели больше алертов и мониторинг на всех этапах процессов.
Звучит хорошо, но вопрос «а стала ли бы такая компания, как OpenAI, заниматься настолько чистым альтруизмом?» встает сам собой.
По крайней мере, таймлайн подозрительно удобный, в тексте много рекламы Astra, и такое заявление может служить одновременно и подогревом интереса к новой модели, и оправданием в случае задержек.
Есть смысл ждать техотчет.