OpenAI уволила 3 сотрудников за утечку и лишилась ещё одного руководителя по безопасности
Продолжение поста
Он также был основным автором Preparedness Framework 2.0 — внутреннего регламента, устанавливающего пороги опасности для перспективных моделей.
Увольнение Кorbak примечательно тем, что именно он служил техническим координатором между OpenAI и сторонними организациями по оценке безопасности — METR и Redwood Research, которых компания ранее пригласила для независимого аудита.
Preparedness Framework 2.0, соавтором которого был Робинсон, выделяет три категории отслеживаемых возможностей: биологические и химические, кибербезопасность, а также способность ИИ к самосовершенствованию. Если модель достигает уровня High, её нельзя развёртывать без дополнительных защитных мер.
Уровень Critical означает, что дальнейшая разработка ставится под сомнение. В system card для Deep Research зафиксировано, что модель «приближается» к порогу High по биологическим возможностям — то есть начинает подходить к способности помочь неспециалисту в создании биологических угроз. Описывать подобные пограничные случаи для публики и было задачей Робинсона.
Перед уходом он написал в X, что сотрудники OpenAI «начинают осознавать» возможные последствия высокоспособного ИИ, но добавил: «Я не знаю, достаточно ли быстро происходят эти изменения». Тем, кто остаётся в компании, он посоветовал думать о том, как использовать своё внутреннее влияние, чтобы добиться более серьёзного отношения к рискам.
Источник: QbitAI (🇨🇳)
#OpenAI #GPT #DeepResearch #безопасность #кадровыеизменения
Продолжение поста
Он также был основным автором Preparedness Framework 2.0 — внутреннего регламента, устанавливающего пороги опасности для перспективных моделей.
Увольнение Кorbak примечательно тем, что именно он служил техническим координатором между OpenAI и сторонними организациями по оценке безопасности — METR и Redwood Research, которых компания ранее пригласила для независимого аудита.
Preparedness Framework 2.0, соавтором которого был Робинсон, выделяет три категории отслеживаемых возможностей: биологические и химические, кибербезопасность, а также способность ИИ к самосовершенствованию. Если модель достигает уровня High, её нельзя развёртывать без дополнительных защитных мер.
Уровень Critical означает, что дальнейшая разработка ставится под сомнение. В system card для Deep Research зафиксировано, что модель «приближается» к порогу High по биологическим возможностям — то есть начинает подходить к способности помочь неспециалисту в создании биологических угроз. Описывать подобные пограничные случаи для публики и было задачей Робинсона.
Перед уходом он написал в X, что сотрудники OpenAI «начинают осознавать» возможные последствия высокоспособного ИИ, но добавил: «Я не знаю, достаточно ли быстро происходят эти изменения». Тем, кто остаётся в компании, он посоветовал думать о том, как использовать своё внутреннее влияние, чтобы добиться более серьёзного отношения к рискам.
Источник: QbitAI (🇨🇳)
#OpenAI #GPT #DeepResearch #безопасность #кадровыеизменения