🧠 Сотрудник OpenAI по безопасности ушёл, назвав культуру компании «сломанной»
Дэвид Робинсон, проработавший в OpenAI три с половиной года и руководивший подготовкой safety-отчётов к крупным запускам, объявил об уходе. В эссе он заявил, что культура компании «сломана».
Робинсон считает, что «итеративное развёртывание» — выпуск моделей с последующим исправлением сбоев — гарантирует периодические провалы, причём их цена растёт вместе со способностями ИИ. Он призывает строить безопасность по образцу авиации и атомной энергетики: с резервированием и долгим планированием.
OpenAI ответила, что способна приостанавливать обучение и задерживать релизы, усиливает защиту сред разработки, независимые оценки и мониторинг. Разрешён ли конфликт внутри компании, неизвестно: это позиция бывшего сотрудника и официальный ответ компании.
Источник
Дэвид Робинсон, проработавший в OpenAI три с половиной года и руководивший подготовкой safety-отчётов к крупным запускам, объявил об уходе. В эссе он заявил, что культура компании «сломана».
Робинсон считает, что «итеративное развёртывание» — выпуск моделей с последующим исправлением сбоев — гарантирует периодические провалы, причём их цена растёт вместе со способностями ИИ. Он призывает строить безопасность по образцу авиации и атомной энергетики: с резервированием и долгим планированием.
OpenAI ответила, что способна приостанавливать обучение и задерживать релизы, усиливает защиту сред разработки, независимые оценки и мониторинг. Разрешён ли конфликт внутри компании, неизвестно: это позиция бывшего сотрудника и официальный ответ компании.
Источник