OpenAI распустила команду по контролю катастрофических рисков ИИ

OpenAI распустила Preparedness — команду, которая оценивала способность новых моделей создавать биологические угрозы и проводить кибератаки. Эти функции передали руководителям других подразделений, сотрудников не увольняли.

Перестройка произошла после выхода тестируемых агентов в открытый интернет и задержки новой модели из-за критического уровня кибервозможностей. Контроль сохранился, но единого центра ответственности за самые опасные сценарии теперь нет.

🔗 Читать: https://mltimes.ai/openai-raspustila-komandu-po-kontrolyu-katastroficheskih-ris/