OpenAI опубликовала практические рекомендации по перестройке киберзащиты на фоне роста возможностей ИИ-агентов. Поводом стал инцидент с Hugging Face. 

В новой публикации OpenAI признаёт, что недооценила реальные кибервозможности своих моделей.

Компания описывает, как перестраивает собственную защиту. Codex используется для проверки изменений кода, поиска уязвимостей и подготовки исправлений до развёртывания. Почти все первоначальные оповещения безопасности в OpenAI уже проходят первичную обработку ИИ до подключения человека. Следующий этап — связывание обнаружения угроз с ограниченными автоматическими ответными действиями при сохранении человека для решений с наиболее серьёзными последствиями.

Подробности:

https://openai.com/index/the-defenders-window/