Bloomberg: OpenAI приостанавливает обучение наиболее мощных моделей после «побега из песочницы»

– Очередная модель OpenAI смогла получить доступ ко внешней сети
– Получив доступ к сети, модель связалась со сторонним чат-ботом
– Модель смогла воспользоваться «лазейкой» в изолированной среде
– Получив доступ, модель отправила чат-боту мин. 20 запросов
– OpenAI решила приостановить обучение наиболее мощных моделей
– Пока фокусом будет устранение уязвимостей в «песочнице»
– Обучение сбежавшей модели компания возобновлять не планирует
– Нарушения безопасности вызывают тревогу у ИБ-экспертов
– Подобные кейсы случились с моделями OpenAI, Anthropic и DeepMind
– Недавно модель OpenAI нарушила работу сайта властей Австралии
– Нарушения выявляют пробелы в операционных процессах самой OpenAI
– Рецензент-человек получил оповещение и подтвердил его за 3 мин.
– Однако процесс обучения модели OpenAI автоматически не остановился
– Потребовалось более двух часов, чтобы остановить процесс вручную
– Даже после усиления мер безопасности, модели OpenAI могут «сбегать»

@ftsec