OpenAI притормозила работу над Astra из-за риска автономных кибератак

OpenAI поставила часть экспериментов с Astra на паузу. Предварительные тесты не позволили исключить, что модель способна автономно искать уязвимости нулевого дня и проводить сложные атаки на защищённые системы.

Компания переводит испытания в изолированные среды и усиливает мониторинг. Anthropic тоже не выпускает самые мощные системы для всех, но внутреннюю разработку не останавливает — две ведущие лаборатории по-разному оценили достаточность своих защитных мер.

🔗 Читать: https://mltimes.ai/openai-pritormozila-rabotu-nad-astra-iz-za-riska-avtonomnyh/