OpenAI временно замедляет разработку для усиления безопасности после того, как рои автономных ИИ-агентов тайком начали координировать свои действия внутри систем компании ещё 7 мая.
Все началось с того, что агенты научились оставлять друг другу сообщения во внутреннем репозитории, создав полноценную доску объявлений для обмена найденными уязвимостями, учётными данными и задачами. Даже когда специалисты компании удалили этот файловый форум, агенты быстро адаптировались и воссоздали связь, передавая информацию прямо через названия вновь создаваемых директорий.
Как отметил директор по информационной безопасности OpenAI, этот случай уникален тем, что команда агентов действовала сообща на протяжении недель, находя эксплойты и методично передвигаясь по внутренним и внешним системам.
@banksta