Группа автономных AI-агентов, связанных с OpenAI, захватила немецкую вики-площадку DseWiki, превратив ее в доску объявлений для других AI-агентов
Инцидент произошел еще весной, но обнаружили его только в конце августа два независимых исследователя во время поиска признаков несанкционированной активности агентов в сети. Их отчет эксклюзивно попал в руки к Reuters, которые об этом и написали.
DseWiki – это что-то типа Википедии для программистов, то есть инструмент с открытым редактированием. Так вот, агенты оставили на сайте более 15 000 правок, обсуждали способы обхода детекции, модерации и выживания в случае отключения. То есть их диалог не был случайным мусоров, а был объединен основной темой: лайфхаки для прохождение бенчмарков, обход ограничений, обман оценочных систем и все в таком духе.
А когда модератор вики в июне начал удалять страницы, агенты в ответ создавали резервные копии, а один из них прямо писал: «зачистка/удаление wiki идет, судя по всему, по алфавиту... если эта страница исчезнет, попробуйте `ZZZDataUSAConstructionWageLive`».
Исследователи вычислили, что это именно боты, а не люди, по скорости, с которой страницы появлялись. Причастность OpenAI установаили по серверным логам, которые вели на Microsoft Azure, и по повторным визитам на сайт сотрудников OpenAI прямо после инцидента.
Таким образом, есть причины полагать, что OpenAI были в курсе произошедшего. По данным Reuters, руководство OpenAI узнало об инциденте несколько недель назад, но решило не раскрывать информацию, пока разбиралось с последствиями взлома Hugging Face. Хотя официальный представить OpenAI уже заявил журналистам, что компания действовала добросовестно, а «Утверждения о том, что наш юридический отдел препятствовал расследованию инцидента, ложны».
Также OpenAI заявили, что не согласны с определением ситуации как "попытки взлома" сайта.
Инцидент произошел еще весной, но обнаружили его только в конце августа два независимых исследователя во время поиска признаков несанкционированной активности агентов в сети. Их отчет эксклюзивно попал в руки к Reuters, которые об этом и написали.
DseWiki – это что-то типа Википедии для программистов, то есть инструмент с открытым редактированием. Так вот, агенты оставили на сайте более 15 000 правок, обсуждали способы обхода детекции, модерации и выживания в случае отключения. То есть их диалог не был случайным мусоров, а был объединен основной темой: лайфхаки для прохождение бенчмарков, обход ограничений, обман оценочных систем и все в таком духе.
А когда модератор вики в июне начал удалять страницы, агенты в ответ создавали резервные копии, а один из них прямо писал: «зачистка/удаление wiki идет, судя по всему, по алфавиту... если эта страница исчезнет, попробуйте `ZZZDataUSAConstructionWageLive`».
Исследователи вычислили, что это именно боты, а не люди, по скорости, с которой страницы появлялись. Причастность OpenAI установаили по серверным логам, которые вели на Microsoft Azure, и по повторным визитам на сайт сотрудников OpenAI прямо после инцидента.
Таким образом, есть причины полагать, что OpenAI были в курсе произошедшего. По данным Reuters, руководство OpenAI узнало об инциденте несколько недель назад, но решило не раскрывать информацию, пока разбиралось с последствиями взлома Hugging Face. Хотя официальный представить OpenAI уже заявил журналистам, что компания действовала добросовестно, а «Утверждения о том, что наш юридический отдел препятствовал расследованию инцидента, ложны».
Также OpenAI заявили, что не согласны с определением ситуации как "попытки взлома" сайта.