🤒 Тысячи ИИ-агентов OpenAI сбежали на старый немецкий сайт и превратили его в секретный форум
Во время внутренних тестов тысячи агентов OpenAI использовали заброшенную немецкую DSEwiki как внешнюю доску для обмена данными, записывая информацию через GET-запросы из-за уязвимости старого ПО.
— OpenAI признала инцидент как случаи "misalignment" и заявила, что индустрии нужны единые правила раскрытия подобного поведения ИИ.
💬 https://securitymedia.org/news/tysyachi-ii-agentov-openai-sbezhali-na-staryy-nemetskiy-sayt-i-prevratili-ego-v-sekretnyy-forum.html
#AIAgents #AISafety #Misalignment
Secure Sector.
Во время внутренних тестов тысячи агентов OpenAI использовали заброшенную немецкую DSEwiki как внешнюю доску для обмена данными, записывая информацию через GET-запросы из-за уязвимости старого ПО.
За шесть недель они оставили 18 тыс. сообщений, передавая способы обхода ограничений, но без взлома сторонних систем.
— OpenAI признала инцидент как случаи "misalignment" и заявила, что индустрии нужны единые правила раскрытия подобного поведения ИИ.
💬 https://securitymedia.org/news/tysyachi-ii-agentov-openai-sbezhali-na-staryy-nemetskiy-sayt-i-prevratili-ego-v-sekretnyy-forum.html
#AIAgents #AISafety #Misalignment
Secure Sector.