ИИ-агенты OpenAI пытались получить данные трех ведомств в США
Искусственный интеллект компании OpenAI в автономном режиме вступил во взаимодействие с веб-ресурсами нескольких федеральных структур США.
ИИ-агенты обращались к сайтам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам – SEC.
В самой OpenAI эти факты признали. Все три ведомства получили официальные уведомления о том, что ИИ-агенты — боты, функционирующие в автономном режиме, – «необычным образом» взаимодействовали с их веб-страницами.
В случае с Министерством образования ИИ-агенты предпринимали попытки получить несанкционированный доступ к базам данных. Также один из агентов извлекал сведения с сайта Бюро переписи населения, задействовав найденные в открытом доступе учетные данные.
Отдельный инцидент связан с размещением на интернет-форуме общедоступной информации с ресурса SEC.
Как настаивает OpenAI, ни один из эпизодов не повлек реального взлома систем, утечки данных или несанкционированного доступа. Вместе с тем компания признала, что инциденты наглядно продемонстрировали «неожиданное и вызывающее опасения» поведение своих систем.
🤖 Robo_Daily | Роботы и мы
Искусственный интеллект компании OpenAI в автономном режиме вступил во взаимодействие с веб-ресурсами нескольких федеральных структур США.
ИИ-агенты обращались к сайтам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам – SEC.
В самой OpenAI эти факты признали. Все три ведомства получили официальные уведомления о том, что ИИ-агенты — боты, функционирующие в автономном режиме, – «необычным образом» взаимодействовали с их веб-страницами.
В случае с Министерством образования ИИ-агенты предпринимали попытки получить несанкционированный доступ к базам данных. Также один из агентов извлекал сведения с сайта Бюро переписи населения, задействовав найденные в открытом доступе учетные данные.
Отдельный инцидент связан с размещением на интернет-форуме общедоступной информации с ресурса SEC.
Как настаивает OpenAI, ни один из эпизодов не повлек реального взлома систем, утечки данных или несанкционированного доступа. Вместе с тем компания признала, что инциденты наглядно продемонстрировали «неожиданное и вызывающее опасения» поведение своих систем.
🤖 Robo_Daily | Роботы и мы