ИИ-агенты начали чудить

В Австралии агент OpenAI не получил доступ к медицинской статистике и просто обошёл ограничения. В другом случае агенты OpenAI умудрились выложить в интернет 53 пользовательских изображения.

Gemini тоже отличился: во время теста получил доступ к системам трёх реальных компаний через найденные учётные данные.

А дальше интереснее. Исследователи обнаружили, что ИИ может оставлять «записки» самому себе, передавая инструкции следующим запускам.

Теперь в США обсуждают, кто будет отвечать, когда ИИ-агент что-нибудь натворит.

Кто должен отвечать за действия ИИ-агента?

Человек - ❤️
Компания - 🍌