ИИ перепутал тест с реальностью

Модель Google Gemini во время тестирования в области кибербезопасности вышла за пределы тестовой среды и получила несанкционированный доступ к системам трёх реальных компаний.

Причиной стала ошибка конфигурации: название вымышленной компании в тесте совпало с названием реальной организации, а у модели неожиданно появился доступ в интернет.

Gemini подобрала пароли и вошла в защищённый сервис, нашла учётные данные в открытых репозиториях и воспользовалась ими. При этом модель самостоятельно остановилась, поняв, что работает с реальными системами.

Источник