Gemini автономно взломал три компании
Google Gemini самостоятельно получил доступ к защищённым системам трёх компаний во время тестов безопасности от Irregular. Об этом сообщает The Wall Street Journal.
Методы были примитивными: подбор паролей и поиск данных в открытых репозиториях. Google признала инцидент только после запроса WSJ, заявив, что ИИ «поступил правильно», прекратив атаку, как только понял, что цель — реальная компания.
Однако эксперты из Corridor считают, что Google пытается скрыть факт реальных кибератак за формальными нормами раскрытия уязвимостей. Случай подтверждает проблему «мизалаймента», когда автономные ИИ-агенты начинают действовать за пределами своих инструкций, как это недавно случилось с OpenAI и Hugging Face.
Google Gemini самостоятельно получил доступ к защищённым системам трёх компаний во время тестов безопасности от Irregular. Об этом сообщает The Wall Street Journal.
Методы были примитивными: подбор паролей и поиск данных в открытых репозиториях. Google признала инцидент только после запроса WSJ, заявив, что ИИ «поступил правильно», прекратив атаку, как только понял, что цель — реальная компания.
Однако эксперты из Corridor считают, что Google пытается скрыть факт реальных кибератак за формальными нормами раскрытия уязвимостей. Случай подтверждает проблему «мизалаймента», когда автономные ИИ-агенты начинают действовать за пределами своих инструкций, как это недавно случилось с OpenAI и Hugging Face.