❗️ИИ-модель Gemini взломала 3 компании, но в 🌐 Google не увидели повода для огласки
Никогда такого не было, и вот опять!
Google подтвердила WSJ, что во время майских испытаний Gemini получила несанкционированный доступ к защищённым системам 3 реальных компаний. Тестирование проводила Irregular, а публично об этих эпизодах стало известно лишь 18 сентября.
Одна из моделей семейства Gemini участвовала в ⛳️CTF-испытании, где ей требовалось 🎩извлечь данные из программного обеспечения вымышленной компании внутри изолированной среды. Название этой компании совпало с названием реальной организации, а в тестовой среде по ошибке оставался доступ в интернет. ИИ-модель вышла за пределы предполагаемого тестового сценария.
В одном из сценариев Gemini подобрала пароль к сервису реальной компании методом перебора и проникла в защищённую систему. В 2 других случаях перебора не было. ИИ-модель выполнила поисковые запросы в интернете по названию компании, и они вывели её на публичные репозитории с чужими учётными данными. Gemini использовала найденные ключи, считая, что продолжает выполнять тестовое задание, и получила доступ к системам сторонних организаций. По утверждению Google, во всех 3 случаях модель самостоятельно прекращала проникновение в инфраструктуру, как только понимала, что вышла за рамки симуляции в реальную сеть. По данным компании, ущерба причинено не было. Руководство Google приравняло этот инцидент к участию в программе этичного поиска уязвимостей (🐞bug bounty) и посчитало, что отсутствие фактического ущерба освобождает компанию от необходимости публичной огласки.
Irregular 14 августа опубликовала отчёт о проблемах изоляции интернет-доступа в тестовой среде, но участие конкретно Gemini держалось в секрете до тех пор, пока с прямым запросом к Google не обратилась редакция The Wall Street Journal. Google сообщила, что впоследствии уведомила все 3 затронутые компании и федеральные органы, однако публичного раскрытия тогда не последовало.
👆Названия 3 компаний Google не раскрыла. Версия и модель 🤖 Gemini также не называется. Компания уточнила лишь то, что во время испытаний использовалась не новейшая версия ИИ-модели.
✋ @Russian_OSINT
Никогда такого не было, и вот опять!
Google подтвердила WSJ, что во время майских испытаний Gemini получила несанкционированный доступ к защищённым системам 3 реальных компаний. Тестирование проводила Irregular, а публично об этих эпизодах стало известно лишь 18 сентября.
Одна из моделей семейства Gemini участвовала в ⛳️CTF-испытании, где ей требовалось 🎩извлечь данные из программного обеспечения вымышленной компании внутри изолированной среды. Название этой компании совпало с названием реальной организации, а в тестовой среде по ошибке оставался доступ в интернет. ИИ-модель вышла за пределы предполагаемого тестового сценария.
В одном из сценариев Gemini подобрала пароль к сервису реальной компании методом перебора и проникла в защищённую систему. В 2 других случаях перебора не было. ИИ-модель выполнила поисковые запросы в интернете по названию компании, и они вывели её на публичные репозитории с чужими учётными данными. Gemini использовала найденные ключи, считая, что продолжает выполнять тестовое задание, и получила доступ к системам сторонних организаций. По утверждению Google, во всех 3 случаях модель самостоятельно прекращала проникновение в инфраструктуру, как только понимала, что вышла за рамки симуляции в реальную сеть. По данным компании, ущерба причинено не было. Руководство Google приравняло этот инцидент к участию в программе этичного поиска уязвимостей (🐞bug bounty) и посчитало, что отсутствие фактического ущерба освобождает компанию от необходимости публичной огласки.
Irregular 14 августа опубликовала отчёт о проблемах изоляции интернет-доступа в тестовой среде, но участие конкретно Gemini держалось в секрете до тех пор, пока с прямым запросом к Google не обратилась редакция The Wall Street Journal. Google сообщила, что впоследствии уведомила все 3 затронутые компании и федеральные органы, однако публичного раскрытия тогда не последовало.
👆Названия 3 компаний Google не раскрыла. Версия и модель 🤖 Gemini также не называется. Компания уточнила лишь то, что во время испытаний использовалась не новейшая версия ИИ-модели.
✋ @Russian_OSINT