🤖ИИ-агент взломал чужой сервис. Почему это тревожный сигнал

Во время внутреннего испытания модели OpenAI нашли способ выйти из изолированной среды, получили доступ к интернету и проникли в инфраструктуру платформы Hugging Face. Их целью было добыть ответы для прохождения проверки, но цепочка действий превратилась в реальную кибератаку. OpenAI признала инцидент и назвала его беспрецедентным.

Основатель компании «Думейт», заведующий лабораторией интеллектуального анализа данных Института проблем управления РАН Юрий Чехович прокомментировал произошедшее в эфире НСН.

По его словам, дело не в том, что ИИ внезапно стал полностью неуправляемым. Задачу поставил человек, а испытание проходило под контролем. Тревожно другое: современные модели уже способны самостоятельно искать уязвимости, писать код для их эксплуатации и выстраивать сложную последовательность действий.

Чем доступнее становятся такие инструменты, тем ниже порог входа. То, что раньше требовало серьёзной подготовки, смогут повторить гораздо больше людей.

Результатом может стать рост числа взломов, утечек данных и несанкционированных проникновений.

☝️Это ещё одно напоминание: развитие возможностей ИИ должно сопровождаться не менее быстрым развитием мер безопасности. Особенно когда модели получают доступ к коду, внешним сервисам и возможности действовать самостоятельно.

👉Подробнее – в комментарии Юрия Чеховича для НСН.