📝
Находчивый ИИ📝
Э
ксперимент вышел из-под контроля Новости о возможностях передовых нейросетей с каждым днём заставляют задумываться все больше. В
OpenAI сообщили, что в ходе внутреннего кибериспытания ИИ-модель компании вышла за пределы изолированной среды и получила доступ к части производственной инфраструктуры платформы
Hugging Face.
Инцидент произошёл во время теста, в котором ИИ-агент должен был решать задачи по выявлению и эксплуатации уязвимостей. Причём для чистоты эксперимента у моделей ослабили стандартные ограничения на действия в сфере кибербезопасности. То есть, по словам разработчиков,
речь не идёт о «восстании ИИ» или самопроизвольной атаке.
Но самое тревожное здесь –
механика процесса. Модель нашла уязвимость в софте, через который ей ограничивали доступ к другим системам, и вышла в интернет. Оказавшись в сети, ИИ-система предположила, что на Hugging Face могут быть ответы для решения поставленных ей задач, и
использовала скомпрометированные учётные данные, чтобы проникнуть во внутренние ресурсы платформы и запустить код на её серверах.
❗️Это один из первых публично подтверждённых случаев, когда ИИ-модель в ходе испытания выбралась из тестовой среды и затронула внешнюю цифровую инфраструктуру. Способность ИИ выстраивать многошаговые автономные цепочки действий постепенно становится вполне практической проблемой – пусть пока и в ограниченных, лабораторных условиях.
#ИИ #США
🇺🇸
@rybar_america — сделаем Америку снова понятной
💸
Поддержать нас