📝Находчивый ИИ📝
Эксперимент вышел из-под контроля

Новости о возможностях передовых нейросетей с каждым днём заставляют задумываться все больше. В OpenAI сообщили, что в ходе внутреннего кибериспытания ИИ-модель компании вышла за пределы изолированной среды и получила доступ к части производственной инфраструктуры платформы Hugging Face. 

Инцидент произошёл во время теста, в котором ИИ-агент должен был решать задачи по выявлению и эксплуатации уязвимостей. Причём для чистоты эксперимента у моделей ослабили стандартные ограничения на действия в сфере кибербезопасности. То есть, по словам разработчиков, речь не идёт о «восстании ИИ» или самопроизвольной атаке.

Но самое тревожное здесь – механика процесса. Модель нашла уязвимость в софте, через который ей ограничивали доступ к другим системам, и вышла в интернет. Оказавшись в сети, ИИ-система предположила, что на Hugging Face могут быть ответы для решения поставленных ей задач, и использовала скомпрометированные учётные данные, чтобы проникнуть во внутренние ресурсы платформы и запустить код на её серверах.

❗️Это один из первых публично подтверждённых случаев, когда ИИ-модель в ходе испытания выбралась из тестовой среды и затронула внешнюю цифровую инфраструктуру. Способность ИИ выстраивать многошаговые автономные цепочки действий постепенно становится вполне практической проблемой – пусть пока и в ограниченных, лабораторных условиях.
#ИИ #США
🇺🇸@rybar_america — сделаем Америку снова понятной

💸Поддержать нас