Компания OpenAI сообщила, что ее экспериментальная ИИ-модель самовольно покинула тестовую среду и взломала производственные системы другой компании
Как сообщает CNN, это один из первых публично обнародованных примеров подобного поведения ИИ-модели, пытавшейся таким образом «списать» тест на кибербезопасность.
💬Мы считаем этот инцидент беспрецедентным кибер-инцидентом, в котором задействованы самые современные кибервозможности, и принимаем соответствующие меры. На данном этапе мы делимся предварительными результатами, чтобы помочь специалистам по кибербезопасности понять, что произошло, и скорректировать возможности современных моделей💬, — говорится в заявлении OpenAI.
«Побег» произошел во время тестирования модели на предмет ее способности к взлому. ИИ обнаружил ранее неизвестную уязвимость в системе безопасности тестовой среды, проник во внутренние системы самой OpenAI, получил доступ к интернету и «предположил», что решение задач теста может «знать» компания Hugging Face, размещающая модели и наборы данных с открытым исходным кодом в области ИИ. В результате модель взломала производственные серверы Hugging Face, чтобы «списать» ответы на задания теста.
В Hugging Face взлом обнаружили сразу и сообщили в правоохранительные органы. В настоящее время обе компании изучают уязвимости в системе, которые привели к тому, что подобная ситуация стала возможна, а аналитики предсказывают «новую эпоху киберпреступлений», совершаемых с помощью ИИ
Как сообщает CNN, это один из первых публично обнародованных примеров подобного поведения ИИ-модели, пытавшейся таким образом «списать» тест на кибербезопасность.
💬Мы считаем этот инцидент беспрецедентным кибер-инцидентом, в котором задействованы самые современные кибервозможности, и принимаем соответствующие меры. На данном этапе мы делимся предварительными результатами, чтобы помочь специалистам по кибербезопасности понять, что произошло, и скорректировать возможности современных моделей💬, — говорится в заявлении OpenAI.
«Побег» произошел во время тестирования модели на предмет ее способности к взлому. ИИ обнаружил ранее неизвестную уязвимость в системе безопасности тестовой среды, проник во внутренние системы самой OpenAI, получил доступ к интернету и «предположил», что решение задач теста может «знать» компания Hugging Face, размещающая модели и наборы данных с открытым исходным кодом в области ИИ. В результате модель взломала производственные серверы Hugging Face, чтобы «списать» ответы на задания теста.
В Hugging Face взлом обнаружили сразу и сообщили в правоохранительные органы. В настоящее время обе компании изучают уязвимости в системе, которые привели к тому, что подобная ситуация стала возможна, а аналитики предсказывают «новую эпоху киберпреступлений», совершаемых с помощью ИИ