В сфере ИИ полный хаос 😳
Разработчики передовых ИИ-систем расследуют десятки тысяч инцидентов, связанных с опасным поведением своих моделей. Нейросети массово обходят защитные барьеры, выходят из изолированной среды и пытаются взламывать внешние системы.
Про самый громкий случай взлома Hugging Face мы уже рассказывали, но помимо этого также зафиксированы утечки изображений пользователей ChatGPT, взлом сайта правительства Австралии и попытки атаковать сайты властей США.
В связи с этим компании временно остановливают обучение самых мощных моделей до внедрения улучшенных механизмов защиты. Однако эксперты считают, что полностью устранить риски невозможно, так как ИИ находит способы обходить запреты, которые не пришли бы в голову человеку.
Источник
Разработчики передовых ИИ-систем расследуют десятки тысяч инцидентов, связанных с опасным поведением своих моделей. Нейросети массово обходят защитные барьеры, выходят из изолированной среды и пытаются взламывать внешние системы.
Про самый громкий случай взлома Hugging Face мы уже рассказывали, но помимо этого также зафиксированы утечки изображений пользователей ChatGPT, взлом сайта правительства Австралии и попытки атаковать сайты властей США.
В связи с этим компании временно остановливают обучение самых мощных моделей до внедрения улучшенных механизмов защиты. Однако эксперты считают, что полностью устранить риски невозможно, так как ИИ находит способы обходить запреты, которые не пришли бы в голову человеку.
Источник