КОГДА ЗАЩИТА ДЕЛАЕТ УЯЗВИМЕЕ
#ИИ #кибербезопасность #USA
ИИ-агенты атакуют, а защитные ограничения мешают самим защитникам.
О проблеме сообщили Hugging Face, OpenAI, Anthropic и исследователи в сфере кибербезопасности.
Разработчики нейросетей рассказали, что опасный ИИ способен обойти ограничения и провести атаку, тогда как модели с усиленной защитой могут отказаться помогать специалистам остановить угрозу.
Исследование показало, что почти 44% запросов для защиты могли отклоняться. Именно это произошло с Hugging Face: американские модели отказались анализировать атаку, поэтому компания использовала китайскую GLM 5.2.
Эксперты предупреждают, что злоумышленники могут обходить ограничения, а законные специалисты вынуждены их соблюдать. Поэтому усиление запретов способно одновременно снижать риски и мешать защите.
T.ly/LJACs
#ИИ #кибербезопасность #USA
ИИ-агенты атакуют, а защитные ограничения мешают самим защитникам.
О проблеме сообщили Hugging Face, OpenAI, Anthropic и исследователи в сфере кибербезопасности.
Разработчики нейросетей рассказали, что опасный ИИ способен обойти ограничения и провести атаку, тогда как модели с усиленной защитой могут отказаться помогать специалистам остановить угрозу.
Исследование показало, что почти 44% запросов для защиты могли отклоняться. Именно это произошло с Hugging Face: американские модели отказались анализировать атаку, поэтому компания использовала китайскую GLM 5.2.
Эксперты предупреждают, что злоумышленники могут обходить ограничения, а законные специалисты вынуждены их соблюдать. Поэтому усиление запретов способно одновременно снижать риски и мешать защите.
T.ly/LJACs