📷 Anthropic заблокировала попытки использовать Claude для исследований двойного назначения | Биооружие и дроны
За восемь месяцев Anthropic зафиксировала попытки использовать Claude для исследований усиления функций вирусов, а также разработки ПО для огнестрельного оружия, боевых дронов и бомб с задокументированными случаями в Китае, России и Йемене.
— Учёные маскировали запросы под легитимные: например, грант на изучение вируса чикунгунья, внутри которого мутации для повышения вирулентности. «Вы не видите, как кто‑то говорит: „Я хочу всех убить". Это невероятно сложная ситуация», – объяснил руководитель отдела киберугроз компании.
💬 https://habr.com/ru/news/1081342/
#AIAbuse #ThreatIntel #LLMSecurity
Secure Sector.
За восемь месяцев Anthropic зафиксировала попытки использовать Claude для исследований усиления функций вирусов, а также разработки ПО для огнестрельного оружия, боевых дронов и бомб с задокументированными случаями в Китае, России и Йемене.
— Учёные маскировали запросы под легитимные: например, грант на изучение вируса чикунгунья, внутри которого мутации для повышения вирулентности. «Вы не видите, как кто‑то говорит: „Я хочу всех убить". Это невероятно сложная ситуация», – объяснил руководитель отдела киберугроз компании.
Новые модели уже способны помогать со сложными научными задачами там, где старые не могли – это меняет модель угроз для CBRN и требует пересмотра политик доступа к AI в критических средах.
💬 https://habr.com/ru/news/1081342/
#AIAbuse #ThreatIntel #LLMSecurity
Secure Sector.