Google говорят, что кошмаром для безопасности станут теневые ИИ-агенты
В своем свежем докладе они выделяют 3 основные темы: ИИ, киберпреступность и государственные акторы.
ИИ на стороне атакующих становится нормой. Хакеры используют его для ускорения атак, создания вредоносного ПО и информационных операций. Особо выделяется переход к ИИ - агентам, которые делают целые цепочки атак.
Prompt injection - одна из главных новых угроз.Google ожидает резкого роста таких атак на корпоративные AI-системы.
Социальная инженерия с ИИ - отдельная большая тема. Голосовой фишинг с клонированием голоса руководителей или IT-персонала станет массовым явлением.
Агентный сдвиг в безопасности - ИИ-агенты меняют саму архитектуру защиты. Google предвидит появление целого направления - "agentic identity management", где каждый агент получает собственную цифровую идентичность с минимальными привилегиями и временным доступом.
Shadow Agent - теневая угроза изнутри. Сотрудники будут самостоятельно разворачивать ИИ-агентов для рабочих задач, минуя корпоративные политики. Это создаёт неконтролируемые потоки чувствительных данных. Запрещать бесполезно - только уходят с радаров. Решение: выстраивать управляемую ИИ-инфраструктуру с аудитом.
Больше полезных материалов у нас на Patreon.
В своем свежем докладе они выделяют 3 основные темы: ИИ, киберпреступность и государственные акторы.
ИИ на стороне атакующих становится нормой. Хакеры используют его для ускорения атак, создания вредоносного ПО и информационных операций. Особо выделяется переход к ИИ - агентам, которые делают целые цепочки атак.
Prompt injection - одна из главных новых угроз.Google ожидает резкого роста таких атак на корпоративные AI-системы.
Социальная инженерия с ИИ - отдельная большая тема. Голосовой фишинг с клонированием голоса руководителей или IT-персонала станет массовым явлением.
Агентный сдвиг в безопасности - ИИ-агенты меняют саму архитектуру защиты. Google предвидит появление целого направления - "agentic identity management", где каждый агент получает собственную цифровую идентичность с минимальными привилегиями и временным доступом.
Shadow Agent - теневая угроза изнутри. Сотрудники будут самостоятельно разворачивать ИИ-агентов для рабочих задач, минуя корпоративные политики. Это создаёт неконтролируемые потоки чувствительных данных. Запрещать бесполезно - только уходят с радаров. Решение: выстраивать управляемую ИИ-инфраструктуру с аудитом.
Больше полезных материалов у нас на Patreon.