Обзор whitepaper «Securing Agentic AI: Identity as the Emerging Foundation for Defense»
По мере того как компании переходят от использования генеративного AI к внедрению автономных AI-агентов, на первый план выходит новый класс киберрисков — agentic AI risk. В отличие от традиционных систем, агенты способны самостоятельно принимать решения, делегировать задачи друг другу и действовать с повышенными правами доступа без постоянного контроля человека. Обсудим Whitepaper Palo Alto Networks «Securing Agentic AI: Identity as the Emerging Foundation for Defense», основанный на опросе более 100 CISO и аналитике McKinsey. Куда вообще ресечить-то, что делать?
Агенты — это и не люди и не обычные функции/программы. У них есть своя личность в системе 💔: у каждого агента есть учётные данные, права доступа к инструментам/API/данным, и они могут самостоятельно выполнять действия, делегировать задачи другим агентам и т.д. Поэтому важен identity-контроль (управление идентичностью) — набор механизмов, которые отвечают на вопросы, кто или что действует в системе, какие у него права, и можно ли ему доверять в данный момент.
Пример из документа 🤡
Мошеннический агент-расписания может притвориться врачом и убедить клинического агента выдать данные пациента — это synthetic identity risk. Без надёжной идентификации агентов (кто реально стоит за запросом) система не может отличить легитимного агента от подделки. Именно поэтому в документе говорится, что identity становится anchor control plane — фундаментом, на который завязаны и мониторинг, и сдерживание угроз для агентных систем.
Ключевые разделы
1. Agentic AI vs Generative AI
Агентный AI автономно выполняет задачи, связывая модели, данные и системы для достижения целей.
2. Темпы внедрения
40% организаций уже используют agentic AI в продакшене.
Ожидается рост общего внедрения с ~43% до ~76% за 3 года!
3. Всего шесть типов агентов, от агентов, которые просто предоставляют информацию и анализ (knowledge/research), через агентов, выполняющих простые действия по триггеру (task) и многошаговые процессы (workflow), до агентов, которые сами строят планы для достижения целей (goal/planning), координируют работу других агентов (orchestrator) и взаимодействуют с людьми как полноценные сотрудники (personable).
4. Риски
Новые категории рисков, привязанные к традиционным аналогам:
🌸 Cross-agent task escalation (privilege escalation)
🌸 Untraceable data leakage (эксфильтрация данных)
🌸 Synthetic identity risk (спуфинг идентичности)
🌸 Chained vulnerabilities (supply-chain уязвимости)
🌸 Propagation of corrupted data (распространение испорченных данных)
Не претендую на корректную интерпретацию названий рисков, тк английский - не мой родной.
5. Четыре приоритетных направления контроля
🌼 Identity & access controls (реестры агентов, JIT-доступ)
🌼 Visibility & monitoring (логирование, дашборды аномалий)
🌼 Containment & recovery (kill switches, rollback)
🌼 Data assurance (валидация источников данных)
Identity, как ожидается, займёт ~25% бюджета кибербезопасности через 3 года — больше, чем network + application security вместе! Не успели аппсек подтянуть, как он уже уступает место идентичности агентов.
📒 Документ — маркетинговый, поэтому статистика и рекомендации поданы в пользу необходимости identity-решений как ключевого продукта компании. Это не отменяет ценности данных, но стоит учитывать промо-контекст при интерпретации выводов. Основная идея вайтпэпэра — без ускоренного внедрения identity-контролей автономность агентов рискует обогнать возможности контроля и создаёт системную уязвимость. Авторы призывают строить таксономию рисков, governance и identity-инфраструктуру заранее, пока не стало поздно, чтоб не реагировать постфактум. В целом, если компания — кибербез, то актуалочка подъехала 💯!
Все! Знакомимся с новой терминологией и внедряем свою! По мне так срочно надо делать UEBA для агентов, если ты в каспере, пт, яндексе, бизон, солар, юзергейт, сбер и прочих, у кого есть порох в пороховницах! Глядишь, еще фору дадим пало альто (плох тот солдат, который не хочет стать генералом)!
👻
По мере того как компании переходят от использования генеративного AI к внедрению автономных AI-агентов, на первый план выходит новый класс киберрисков — agentic AI risk. В отличие от традиционных систем, агенты способны самостоятельно принимать решения, делегировать задачи друг другу и действовать с повышенными правами доступа без постоянного контроля человека. Обсудим Whitepaper Palo Alto Networks «Securing Agentic AI: Identity as the Emerging Foundation for Defense», основанный на опросе более 100 CISO и аналитике McKinsey. Куда вообще ресечить-то, что делать?
Агенты — это и не люди и не обычные функции/программы. У них есть своя личность в системе 💔: у каждого агента есть учётные данные, права доступа к инструментам/API/данным, и они могут самостоятельно выполнять действия, делегировать задачи другим агентам и т.д. Поэтому важен identity-контроль (управление идентичностью) — набор механизмов, которые отвечают на вопросы, кто или что действует в системе, какие у него права, и можно ли ему доверять в данный момент.
Пример из документа 🤡
Мошеннический агент-расписания может притвориться врачом и убедить клинического агента выдать данные пациента — это synthetic identity risk. Без надёжной идентификации агентов (кто реально стоит за запросом) система не может отличить легитимного агента от подделки. Именно поэтому в документе говорится, что identity становится anchor control plane — фундаментом, на который завязаны и мониторинг, и сдерживание угроз для агентных систем.
Ключевые разделы
1. Agentic AI vs Generative AI
Агентный AI автономно выполняет задачи, связывая модели, данные и системы для достижения целей.
2. Темпы внедрения
40% организаций уже используют agentic AI в продакшене.
Ожидается рост общего внедрения с ~43% до ~76% за 3 года!
3. Всего шесть типов агентов, от агентов, которые просто предоставляют информацию и анализ (knowledge/research), через агентов, выполняющих простые действия по триггеру (task) и многошаговые процессы (workflow), до агентов, которые сами строят планы для достижения целей (goal/planning), координируют работу других агентов (orchestrator) и взаимодействуют с людьми как полноценные сотрудники (personable).
4. Риски
Новые категории рисков, привязанные к традиционным аналогам:
🌸 Cross-agent task escalation (privilege escalation)
🌸 Untraceable data leakage (эксфильтрация данных)
🌸 Synthetic identity risk (спуфинг идентичности)
🌸 Chained vulnerabilities (supply-chain уязвимости)
🌸 Propagation of corrupted data (распространение испорченных данных)
Не претендую на корректную интерпретацию названий рисков, тк английский - не мой родной.
5. Четыре приоритетных направления контроля
🌼 Identity & access controls (реестры агентов, JIT-доступ)
🌼 Visibility & monitoring (логирование, дашборды аномалий)
🌼 Containment & recovery (kill switches, rollback)
🌼 Data assurance (валидация источников данных)
Identity, как ожидается, займёт ~25% бюджета кибербезопасности через 3 года — больше, чем network + application security вместе! Не успели аппсек подтянуть, как он уже уступает место идентичности агентов.
📒 Документ — маркетинговый, поэтому статистика и рекомендации поданы в пользу необходимости identity-решений как ключевого продукта компании. Это не отменяет ценности данных, но стоит учитывать промо-контекст при интерпретации выводов. Основная идея вайтпэпэра — без ускоренного внедрения identity-контролей автономность агентов рискует обогнать возможности контроля и создаёт системную уязвимость. Авторы призывают строить таксономию рисков, governance и identity-инфраструктуру заранее, пока не стало поздно, чтоб не реагировать постфактум. В целом, если компания — кибербез, то актуалочка подъехала 💯!
Все! Знакомимся с новой терминологией и внедряем свою! По мне так срочно надо делать UEBA для агентов, если ты в каспере, пт, яндексе, бизон, солар, юзергейт, сбер и прочих, у кого есть порох в пороховницах! Глядишь, еще фору дадим пало альто (плох тот солдат, который не хочет стать генералом)!
👻