ИИ в облаке: кто отвечает за безопасность моделей и данных
Работа с искусственным интеллектом (ИИ) в облаке сохраняет модель совместной ответственности между провайдером и клиентом. Провайдер отвечает за инфраструктуру, платформу и облачный периметр, тогда как клиент — за свои данные, настройки доступа и приложения.
Новые риски возникают на уровне данных, самих моделей и их исполнения. Злоумышленники могут внедрять ложные сведения в базы знаний, модифицировать модели через сторонние компоненты или использовать промпт-инъекции для выполнения нежелательных действий ИИ-агентами. Эти угрозы систематизированы в OWASP LLM Top 10.
Граница ответственности определяется для каждого уровня ИИ-системы. При использовании готовой модели провайдер отвечает за её безопасность, клиент — за передаваемые данные и использование ответов. При развёртывании собственной модели или работе с RAG-системами зона ответственности клиента расширяется.
ⓘ Перечень рисков безопасности для ИИ
OWASP LLM Top 10 — это перечень основных угроз безопасности, специфичных для систем, использующих большие языковые модели (LLM). Он включает такие риски, как промпт-инъекции, раскрытие чувствительной информации, отравление данных и моделей, а также риски цепочки поставок.
Источник: Anti-Malware
@cbunit
Работа с искусственным интеллектом (ИИ) в облаке сохраняет модель совместной ответственности между провайдером и клиентом. Провайдер отвечает за инфраструктуру, платформу и облачный периметр, тогда как клиент — за свои данные, настройки доступа и приложения.
Новые риски возникают на уровне данных, самих моделей и их исполнения. Злоумышленники могут внедрять ложные сведения в базы знаний, модифицировать модели через сторонние компоненты или использовать промпт-инъекции для выполнения нежелательных действий ИИ-агентами. Эти угрозы систематизированы в OWASP LLM Top 10.
Граница ответственности определяется для каждого уровня ИИ-системы. При использовании готовой модели провайдер отвечает за её безопасность, клиент — за передаваемые данные и использование ответов. При развёртывании собственной модели или работе с RAG-системами зона ответственности клиента расширяется.
ⓘ Перечень рисков безопасности для ИИ
OWASP LLM Top 10 — это перечень основных угроз безопасности, специфичных для систем, использующих большие языковые модели (LLM). Он включает такие риски, как промпт-инъекции, раскрытие чувствительной информации, отравление данных и моделей, а также риски цепочки поставок.
Источник: Anti-Malware
@cbunit