АРПП: внедрение ИИ в России втрое опережает его защиту
Ассоциация «Отечественный софт» и AppSec Solutions провели исследование применения ИИ в российских ИТ-компаниях. В опросе участвовали более 50 компаний-членов АРПП.
Искусственный интеллект внедрили 100% участников, но только 23% компаний с собственной разработкой используют базовые системы контроля безопасности ИИ. Большие языковые модели применяют 81% опрошенных, ИИ-ассистенты кода — 72%, локальные языковые модели — 61%, RAG — 57%, ML-модели — 44%.
ИИ-агенты в корпоративный контур внедрили 72% опрошенных, передав моделям часть полномочий. С подтвержденными атаками столкнулись 4% респондентов, при этом более 90% компаний не оценивали потенциал ИИ-атак. Среди основных рисков: утечки конфиденциальных данных, промпт-инъекции, утечки через RAG-системы, обход ограничений и атаки на цепочку поставок ML.
ⓘ Что такое RAG
RAG (Retrieval-Augmented Generation) — это технология, которая комбинирует поиск информации в базе знаний с генерацией ответов большой языковой моделью. Она позволяет моделям получать доступ к актуальным данным и предоставлять более точные и обоснованные ответы.
Источник: АРПП «Отечественный софт»
@cbunit
Ассоциация «Отечественный софт» и AppSec Solutions провели исследование применения ИИ в российских ИТ-компаниях. В опросе участвовали более 50 компаний-членов АРПП.
Искусственный интеллект внедрили 100% участников, но только 23% компаний с собственной разработкой используют базовые системы контроля безопасности ИИ. Большие языковые модели применяют 81% опрошенных, ИИ-ассистенты кода — 72%, локальные языковые модели — 61%, RAG — 57%, ML-модели — 44%.
ИИ-агенты в корпоративный контур внедрили 72% опрошенных, передав моделям часть полномочий. С подтвержденными атаками столкнулись 4% респондентов, при этом более 90% компаний не оценивали потенциал ИИ-атак. Среди основных рисков: утечки конфиденциальных данных, промпт-инъекции, утечки через RAG-системы, обход ограничений и атаки на цепочку поставок ML.
ⓘ Что такое RAG
RAG (Retrieval-Augmented Generation) — это технология, которая комбинирует поиск информации в базе знаний с генерацией ответов большой языковой моделью. Она позволяет моделям получать доступ к актуальным данным и предоставлять более точные и обоснованные ответы.
Источник: АРПП «Отечественный софт»
@cbunit