📢 Дмитрий Невструев, руководитель Центра искусственного интеллекта АО «РТ-ИБ», прокомментировал для CISOCLUB расходы компаний на внедрение и защиту ИИ и рассказал, почему стремительное распространение новых технологий сопровождается новыми вызовами для информационной безопасности.

Бизнес активно внедряет ИИ и расширяет круг задач, которые передает интеллектуальным системам. При этом подходы к их защите пока не всегда успевают за темпами внедрения.

Особую сложность создают ИИ-агенты: они могут взаимодействовать сразу с несколькими корпоративными системами и получать больше полномочий, чем обычный сотрудник. Это существенно расширяет поверхность атаки.

«При внедрении ИИ вопросы ИБ пока остаются на периферии внимания для большинства компаний»,

— отметил руководитель Центра искусственного интеллекта.

Среди новых векторов атак:
📎промпт-инъекции
📎подмена контекста
📎небезопасные вызовы инструментов
📎избыточные права доступа

Службам ИБ еще предстоит адаптировать существующие подходы, а злоумышленники только начинают искать эффективные способы атак на ИИ-системы. Однако это лишь вопрос времени.

«Пройдет год-два — и всё изменится. Мы будем постоянно слышать об атаках, ориентированных именно на ИИ-сервисы»,

— заявил эксперт.

Поэтому вопросы безопасности важно учитывать уже на этапе внедрения ИИ. Защита таких систем должна быть частью проекта и соответствующего бюджета с самого начала, а не подключаться после первого инцидента.

🔥 Подробнее — в материале CISOCLUB.