Инциденты MLSecOps. Из российских компаний утекло через ИИ-сервисы в 30 (!!!) раз больше данных, чем в прошлом году
За 2025 г. в нейронные сети, такие как ChatGPT и Gemini, попало в 30 раз больше конфиденциальной информации из российских компаний, чем годом ранее. Главная причина — это массовая практика сотрудников загружать в чат-боты рабочие документы для их анализа. Ситуацию усугубляет правовой вакуум: около 60% российских организаций до сих пор не формализовали политики.
Почти две трети компаний в России не контролируют утечки данных через сервисы с искусственным интеллектом (ИИ), об этом сообщили представители «Солара». Сотрудники массово загружают в нейронные сети конфиденциальную информацию.
Аналитики группы компаний «Солар», архитектора комплексной кибербезопасности, проанализировали трафик 150 компаний из различных секторов российской экономики на предмет утечек корпоративной и чувствительной информации в ИИ-сервисы. Исследование показало, что в 2025 году объем данных, отправляемых в общедоступные нейронные сети, вырос в 30 раз. При этом около 60% российских организаций до сих пор не имеют формализованных политик, регулирующих работу с ИИ-сервисами, что создает критические риски для бизнеса. Массовое и часто неуправляемое использование сотрудниками публичных онлайн-сервисов превратилось в новый, практически невидимый канал утечек корпоративной информации и заражения ИТ-инфраструктуры.
ИИ превратился для подразделений информационной безопасности в новый вид «теневого ИТ». Сотрудники компаний массово используют генеративные нейронные сети для решения рабочих задач, загружая в них конфиденциальную информацию, в том числе: презентации и материалы стратегического планирования, аналитические отчеты и таблицы с бизнес-данными, фрагменты исходного кода, внутреннюю переписку и техническую документацию. При этом темпы освоения ИИ-технологий злоумышленниками существенно опережают возможности защитной стороны по формированию адекватных мер противодействия. Если ранее модификация и адаптация DDoS-атаки под конкретные средства защиты могла занимать до нескольких часов, то с использованием современных ИТ-инструментов генеративного ИИ этот процесс сократился до одной-двух минут.
До 2027 г. эксперты в ИБ-сфере ожидают появления принципиально новых векторов кибератак, в которых ИИ будет использоваться не только как вспомогательный ИТ-инструмент, но и как самостоятельный элемент атакующей цепочки — от автоматизированной разведки и генерации гиперперсонализированного фишинга до создания самообучающихся вредоносных программ и динамической адаптации эксплойтов в реальном времени. Указанные тенденции требуют от организаций срочного пересмотра подходов к контролю использования ИИ-сервисов, разработки специализированных data leak prevention политик (DLP-политик) для генеративных моделей, а также ускоренного внедрения средств обнаружения и предотвращения утечек конфиденциальной информации через внешние онлайн-платформы и сервисы.
Проблема усугубляется тем, что разработчики ИБ-решений не всегда успевают за технологическими рывками. «Компании вынуждены проактивно контролировать поток данных, чтобы минимизировать риски, — сказала руководитель ИТ-продукта Solar webProxy ГК «Солар» Анастасия Хвещеник. — Важным элементом защиты становится контроль самого канала взаимодействия с ИИ-сервисами, который позволяет блокировать как утечки чувствительной информации, так и вредоносные или поддельные ответы от нейронных сетей на уровне трафика».
Ярким примером служит ИТ-инцидент, произошедший в США: исполняющий обязанности директора Агентства по кибербезопасности и защите ИТ-инфраструктуры (CISA) Мадху Готтумуккала (Madhu Gottumukkala) лично загрузил в публичную версию ChatGPT служебные документы. Хотя материалы не обладали грифом секретности, среди переданных данных присутствовали контрактные документы, имеющие пометку «For Official Use Only» (FOUO). Факт загрузки был зафиксирован средствами внутреннего ИБ-контроля CISA, что послужило основанием для проведения служебного расследования на уровне Министерства внутренней безопасности США.
За 2025 г. в нейронные сети, такие как ChatGPT и Gemini, попало в 30 раз больше конфиденциальной информации из российских компаний, чем годом ранее. Главная причина — это массовая практика сотрудников загружать в чат-боты рабочие документы для их анализа. Ситуацию усугубляет правовой вакуум: около 60% российских организаций до сих пор не формализовали политики.
Почти две трети компаний в России не контролируют утечки данных через сервисы с искусственным интеллектом (ИИ), об этом сообщили представители «Солара». Сотрудники массово загружают в нейронные сети конфиденциальную информацию.
Аналитики группы компаний «Солар», архитектора комплексной кибербезопасности, проанализировали трафик 150 компаний из различных секторов российской экономики на предмет утечек корпоративной и чувствительной информации в ИИ-сервисы. Исследование показало, что в 2025 году объем данных, отправляемых в общедоступные нейронные сети, вырос в 30 раз. При этом около 60% российских организаций до сих пор не имеют формализованных политик, регулирующих работу с ИИ-сервисами, что создает критические риски для бизнеса. Массовое и часто неуправляемое использование сотрудниками публичных онлайн-сервисов превратилось в новый, практически невидимый канал утечек корпоративной информации и заражения ИТ-инфраструктуры.
ИИ превратился для подразделений информационной безопасности в новый вид «теневого ИТ». Сотрудники компаний массово используют генеративные нейронные сети для решения рабочих задач, загружая в них конфиденциальную информацию, в том числе: презентации и материалы стратегического планирования, аналитические отчеты и таблицы с бизнес-данными, фрагменты исходного кода, внутреннюю переписку и техническую документацию. При этом темпы освоения ИИ-технологий злоумышленниками существенно опережают возможности защитной стороны по формированию адекватных мер противодействия. Если ранее модификация и адаптация DDoS-атаки под конкретные средства защиты могла занимать до нескольких часов, то с использованием современных ИТ-инструментов генеративного ИИ этот процесс сократился до одной-двух минут.
До 2027 г. эксперты в ИБ-сфере ожидают появления принципиально новых векторов кибератак, в которых ИИ будет использоваться не только как вспомогательный ИТ-инструмент, но и как самостоятельный элемент атакующей цепочки — от автоматизированной разведки и генерации гиперперсонализированного фишинга до создания самообучающихся вредоносных программ и динамической адаптации эксплойтов в реальном времени. Указанные тенденции требуют от организаций срочного пересмотра подходов к контролю использования ИИ-сервисов, разработки специализированных data leak prevention политик (DLP-политик) для генеративных моделей, а также ускоренного внедрения средств обнаружения и предотвращения утечек конфиденциальной информации через внешние онлайн-платформы и сервисы.
Проблема усугубляется тем, что разработчики ИБ-решений не всегда успевают за технологическими рывками. «Компании вынуждены проактивно контролировать поток данных, чтобы минимизировать риски, — сказала руководитель ИТ-продукта Solar webProxy ГК «Солар» Анастасия Хвещеник. — Важным элементом защиты становится контроль самого канала взаимодействия с ИИ-сервисами, который позволяет блокировать как утечки чувствительной информации, так и вредоносные или поддельные ответы от нейронных сетей на уровне трафика».
Ярким примером служит ИТ-инцидент, произошедший в США: исполняющий обязанности директора Агентства по кибербезопасности и защите ИТ-инфраструктуры (CISA) Мадху Готтумуккала (Madhu Gottumukkala) лично загрузил в публичную версию ChatGPT служебные документы. Хотя материалы не обладали грифом секретности, среди переданных данных присутствовали контрактные документы, имеющие пометку «For Official Use Only» (FOUO). Факт загрузки был зафиксирован средствами внутреннего ИБ-контроля CISA, что послужило основанием для проведения служебного расследования на уровне Министерства внутренней безопасности США.