Shadow AI. Много ссылок
80% сотрудников используют неодобренные ИИ-инструменты.
🥳
Это не слухи. Вот результат анализа 22,4 млн запросов от компании Harmonic Security. Исследователи обнаружили 665 разных сервисов ИИ в корпоративных сетях. 665 🤹! А компании купили лицензий на 40% из них. Для остальных 60% (для которых люди буквально за день нашли способ использования) — никаких контрактов, никакой поддержки, никакой видимости. Ещё забавнее, что 38% сотрудников сами признают, что делились конфиденциальной информацией с ИИ без разрешения. А 16,9% утечек произошло через бесплатные аккаунты, которые IT вообще не видит. Они просто вообще не учитываются. Человек вошёл через личный акк, работу сделал, вышел. Ищи-свищи!
Стоимость этого? 🫂 Samsung узнала о проблеме, когда три инженера за месяц слили исходный код, встречи и данные производства. Сначала компания запретила ChatGPT. Потом отменила запрет, потому что запреты не работают.
В здравоохранении ситуация критична. 57% врачей используют ChatGPT или Gemini для написания заметок о пациентах. Они обрабатывают защищённую медицинскую информацию в инструментах, на которые нет контракта. Это одновременно нарушает HIPAA и рискует жизнями пациентов (если ИИ ошибётся в диагнозе). При этом, когда одной больнице дали одобренный ИИ-инструмент, неодобренное использование упало на 89%. Врачи при этом экономили 32 минуты в день. Не потому, что их запугали. Потому, что им дали что-то лучшее.
IBM посчитала, что Shadow AI добавляет 670 000 долларов к стоимости одного взлома. Организации с высоким уровнем неконтролируемого ИИ платят $4,63 млн за взлом вместо $3,96 млн.
И это только видимые числа. Реальная стоимость insider-угроз, созданных неосторожным использованием ИИ, составляет $10,3 млн в год на одну компанию.
Тем временем, ❤️ европейский закон об ИИ вступил в силу 2 августа 2026. GDPR уже наказывает компании, если сотрудник вставил личные данные клиента в ChatGPT без контракта обработки данных. Как это работает на практике, описано в этой статье про EU AI Act.
Vectra AI провела полный анализ проблемы. Гартнер прогнозирует, что 40% компаний столкнутся с инцидентом, связанным с Shadow AI, к 2030 году.
Что делать? Пост скорее про статистику происходящего, чем про какие-то возможные рекомендации, тут я и не знаю толком, что делать. Люди есть люди.
🔪 Мониторьте нейтрально. Чтоб видеть, что происходит.
🔪 Установите границы. Исходный код проекта — нельзя. Исходный код из публичных репозиториев — можно. Данные о клиентах — нельзя. Общая информация о тренде на рынке — можно. И т.д.
🔪 Самое сложное. Дайте людям правильный инструмент.
Все!
😼
80% сотрудников используют неодобренные ИИ-инструменты.
🥳
Это не слухи. Вот результат анализа 22,4 млн запросов от компании Harmonic Security. Исследователи обнаружили 665 разных сервисов ИИ в корпоративных сетях. 665 🤹! А компании купили лицензий на 40% из них. Для остальных 60% (для которых люди буквально за день нашли способ использования) — никаких контрактов, никакой поддержки, никакой видимости. Ещё забавнее, что 38% сотрудников сами признают, что делились конфиденциальной информацией с ИИ без разрешения. А 16,9% утечек произошло через бесплатные аккаунты, которые IT вообще не видит. Они просто вообще не учитываются. Человек вошёл через личный акк, работу сделал, вышел. Ищи-свищи!
Стоимость этого? 🫂 Samsung узнала о проблеме, когда три инженера за месяц слили исходный код, встречи и данные производства. Сначала компания запретила ChatGPT. Потом отменила запрет, потому что запреты не работают.
В здравоохранении ситуация критична. 57% врачей используют ChatGPT или Gemini для написания заметок о пациентах. Они обрабатывают защищённую медицинскую информацию в инструментах, на которые нет контракта. Это одновременно нарушает HIPAA и рискует жизнями пациентов (если ИИ ошибётся в диагнозе). При этом, когда одной больнице дали одобренный ИИ-инструмент, неодобренное использование упало на 89%. Врачи при этом экономили 32 минуты в день. Не потому, что их запугали. Потому, что им дали что-то лучшее.
IBM посчитала, что Shadow AI добавляет 670 000 долларов к стоимости одного взлома. Организации с высоким уровнем неконтролируемого ИИ платят $4,63 млн за взлом вместо $3,96 млн.
И это только видимые числа. Реальная стоимость insider-угроз, созданных неосторожным использованием ИИ, составляет $10,3 млн в год на одну компанию.
Тем временем, ❤️ европейский закон об ИИ вступил в силу 2 августа 2026. GDPR уже наказывает компании, если сотрудник вставил личные данные клиента в ChatGPT без контракта обработки данных. Как это работает на практике, описано в этой статье про EU AI Act.
Vectra AI провела полный анализ проблемы. Гартнер прогнозирует, что 40% компаний столкнутся с инцидентом, связанным с Shadow AI, к 2030 году.
Что делать? Пост скорее про статистику происходящего, чем про какие-то возможные рекомендации, тут я и не знаю толком, что делать. Люди есть люди.
🔪 Мониторьте нейтрально. Чтоб видеть, что происходит.
🔪 Установите границы. Исходный код проекта — нельзя. Исходный код из публичных репозиториев — можно. Данные о клиентах — нельзя. Общая информация о тренде на рынке — можно. И т.д.
🔪 Самое сложное. Дайте людям правильный инструмент.
Все!
😼