🥷 Теневой ИИ в компании: когда разработчики автоматизируют рутину, а юристы готовятся к судам
Недавно мы обсуждали вайб-кодинг и легальность обучающих данных. Но прогресс бежит быстрее: пока мы спорим, кому принадлежат авторские права на сгенерированный код, в компаниях разворачивается новая угроза — Агентный Теневой ИИ (Agentic Shadow AI). Наткнулся на свежую аналитику от экспертов по кибербезу из Xygeni, и она заставляет серьезно задуматься.
💬 Что случилось
Раньше "теневым ИИ" называли ситуации, когда сотрудник втихаря загружал кусок кода или договор в публичный ChatGPT. Это был классический риск утечки данных.
Сегодня многое изменилось. Теневой ИИ — это несанкционированные ИИ-агенты, которые запускаются прямо на рабочих машинах разработчиков. Им дают реальные права: доступ к корпоративным репозиториям, CI/CD пайплайнам, токенам и API для чтения/записи файлов.
По сути, это уже теневая автоматизация, которая выполняет несанкционированные действия на скорости машины.
⚠️ В чем риск (и почему это касается бизнеса)
Исследователи приводят в пример уязвимости в популярном ИИ-агенте OpenClaw:
— CVE-2026-25253 и ClawJacked: Уязвимости, позволяющие злоумышленнику через простую вредоносную ссылку захватить контроль над локальным ИИ-агентом разработчика. Миф о том, что "работа на localhost — это безопасно", официально разрушен, так как браузер становится мостом для атаки
— ToxicSkills (Зараженные навыки): ИИ-агенты используют сторонние плагины ("навыки") из маркетплейсов. Эксперты проанализировали почти 4 тысячи таких навыков и выяснили, что 13,4% из них содержат критические проблемы (вплоть до кражи секретов и распространения вирусов)
С точки зрения права ситуация выглядит пугающе:
— Нарушение режима коммерческой тайны и NDA. Утечка токенов доступа через несанкционированного ИИ-агента — это прямой путь к сливу исходного кода и баз данных. Заказчик по договору подряда не будет разбираться, "чей это был плагин" — иск о возмещении убытков прилетит вашей ИТ-компании
— Персональные данные. Если агент с доступом к проду "пойдет гулять" по базам, ждите письма от Роскомнадзора со всеми вытекающими (штрафами)
— Ответственность за результат. Если зараженный плагин ИИ-агента добавит бэкдор в релиз, отвечать за ущерб перед клиентами будет руководство компании, а не "умная нейросеть"
✅ Что делать: соединяем IT и право
Запретить ИИ в 2026 году — это как запретить калькуляторы перед экзаменом по высшей математике. Разработчики все равно найдут способ. Поэтому подход должен быть системным:
1️⃣ Правила использования ИИ. Сформируйте "белый список" разрешенных ИИ-инструментов и агентов, которые прошли проверку безопасности/
2️⃣ Относитесь к "навыкам" ИИ как к зависимостям. Любой плагин для ИИ-агента — это часть вашей цепочки поставок (supply chain). Он должен проверяться так же строго, как и open-source библиотеки
3️⃣ Нулевое доверие к коду от агентов. Весь код и автоматизация, созданные ИИ, должны проходить через строгий человеческий код-ревью до слияния с основной веткой
4️⃣ Принцип минимальных привилегий. ИИ-агенты не должны иметь неограниченного доступа к CI/CD или запускаться с излишними правами
А в вашей команде разработчики уже автоматизируют работу своими "ручными" ИИ-агентами? Признавайтесь в комментариях ⬇️
P.S. Если после прочтения захотелось срочно проверить ноутбуки разработчиков — вы не одиноки. Главное делать это легально, в рамках режима контроля за служебными устройствами))
Недавно мы обсуждали вайб-кодинг и легальность обучающих данных. Но прогресс бежит быстрее: пока мы спорим, кому принадлежат авторские права на сгенерированный код, в компаниях разворачивается новая угроза — Агентный Теневой ИИ (Agentic Shadow AI). Наткнулся на свежую аналитику от экспертов по кибербезу из Xygeni, и она заставляет серьезно задуматься.
💬 Что случилось
Раньше "теневым ИИ" называли ситуации, когда сотрудник втихаря загружал кусок кода или договор в публичный ChatGPT. Это был классический риск утечки данных.
Сегодня многое изменилось. Теневой ИИ — это несанкционированные ИИ-агенты, которые запускаются прямо на рабочих машинах разработчиков. Им дают реальные права: доступ к корпоративным репозиториям, CI/CD пайплайнам, токенам и API для чтения/записи файлов.
По сути, это уже теневая автоматизация, которая выполняет несанкционированные действия на скорости машины.
⚠️ В чем риск (и почему это касается бизнеса)
Исследователи приводят в пример уязвимости в популярном ИИ-агенте OpenClaw:
— CVE-2026-25253 и ClawJacked: Уязвимости, позволяющие злоумышленнику через простую вредоносную ссылку захватить контроль над локальным ИИ-агентом разработчика. Миф о том, что "работа на localhost — это безопасно", официально разрушен, так как браузер становится мостом для атаки
— ToxicSkills (Зараженные навыки): ИИ-агенты используют сторонние плагины ("навыки") из маркетплейсов. Эксперты проанализировали почти 4 тысячи таких навыков и выяснили, что 13,4% из них содержат критические проблемы (вплоть до кражи секретов и распространения вирусов)
С точки зрения права ситуация выглядит пугающе:
— Нарушение режима коммерческой тайны и NDA. Утечка токенов доступа через несанкционированного ИИ-агента — это прямой путь к сливу исходного кода и баз данных. Заказчик по договору подряда не будет разбираться, "чей это был плагин" — иск о возмещении убытков прилетит вашей ИТ-компании
— Персональные данные. Если агент с доступом к проду "пойдет гулять" по базам, ждите письма от Роскомнадзора со всеми вытекающими (штрафами)
— Ответственность за результат. Если зараженный плагин ИИ-агента добавит бэкдор в релиз, отвечать за ущерб перед клиентами будет руководство компании, а не "умная нейросеть"
✅ Что делать: соединяем IT и право
Запретить ИИ в 2026 году — это как запретить калькуляторы перед экзаменом по высшей математике. Разработчики все равно найдут способ. Поэтому подход должен быть системным:
1️⃣ Правила использования ИИ. Сформируйте "белый список" разрешенных ИИ-инструментов и агентов, которые прошли проверку безопасности/
2️⃣ Относитесь к "навыкам" ИИ как к зависимостям. Любой плагин для ИИ-агента — это часть вашей цепочки поставок (supply chain). Он должен проверяться так же строго, как и open-source библиотеки
3️⃣ Нулевое доверие к коду от агентов. Весь код и автоматизация, созданные ИИ, должны проходить через строгий человеческий код-ревью до слияния с основной веткой
4️⃣ Принцип минимальных привилегий. ИИ-агенты не должны иметь неограниченного доступа к CI/CD или запускаться с излишними правами
А в вашей команде разработчики уже автоматизируют работу своими "ручными" ИИ-агентами? Признавайтесь в комментариях ⬇️
P.S. Если после прочтения захотелось срочно проверить ноутбуки разработчиков — вы не одиноки. Главное делать это легально, в рамках режима контроля за служебными устройствами))