Теневой ИИ: теперь в повестке совета директоров
Ранее я писал о Shadow AI по статье Compliance Podcast Network The 30-Day Shadow AI Amnesty: Turning Hidden Risk Into Governance. Тогда основной тезис был в том, что запрет не устраняет несанкционированное использование ИИ. Он может лишь сделать его менее видимым. Поэтому начинать нужно с выявления реальной практики: кто, для каких задач, с какими данными и с каким влиянием на решения уже использует ИИ.
Теперь этой же проблемой озаботились и в российском корпоративном управлении.
В статье Сергея Ревякина «Теневой ИИ: риск, который совет директоров может не увидеть» тема рассматривается уже не как локальный вопрос ИТ или информационной безопасности, а как разрыв между фактической работой компании и формальной системой управления.
Компания может ещё не иметь ИИ-стратегии, корпоративной платформы или специальных правил, а сотрудники уже используют внешние модели для работы с документами, кодом, клиентскими обращениями, аналитикой и проектами управленческих решений.
То есть технология входит в процессы раньше, чем организация успевает определить правила её использования.
📌 Управлять нужно сценариями, а не самим фактом использования ИИ
Черновик внутреннего письма и использование модели при подготовке кредитного заключения или кадрового решения – это принципиально разные ситуации.
Различаются данные, последствия ошибки, требования к проверке результата, допустимая автономность и ответственность.
Поэтому управлять нужно не ИИ в общем, а конкретными сценариями его использования:
задача → данные → влияние на решение → автономность → проверка человеком → ответственность → контроль.
Именно карта таких сценариев позволяет понять, где использование ИИ действительно существенно для компании.
📌 Совет задаёт рамку, менеджмент строит систему
Совету директоров не нужно выбирать модели или разбираться в технической архитектуре.
Его вопросы находятся на другом уровне: какое значение ИИ имеет для стратегии, какой риск компания готова принять, какие данные нельзя передавать во внешние сервисы, где участие человека обязательно и кто отвечает за результат.
От менеджмента требуется уже фактическая картина: где используется ИИ, какие сценарии являются критичными, какие инструменты разрешены, как работают правила с данными, как разбираются инциденты и кому принадлежит ответственность за систему управления.
Именно здесь Shadow AI перестаёт быть историей про отдельных сотрудников, которые используют удобный сервис без согласования.
Он становится показателем того, насколько система управления успевает за изменением реальных способов работы.
🎯 От обнаружения теневого ИИ – к корпоративному управлению
Раньше вопрос звучал так: как сделать скрытое использование ИИ видимым, не вытеснив его ещё глубже запретами.
Теперь появляется следующий уровень: что делать с этой видимостью на уровне корпоративного управления.
Если ИИ уже влияет на данные, процессы и решения, его использование должно быть связано со стратегией, риск-аппетитом, ответственностью и контролем.
Теневой ИИ становится проблемой совета директоров не потому, что совет должен контролировать технологии, а потому, что технология уже меняет способы принятия решений внутри компании.
Ранее я писал о Shadow AI по статье Compliance Podcast Network The 30-Day Shadow AI Amnesty: Turning Hidden Risk Into Governance. Тогда основной тезис был в том, что запрет не устраняет несанкционированное использование ИИ. Он может лишь сделать его менее видимым. Поэтому начинать нужно с выявления реальной практики: кто, для каких задач, с какими данными и с каким влиянием на решения уже использует ИИ.
Теперь этой же проблемой озаботились и в российском корпоративном управлении.
В статье Сергея Ревякина «Теневой ИИ: риск, который совет директоров может не увидеть» тема рассматривается уже не как локальный вопрос ИТ или информационной безопасности, а как разрыв между фактической работой компании и формальной системой управления.
Компания может ещё не иметь ИИ-стратегии, корпоративной платформы или специальных правил, а сотрудники уже используют внешние модели для работы с документами, кодом, клиентскими обращениями, аналитикой и проектами управленческих решений.
То есть технология входит в процессы раньше, чем организация успевает определить правила её использования.
📌 Управлять нужно сценариями, а не самим фактом использования ИИ
Черновик внутреннего письма и использование модели при подготовке кредитного заключения или кадрового решения – это принципиально разные ситуации.
Различаются данные, последствия ошибки, требования к проверке результата, допустимая автономность и ответственность.
Поэтому управлять нужно не ИИ в общем, а конкретными сценариями его использования:
задача → данные → влияние на решение → автономность → проверка человеком → ответственность → контроль.
Именно карта таких сценариев позволяет понять, где использование ИИ действительно существенно для компании.
📌 Совет задаёт рамку, менеджмент строит систему
Совету директоров не нужно выбирать модели или разбираться в технической архитектуре.
Его вопросы находятся на другом уровне: какое значение ИИ имеет для стратегии, какой риск компания готова принять, какие данные нельзя передавать во внешние сервисы, где участие человека обязательно и кто отвечает за результат.
От менеджмента требуется уже фактическая картина: где используется ИИ, какие сценарии являются критичными, какие инструменты разрешены, как работают правила с данными, как разбираются инциденты и кому принадлежит ответственность за систему управления.
Именно здесь Shadow AI перестаёт быть историей про отдельных сотрудников, которые используют удобный сервис без согласования.
Он становится показателем того, насколько система управления успевает за изменением реальных способов работы.
🎯 От обнаружения теневого ИИ – к корпоративному управлению
Раньше вопрос звучал так: как сделать скрытое использование ИИ видимым, не вытеснив его ещё глубже запретами.
Теперь появляется следующий уровень: что делать с этой видимостью на уровне корпоративного управления.
Если ИИ уже влияет на данные, процессы и решения, его использование должно быть связано со стратегией, риск-аппетитом, ответственностью и контролем.
Теневой ИИ становится проблемой совета директоров не потому, что совет должен контролировать технологии, а потому, что технология уже меняет способы принятия решений внутри компании.