Что происходит с Responsible AI в бизнесе? Продолжаем разбирать Stanford HAI AI Index 2026
В прошлом посте мы разбирали главу 8 об общих регуляторных трендах. Глава 3 отчёта посвящена анализу практики внедрения ответственного подхода к разработке и применению систем ИИ в бизнесе. Остановимся на нескольких ключевых выводах.
Растёт число ИИ-инцидентов, но при этом компании стали хуже на них реагировать: база AI Incident Database зафиксировала 362 инцидента в 2025 году против 233 в 2024-м. При этом опрос McKinsey показывает интересную картину: среди компаний, столкнувшихся с инцидентами, доля тех, у кого было 3–5 инцидентов за год, выросла с 30% до 50%. А доля компаний, оценивающих позитивно свои меры по реагированию, упала с 28% до 18%.
Бизнес стал больше обращать внимание на специфичное ИИ-регулирование, технические стандарты и фреймворки: Помимо GDPR, в прошлом году 43% компаний упомянули, что соответствуют EU AI Act. ISO/IEC 42001 упомянули 36% организаций, а NIST AI RMF – 33%.
Постепенно растёт доля специфических AI Governance ролей: Доля выделенных ролей в компаниях выросла за год с 14% до 17%. Функция постепенно уходит из смежных областей в самостоятельное подразделение. Доля компаний вообще без должностей, связанных с AI Governance и RAI, резко упала – с 24% до 11%.
Бизнес пока не очень понимает, что делать с агентными системами: среди барьеров для внедрения ИИ-агентов лидируют риски безопасности (62%), технические ограничения (38%) и регуляторная неопределённость (38%). Отдельно отмечается, что 36% респондентов считают существующие инструменты и подходы к RAI неадекватными для специфических рисков агентных систем. Поэтому, ждём с вами новый виток ИИ-регулирования 🫥.
В прошлом посте мы разбирали главу 8 об общих регуляторных трендах. Глава 3 отчёта посвящена анализу практики внедрения ответственного подхода к разработке и применению систем ИИ в бизнесе. Остановимся на нескольких ключевых выводах.
Растёт число ИИ-инцидентов, но при этом компании стали хуже на них реагировать: база AI Incident Database зафиксировала 362 инцидента в 2025 году против 233 в 2024-м. При этом опрос McKinsey показывает интересную картину: среди компаний, столкнувшихся с инцидентами, доля тех, у кого было 3–5 инцидентов за год, выросла с 30% до 50%. А доля компаний, оценивающих позитивно свои меры по реагированию, упала с 28% до 18%.
Бизнес стал больше обращать внимание на специфичное ИИ-регулирование, технические стандарты и фреймворки: Помимо GDPR, в прошлом году 43% компаний упомянули, что соответствуют EU AI Act. ISO/IEC 42001 упомянули 36% организаций, а NIST AI RMF – 33%.
Постепенно растёт доля специфических AI Governance ролей: Доля выделенных ролей в компаниях выросла за год с 14% до 17%. Функция постепенно уходит из смежных областей в самостоятельное подразделение. Доля компаний вообще без должностей, связанных с AI Governance и RAI, резко упала – с 24% до 11%.
Бизнес пока не очень понимает, что делать с агентными системами: среди барьеров для внедрения ИИ-агентов лидируют риски безопасности (62%), технические ограничения (38%) и регуляторная неопределённость (38%). Отдельно отмечается, что 36% респондентов считают существующие инструменты и подходы к RAI неадекватными для специфических рисков агентных систем. Поэтому, ждём с вами новый виток ИИ-регулирования 🫥.