Как не потерять контроль, передавая решения ИИ
ИИ-трансформация меняет не только технологии, но и перераспределяет власть в компании: меняются права на принятие решений, ответственность, полномочия и сама роль руководителя. Вместе с Павлом Потеевым, ассоциированным партнером, руководителем Центра цифровой и ИИ-трансформации O2Consulting, разбираем материал MIT Center for Information Systems Research Designing AI Decision Rights Structures — «Проектирование структуры прав на принятие решений искусственным интеллектом» (авторский перевод Павла Потеева).
Статья дает интересную отправную точку для анализа этих изменений.
🧩Матрица принятия решений MIT
Прежде чем распределять права на принятие решений между человеком и ИИ — от полного человеческого контроля до автономности системы, — необходимо понять, с каким типом решения мы имеем дело.
Для этого предлагается матрица по двум параметрам: уровень неопределенности и риск ошибки. На карточке показано, как из их сочетания складываются четыре типа решений.
✔️ Рутинные — низкий риск и низкая неопределенность.
Процедура понятна, последствия ошибки ограничены. Такие решения имеет смысл максимально автоматизировать.
✔️ Исследовательские — низкий риск, но высокая неопределенность.
Здесь важнее быстро учиться, чем сразу получить идеально точный ответ. ИИ может поддерживать принятие решений, а организация — экспериментировать и накапливать опыт.
✔️ Значимые — высокий риск при относительно низкой неопределенности.
Алгоритм действий может быть понятен, но цена ошибки высока. Поэтому необходимо определить границы допустимого: риск-аппетит, уровни контроля и условия, при которых ИИ не должен действовать автономно.
✔️ Стратегические — высокий риск и высокая неопределенность.
Решения затрагивают значительные ресурсы, множество людей или всю организацию. Здесь авторы оставляют лидерство человеку, используя ИИ как инструмент поддержки.
Еще одна важная идея исследования: решение — это не отдельная точка, а процесс. Авторы выделяют три его этапа:
Frame — сформулировать проблему и определить решение.
Act — принять решение и действовать.
Learn — оценить результат и скорректировать дальнейшие действия.
Но есть и более фундаментальная проблема, на которую обращают внимание Павел Потеев и цифровой консультант ДмитрИИй: @firsttalkerbot.
❗️Как правильно распределить задачи, контроль и ответственность внутри команды, также обсудили участники «Стартап-кафе: Таланты», среди которых Татьяна Сафонова, старший партнер, руководитель практики «Стратегия развития финансовых рынков». На встрече была представлена презентация аналитического исследования «Человек и ИИ в одной рабочей системе: как распределять задачи, контроль и ответственность в команде технологического стартапа», подготовленного O2Consulting по заказу АНО «Развитие человеческого капитала».
Полной версией обязательно поделимся позднее.
👋 Подписаться на Max
❤️ Ваш O2Consulting
ИИ-трансформация меняет не только технологии, но и перераспределяет власть в компании: меняются права на принятие решений, ответственность, полномочия и сама роль руководителя. Вместе с Павлом Потеевым, ассоциированным партнером, руководителем Центра цифровой и ИИ-трансформации O2Consulting, разбираем материал MIT Center for Information Systems Research Designing AI Decision Rights Structures — «Проектирование структуры прав на принятие решений искусственным интеллектом» (авторский перевод Павла Потеева).
Статья дает интересную отправную точку для анализа этих изменений.
🧩Матрица принятия решений MIT
Прежде чем распределять права на принятие решений между человеком и ИИ — от полного человеческого контроля до автономности системы, — необходимо понять, с каким типом решения мы имеем дело.
Для этого предлагается матрица по двум параметрам: уровень неопределенности и риск ошибки. На карточке показано, как из их сочетания складываются четыре типа решений.
✔️ Рутинные — низкий риск и низкая неопределенность.
Процедура понятна, последствия ошибки ограничены. Такие решения имеет смысл максимально автоматизировать.
✔️ Исследовательские — низкий риск, но высокая неопределенность.
Здесь важнее быстро учиться, чем сразу получить идеально точный ответ. ИИ может поддерживать принятие решений, а организация — экспериментировать и накапливать опыт.
✔️ Значимые — высокий риск при относительно низкой неопределенности.
Алгоритм действий может быть понятен, но цена ошибки высока. Поэтому необходимо определить границы допустимого: риск-аппетит, уровни контроля и условия, при которых ИИ не должен действовать автономно.
✔️ Стратегические — высокий риск и высокая неопределенность.
Решения затрагивают значительные ресурсы, множество людей или всю организацию. Здесь авторы оставляют лидерство человеку, используя ИИ как инструмент поддержки.
Еще одна важная идея исследования: решение — это не отдельная точка, а процесс. Авторы выделяют три его этапа:
Frame — сформулировать проблему и определить решение.
Act — принять решение и действовать.
Learn — оценить результат и скорректировать дальнейшие действия.
Но есть и более фундаментальная проблема, на которую обращают внимание Павел Потеев и цифровой консультант ДмитрИИй: @firsttalkerbot.
Во многих компаниях решения и сегодня принимаются по неясным процедурам, на основе неполных или непроверенных данных, под влиянием внутренних конфликтов, эмоций, усталости, чрезмерной осторожности или желания угодить руководителю. Механически передать такие процессы ИИ-агентам — значит автоматизировать не только сильные стороны организации, но и ее управленческие ошибки.
Поэтому для начала придется привести в порядок сам механизм принятия решений — и только потом масштабировать его с помощью ИИ.
❗️Как правильно распределить задачи, контроль и ответственность внутри команды, также обсудили участники «Стартап-кафе: Таланты», среди которых Татьяна Сафонова, старший партнер, руководитель практики «Стратегия развития финансовых рынков». На встрече была представлена презентация аналитического исследования «Человек и ИИ в одной рабочей системе: как распределять задачи, контроль и ответственность в команде технологического стартапа», подготовленного O2Consulting по заказу АНО «Развитие человеческого капитала».
Полной версией обязательно поделимся позднее.
👋 Подписаться на Max
❤️ Ваш O2Consulting