Как GenAI может сделать нас «красными» руководителямиНаткнулась на интересное исследование про то, как использование GenAI влияет на принятие управленческих решений.
Ученые бизнес-школы Мэннинга провели эксперимент: дали MBA-студентам задачу «найти решение проблемы с водителями Amazon». Суть проблемы была в том, что водители не включали приложение, которое мониторило их параметры вождения: стиль, резкие торможения, выбор маршрута и прочее. Водители говорили, что приложение не учитывает множество нюансов и контекста и вводит водителя в стресс.
Студентов поделили на две группы: одни принимали решения самостоятельно, другие - с помощью ChatGPT.
И вот что интересно.
Группы, которые принимали решения с помощью ChatGPT
чаще выбирали жесткие контролирующие меры: штрафы за отклонения, дополнительные проверки, контроль поведения сотрудников и т.д.
Почему так происходит?
ИИ очень легко превращает сложную управленческую ситуацию в задачу оптимизации. Есть проблема → есть метрика → есть способ заставить систему работать лучше. Работники, о которых идет речь в условиях задачи, воспринимаются не как личности, а как элементы данных.
При этом из решения зачастую исчезают вещи, которые сложно положить в промпт: доверие, контекст, автономность сотрудника, мотивация, человеческая реакция на контроль.
Усугублялось всё тем, что водители не понимали, как ИИ регулирует их работу и полагали, что решения принимаются начальством против них, что создало атмосферу недоверия и еще бОльшего сопротивления и потери мотивации.
Результат получился обратный ожидаемому: студенты, использовавшие GenAI, чтобы принимать более качественные решения, получили ухудшение метрик на выходе.
Пожалуй, это один из тех случаев, когда важно помнить, что AI - это не автопилот, а второй пилот.
https://sloanreview.mit.edu/article/genai-tools-and-decision-making-beware-a-new-control-trap/