Репост из: Лаборатория онлайн-обучения
У машины нет эмпатии
В одном из диалогов с GPT я написал ей «спасибо» после ответа. И почти сразу поймал себя на вопросе «А кому именно я это сказал?».
Если рассматривать ситуацию с позиции логики, то адресатом благодарности оказалась обычная совокупность алгоритмов.
Иными словами, если и благодарить, то тех, кто участвовал в создании GPT.
Безусловно, одно слово «спасибо» не означает, что я воспринимаю ИИ как живое существо. Скорее это может быть привычной речевой формулой завершить диалог или выражением своей радости относительно решения той или иной задачи.
Однако порой мы начинаем общаться с нейросетью так, будто перед нами живой собеседник.
Мы благодарим её, ждём поддержки, воспринимаем мягкие формулировки как проявление заботы, считываем в ответах внимание и т.д.
И, как ни крути, это становится для нас приятным.
При этом у нас нет никаких оснований считать, что современные нейросети способны к эмпатии.
Получается, что человекоподобная коммуникация способна менять наше отношение к нейросети.
Коллеги, а случалось ли у вас, что вы благодарили нейросеть или ждали от неё эмоциональной поддержки?
В одном из диалогов с GPT я написал ей «спасибо» после ответа. И почти сразу поймал себя на вопросе «А кому именно я это сказал?».
Если рассматривать ситуацию с позиции логики, то адресатом благодарности оказалась обычная совокупность алгоритмов.
Иными словами, если и благодарить, то тех, кто участвовал в создании GPT.
Безусловно, одно слово «спасибо» не означает, что я воспринимаю ИИ как живое существо. Скорее это может быть привычной речевой формулой завершить диалог или выражением своей радости относительно решения той или иной задачи.
Однако порой мы начинаем общаться с нейросетью так, будто перед нами живой собеседник.
Мы благодарим её, ждём поддержки, воспринимаем мягкие формулировки как проявление заботы, считываем в ответах внимание и т.д.
И, как ни крути, это становится для нас приятным.
При этом у нас нет никаких оснований считать, что современные нейросети способны к эмпатии.
Справочно:
В исследованиях данный механизм связывают с антропоморфизацией ИИ — склонностью приписывать технологическим системам человеческие качества, включая эмпатию и личную заинтересованность. Подобное восприятие часто возникает автоматически под влиянием социальных сигналов, таких как обращение от первого лица, поддерживающая интонация, уточняющие вопросы, последовательное ведение диалога.
Данное явление возникло задолго до современных нейросетей.
Его часто рассматривают через «эффект Элизы», названный по имени программы ELIZA, созданной в 1960-х годах. Она имитировала диалог с психотерапевтом с помощью сравнительно простых языковых правил, однако некоторые пользователи воспринимали её ответы как проявление понимания и эмоционального участия.
Позднее сходный механизм описывали в рамках концепции компьютеров как социальных акторов. Исследования показали, что люди склонны переносить на взаимодействие с технологическими системами нормы межличностного общения, включая вежливость, доверие, эмоциональную реакцию.
Современные генеративные модели усиливают данный эффект благодаря имитации естественного человеческого диалога.
Получается, что человекоподобная коммуникация способна менять наше отношение к нейросети.
Коллеги, а случалось ли у вас, что вы благодарили нейросеть или ждали от неё эмоциональной поддержки?