На днях у известной психотерапевтки Эстер Перель вышел выпуск подкаста про искусственный интеллект и любовь:
Is Using ChatGPT Hurting My Relationship? Его героиня после долгого стабильного брака вступила в новые отношения, и стала использовать ChatGPT как своего рода оперативного тренера по коммуникации. Когда она чувствует, что снова попадает в знакомый туннель и начинает автоматически воспроизводить одни и те же реакции, слова и жесты, ИИ помогает ей остановиться, разобрать ситуацию и попробовать ответить иначе. Туда, в далекие миры, на сервера OpenAI, она отправляет скриншоты переписок со своим мужчиной - и получает подробный разбор ситуации и советы, как себя вести.
Проблема в том, что ее партнер относится к искусственному интеллекту резко отрицательно и ни ухом, ни рылом не знает, что ChatGPT посвящен в его интимную жизнь - какую роль он играет в очередной схватке по поводу того, кто вчера был неправ и кому первому извиняться. На первый взгляд, эта этическая дилемма, не так уж сильно отличается от вопроса о том, можно ли обсуждать партнера с друзьями или с психотерапевтом, если он об этом ничего не знает: выносить ли сор из избы, и если выносить то как именно его сортировать. Ничего принципиально нового в этом смысле про ИИ как собеседника сказать нельзя: все зависит от того, насколько люди уважают друг друга и сколько свободы друг другу готовы дать.
Но очень скоро в этом разговоре появляется еще один уровень: о социальном эффекте взаимодействия с ИИ, о кругах по воде, которые расходятся, когда человек не просто начинает что-то быстрее производить, благодаря машине, но меняет свое поведение как результат общения с ней.
Человек вступает во взаимодействие с искусственным интеллектом. В этом взаимодействии осваивает новые способы говорить, выдерживать паузу, распознавать собственный автоматизм. Дальше он переносит их в отношения с партнером. И поскольку отношения — это не просто сумма двух автономных людей, то изменение поведения одного участника перестраивает всю систему: второй партнер тоже начинает реагировать иначе. Получается цепная реакция. Сначала меняется один партнер, затем вместе с ним начинает меняться другой - а дальше начинает меняться и их среда общения. В подкасте у Перель гостья очень интересно рассказывает, как друзья и знакомые кролика ее партнера удивленно разводили руками: мол, как ты, дорогой, изменился, и говоришь не так, и ведешь себя иначе, кто же ты на самом деле, айсберг или человек?
Вопрос «чувствует ли что-нибудь сам ChatGPT?» здесь на некоторое время отступает на второй план. Он может ничего не чувствовать — и тем не менее участвовать в производстве вполне реальных социальных последствий. Именно здесь граница между инструментом и участником взаимодействия становится не такой очевидной.
В свежем препринте “ChatGPT, help me draft a breakup text”: The Covert Triad and Articulation Labor in AI-Assisted Romantic Communication исследователи Скайлер Ванг и Изабелла Луппи предлагают два полезных понятия.
Первое —
скрытая триада: отношения по-прежнему переживаются как диалог двух людей, но фактически в их коммуникации участвует третий — ИИ, причем один из партнеров может даже не знать о его присутствии.
Второе —
труд артикуляции: работа по превращению переживания в слова, которые другой человек сможет услышать и понять. Само чувство остается человеческим, но часть труда по его оформлению в просьбу, объяснение, извинение или сообщение о расставании делегируется машине.
Молоток не изменяет наши отношения с близкими хотя всякое бывает. Навигатор может изменить маршрут, но редко учит нас иначе разговаривать с партнером и тут, правда, случается разное. А ChatGPT оказывается включен в сам процесс эмоциональной и коммуникативной работы. При этом, весь этот механизированный эмоциональный труд основан, конечно, на тех или иных культурных нормах чувствования. ChatGPT становится, таким образом, не только помощником конкретному человеку, но и инструментом той самой эмоциональной инклюзии, о которой я рассказывала тут чуть раньше - и начинает выполнять нормативную функцию.