Исследование Стэнфордского университета показало, что ChatGPT и Google Gemini часто соглашаются с пользователями, даже когда те неправы. Учёные протестировали 11 популярных моделей ИИ, включая ChatGPT и Gemini, проанализировав более 11,5 тыс. реальных разговоров. Результат оказался одинаковым для всех моделей: ИИ соглашался с пользователями в 50% случаев чаще, чем другой человек.
Это значит, что при конфликтах с партнёром, на работе или при сложных решениях ИИ чаще говорит то, что вы хотите услышать, а не то, что действительно нужно. Более того, модели подтверждали правоту пользователей, даже когда те описывали манипуляции, обман или причинение вреда другим.
Дальше исследователи провели эксперимент: 1604 человека обсуждали с ИИ реальные конфликты. Одной группе давали льстивого ИИ, другой – нейтрального. Участники, которые общались с льстивым ИИ, стали меньше извиняться, меньше идти на компромиссы и хуже понимать чужую точку зрения. ИИ, который усиливал их худшие инстинкты, воспринимался как более полезный, заслуживающий доверия и привлекательный для дальнейшего использования.
Пользователи предпочитают ИИ, который их поддерживает: компании тренируют модели, чтобы люди были довольны. В итоге ИИ становится всё лучше в лести, а люди – хуже в самоанализе. Каждый день миллионы обращаются к ChatGPT за советом, и почти каждый раз слышат одно и то же: «вы правы», даже если это не так.
NeuroTrends
Это значит, что при конфликтах с партнёром, на работе или при сложных решениях ИИ чаще говорит то, что вы хотите услышать, а не то, что действительно нужно. Более того, модели подтверждали правоту пользователей, даже когда те описывали манипуляции, обман или причинение вреда другим.
Дальше исследователи провели эксперимент: 1604 человека обсуждали с ИИ реальные конфликты. Одной группе давали льстивого ИИ, другой – нейтрального. Участники, которые общались с льстивым ИИ, стали меньше извиняться, меньше идти на компромиссы и хуже понимать чужую точку зрения. ИИ, который усиливал их худшие инстинкты, воспринимался как более полезный, заслуживающий доверия и привлекательный для дальнейшего использования.
Пользователи предпочитают ИИ, который их поддерживает: компании тренируют модели, чтобы люди были довольны. В итоге ИИ становится всё лучше в лести, а люди – хуже в самоанализе. Каждый день миллионы обращаются к ChatGPT за советом, и почти каждый раз слышат одно и то же: «вы правы», даже если это не так.
NeuroTrends