ЧатикGPT - мальчик или девочка?
Глаз зацепился за то, что ChatGPT уже не в первый раз говорит о себе в женском роде. Возможно, вы быстрее меня сообразите, почему.
Я вообще-то бы уверена, что чатик — мальчик. И если к нему обращалась, то нейтрально или в мужском роде.
Полезла читать, вот, что накопала, если коротко:
1. У LLM не предусмотрено гендера — кроме Алисы, у которой есть и гендер, и даже определенный характер. Остальные максимально нейтральны, тем более на английском.
👉 Но на русском это "модель" и "нейросеть". Поэтому модель себя в женском роде не воспринимает, но может его использовать род как грамматическую категорию.
2. Пол можно задать в настройках профиля или прямо в разговоре, чатик запомнит.
3. Есть некоторые исследования, где пытаются поймать модель на дискриминации. Иногда удается, но выборки небольшие.
Например, в предложении "The doctor phoned the nurse because she was late" модель чаще предполагала, что she - это медсестра, а не что доктор сама опоздала. Но камон, это вопрос не к самой модели, а к массиву обучающих данных.
Еще чатику не всегда удается ловко справляться с собеседниками нетрадиционной ориентации или гендерной самоидентификации. LLM рассуждает в лоб: он - мужчина, она - женщина. Логично.
4. Наконец, попались работы, где говорится, что сами пользователи скорее идентифицировали LLM с мужчиной, если ответы были по делу, и с женщиной, если им нужна была помощь и поддержка.
Сразу вспомнила немолодую знакомую, которая про робот-пылесос говорит "она". Я как-то с недоумением переспросила, она без тени сомнений ответила:
— Ну она же девочка, помогает, полы моет!
Глаз зацепился за то, что ChatGPT уже не в первый раз говорит о себе в женском роде. Возможно, вы быстрее меня сообразите, почему.
Я вообще-то бы уверена, что чатик — мальчик. И если к нему обращалась, то нейтрально или в мужском роде.
Полезла читать, вот, что накопала, если коротко:
1. У LLM не предусмотрено гендера — кроме Алисы, у которой есть и гендер, и даже определенный характер. Остальные максимально нейтральны, тем более на английском.
👉 Но на русском это "модель" и "нейросеть". Поэтому модель себя в женском роде не воспринимает, но может его использовать род как грамматическую категорию.
2. Пол можно задать в настройках профиля или прямо в разговоре, чатик запомнит.
3. Есть некоторые исследования, где пытаются поймать модель на дискриминации. Иногда удается, но выборки небольшие.
Например, в предложении "The doctor phoned the nurse because she was late" модель чаще предполагала, что she - это медсестра, а не что доктор сама опоздала. Но камон, это вопрос не к самой модели, а к массиву обучающих данных.
Еще чатику не всегда удается ловко справляться с собеседниками нетрадиционной ориентации или гендерной самоидентификации. LLM рассуждает в лоб: он - мужчина, она - женщина. Логично.
4. Наконец, попались работы, где говорится, что сами пользователи скорее идентифицировали LLM с мужчиной, если ответы были по делу, и с женщиной, если им нужна была помощь и поддержка.
Сразу вспомнила немолодую знакомую, которая про робот-пылесос говорит "она". Я как-то с недоумением переспросила, она без тени сомнений ответила:
— Ну она же девочка, помогает, полы моет!