РАПК dan repost
Нейросети оказались плохими политическими советниками
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.
Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…
На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.
Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.
Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.
Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…
На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.
Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.
Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.