РАПК dan repost
Нейросети в политике: дай штабу ИИ, он и лоб расшибет
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Раньше, чтобы запятнать репутацию оппонента, писали всякие нехорошие слова на заборах, расклеивали листовки и делали прочие гадости (осуждаем такие подходы, разумеется). А теперь в дело врываются технологии! Шикарный кейс из-за океана о том, как нужно использовать нейросети, чтобы это вышло боком для всего штаба.
В общем, есть в Калифорнии такой сенатор Скотт Винер, который очень хочет попасть в Конгресс США. Разумеется, не он один – желающих много. И вот талантливые технологи сенатора придумали способ борьбы с его главной соперницей Конни Чан. Идея на бумаге «гениальная»: сделать чат-бота на основе искусственного интеллекта, который будет выдавать себя за Чан (по сути, ее виртуальную копию).
Зачем? Пользователям предлагали задать вопрос виртуальной Чан, а та объясняла, почему очередную идею нельзя реализовать. Чувствуете креативный подход? Условно, человек пишет «кандидату»: «Давай построим дорогу?». А тот отвечает: «Нет, это глупо, не буду этим заниматься, отстаньте». Так команда сенатора хотела выставить соперницу политиком, который постоянно мешает делать хорошие дела. Но нужно признать: на сайте прям честно указали, что это пародия, оплаченная штабом сенатора.
Сначала все было здорово... Но чем больше мучили несчастную нейросеть, тем сильнее она начинала галлюцинировать, выдавая ответы с расовыми и гендерными стереотипами. Конни Чан родилась в Гонконге (это для справки) – так в одном из ответов чат-бот заявил, что у нее настолько сильный акцент, поэтому она сама себя едва понимает. В другом случае бот придумал несуществующий закон и сообщил, что сведения о гражданстве Чан засекречены.
За первые 27 часов система получила больше 5000 вопросов. Ответы, как вы понимаете, получились удачными далеко не все… Тут же на штаб Винера, в котором все это придумали, посыпались гневные обвинения от людей, чьи чувства были задеты. Сначала команда пыталась оправдаться, мол, люди намеренно провоцировали бота. Но потом свой провал все же признали. Сайт отключили, рекламные щиты решили снять. Даже официально попросили прощения.
Как говорится, эксперимент оказался неудачным. А сколько еще таких будет? Думаю, через пару лет наберется на целую книгу «Избирательные технологии: как не надо делать». Но хочется верить, что российских кейсов в ней будет немного. Правда, очень хочется…
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Раньше, чтобы запятнать репутацию оппонента, писали всякие нехорошие слова на заборах, расклеивали листовки и делали прочие гадости (осуждаем такие подходы, разумеется). А теперь в дело врываются технологии! Шикарный кейс из-за океана о том, как нужно использовать нейросети, чтобы это вышло боком для всего штаба.
В общем, есть в Калифорнии такой сенатор Скотт Винер, который очень хочет попасть в Конгресс США. Разумеется, не он один – желающих много. И вот талантливые технологи сенатора придумали способ борьбы с его главной соперницей Конни Чан. Идея на бумаге «гениальная»: сделать чат-бота на основе искусственного интеллекта, который будет выдавать себя за Чан (по сути, ее виртуальную копию).
Зачем? Пользователям предлагали задать вопрос виртуальной Чан, а та объясняла, почему очередную идею нельзя реализовать. Чувствуете креативный подход? Условно, человек пишет «кандидату»: «Давай построим дорогу?». А тот отвечает: «Нет, это глупо, не буду этим заниматься, отстаньте». Так команда сенатора хотела выставить соперницу политиком, который постоянно мешает делать хорошие дела. Но нужно признать: на сайте прям честно указали, что это пародия, оплаченная штабом сенатора.
Сначала все было здорово... Но чем больше мучили несчастную нейросеть, тем сильнее она начинала галлюцинировать, выдавая ответы с расовыми и гендерными стереотипами. Конни Чан родилась в Гонконге (это для справки) – так в одном из ответов чат-бот заявил, что у нее настолько сильный акцент, поэтому она сама себя едва понимает. В другом случае бот придумал несуществующий закон и сообщил, что сведения о гражданстве Чан засекречены.
За первые 27 часов система получила больше 5000 вопросов. Ответы, как вы понимаете, получились удачными далеко не все… Тут же на штаб Винера, в котором все это придумали, посыпались гневные обвинения от людей, чьи чувства были задеты. Сначала команда пыталась оправдаться, мол, люди намеренно провоцировали бота. Но потом свой провал все же признали. Сайт отключили, рекламные щиты решили снять. Даже официально попросили прощения.
Как говорится, эксперимент оказался неудачным. А сколько еще таких будет? Думаю, через пару лет наберется на целую книгу «Избирательные технологии: как не надо делать». Но хочется верить, что российских кейсов в ней будет немного. Правда, очень хочется…