Репост из: Доктор Z прописал
Стартап Scatter Lab из Сеула в конце декабря запустил чат-бот Lee Luda для работы в Facebook Messenger. Новинка пришлась по душе, в короткие сроки было привлечено более 750 тысяч пользователей. Но что-то пошло не так
Вообще разработчики обещали, что алгоритмы искусственного интеллекта позволят проанализировать и провести "обучение" чат-бота по данным, собранным из 10 миллиардов разговоров в Kakao Talk, наиболее популярном в Южной Корее мессенджере
Что там бот проанализировал, не совсем понятно. Но очень скоро пользователи стали отмечать у Lee Luda расистские комментарии, презрительное отношение к движению MeToo и прочие непозволительные вещи. Разработчики чат-бот быстренько отключили и покаялись, подчеркнув, что произошедшее не соответствует ценностям компании
Они рассказали, что полгода работали над тем, чтобы исключить из алгоритма возможность появления таких ответов бота на вопросы пользователей. Но, как выяснилось, рельная жизнь оказалась сложенее. Теперь обещают, что поработают еще, дабы в дальнейшем подобных казусов не возникало
Вообще разработчики обещали, что алгоритмы искусственного интеллекта позволят проанализировать и провести "обучение" чат-бота по данным, собранным из 10 миллиардов разговоров в Kakao Talk, наиболее популярном в Южной Корее мессенджере
Что там бот проанализировал, не совсем понятно. Но очень скоро пользователи стали отмечать у Lee Luda расистские комментарии, презрительное отношение к движению MeToo и прочие непозволительные вещи. Разработчики чат-бот быстренько отключили и покаялись, подчеркнув, что произошедшее не соответствует ценностям компании
Они рассказали, что полгода работали над тем, чтобы исключить из алгоритма возможность появления таких ответов бота на вопросы пользователей. Но, как выяснилось, рельная жизнь оказалась сложенее. Теперь обещают, что поработают еще, дабы в дальнейшем подобных казусов не возникало