Машинная дискриминация🤖
Алгоритмы, обученные на данных, используются для принятия всё большего количества решений нашей жизни: от рекомендаций фильмов, которые мы смотрим, до ценообразования и медицины, которую получаем. Тем не менее, существует много доказательств того, что алгоритмы машинного обучения могут непреднамеренно дискриминировать людей. Например, при автоматическом сопоставлении резюме кандидатов с описаниями работы, алгоритмы могут применять предубеждения, связанные с этнической принадлежностью, которым были обучены на реальных данных.
По сути, корень зла в человеческом отношении, которое нашло отражение в данных, но использование данных без контроля приводит к распространению ущемления прав. Несколько исправлений для важных алгоритмов уже предложено, но авторы статьи утверждают, что для гарантированной профилактики в дальнейшем нам необходимо сейчас разработать глобальные критерии диагностики и установить основополагающие принципы машинного обучения для предотвращения дискриминации.
Большие данные и алгоритмы, основанные на них, неизбежно проникают во все аспекты нашей жизни и сможем ли мы использовать их во благо общества или вынуждены будем наложить запреты зависит только от нас сейчас.
https://arxiv.org/abs/1708.00754
#ai #ml #искусственныйинтеллект
Алгоритмы, обученные на данных, используются для принятия всё большего количества решений нашей жизни: от рекомендаций фильмов, которые мы смотрим, до ценообразования и медицины, которую получаем. Тем не менее, существует много доказательств того, что алгоритмы машинного обучения могут непреднамеренно дискриминировать людей. Например, при автоматическом сопоставлении резюме кандидатов с описаниями работы, алгоритмы могут применять предубеждения, связанные с этнической принадлежностью, которым были обучены на реальных данных.
По сути, корень зла в человеческом отношении, которое нашло отражение в данных, но использование данных без контроля приводит к распространению ущемления прав. Несколько исправлений для важных алгоритмов уже предложено, но авторы статьи утверждают, что для гарантированной профилактики в дальнейшем нам необходимо сейчас разработать глобальные критерии диагностики и установить основополагающие принципы машинного обучения для предотвращения дискриминации.
Большие данные и алгоритмы, основанные на них, неизбежно проникают во все аспекты нашей жизни и сможем ли мы использовать их во благо общества или вынуждены будем наложить запреты зависит только от нас сейчас.
https://arxiv.org/abs/1708.00754
#ai #ml #искусственныйинтеллект