Свежее небольшое исследование про то, как эйчары с нейросетками весело занимаются дискриминацией.
Всё просто:
— Эйчары работают с LLM. 42% глобальных компаний так делают.
— Модели читают ваши резюме и смотрят ваши видеоинтервью — те самые первые встречи на адекватность.
— LLM делают не всё, как специально обученные люди. Например, обращают внимание на будущую эффективность сотрудника, а не его пол и цвет кожи.
Метод исследования:
— Интервью с 23 эйчарами (март 2022 — март 2023)
— Анализ документации от ведущих поставщиков эйчарного софта
Что нашли:
— LLM учатся на данных о высокоэффективных сотрудниках компании и стараются находить таких же. Обычно это довольно херовые выборки, в смысле, что LLM легко может отбросить очень эффективного человека просто потому, что он не похож на Лёху, который работал до него.
— LLM хреново распознают речь с акцентами, поэтому если у вас не чистый английский, по вам просто не приходит часть данных — а компании не нужны неудачники! No worries, в Шотландии и Австралии же все говорят на чистом английском!
— Поставщики софта переносят данные из страны в страну, и накатили веса Северной Америки на Австралию — и оказалось, что там в весах дофига внимания этнике и локальным особенностям. И это оттуда не вычистить.
— Если начать прямо запрещать модели использовать веса для пола, возраста, инвалидности и расы, модель извернётся и найдет прокси-метрики, которые наиболее коррелируют с этими запрещёнными. Офигенно работает фильтрация по университету, например. Там есть даже год окончания, что вообще отлично заменяет возраст! Особенно классно работает фильтрация по университету, когда при собеседовании в Австралии плюс получают те, кто учился в Северной Америке, потому что обучающая выборка оттуда.
— Дальше модели ищут приближение к идеальному кандидату по странной системе скоринга. То есть если кандидат эксперт планетарного уровня в чём-то одном, а во втором немного не дотягивает, то он будет считаться неполноценным для этой вакансии. В целом логично, но обычно такое учитывается.
— Для интервью на линейные должности типа грузчиков надо знать язык и смотреть в камеру. Это осиливают не все, особенно тяжело это осиливают косые и одноглазые люди. Одноглазые смотрят в камеру меньше 50% времени, видимо.
— Есть люди, которые не хотят общаться с LLM. Они сразу идут лесом.
— Можно запрограммировать на незаконный отсев кандидатов. Например iTutorGroup запрограммировала свою модель автоматически отклонять женщин старше 55 лет и мужчин старше 60 лет, хотя это запрещено в стране.
Мораль. Если вы думаете, что софт для автоматической оценки кандидатов разрабатывали умные люди, которые мудро всё учли и отладили, то нет. У них был дедлайн, и если модель хоть как-то работала, её прямо так и выкатывали на прод.
--
Вступайте в ряды Фурье! "Иду, никого не трогаю". Все собеседования безрукого мальчика начинались одинаково.
Всё просто:
— Эйчары работают с LLM. 42% глобальных компаний так делают.
— Модели читают ваши резюме и смотрят ваши видеоинтервью — те самые первые встречи на адекватность.
— LLM делают не всё, как специально обученные люди. Например, обращают внимание на будущую эффективность сотрудника, а не его пол и цвет кожи.
Метод исследования:
— Интервью с 23 эйчарами (март 2022 — март 2023)
— Анализ документации от ведущих поставщиков эйчарного софта
Что нашли:
— LLM учатся на данных о высокоэффективных сотрудниках компании и стараются находить таких же. Обычно это довольно херовые выборки, в смысле, что LLM легко может отбросить очень эффективного человека просто потому, что он не похож на Лёху, который работал до него.
— LLM хреново распознают речь с акцентами, поэтому если у вас не чистый английский, по вам просто не приходит часть данных — а компании не нужны неудачники! No worries, в Шотландии и Австралии же все говорят на чистом английском!
— Поставщики софта переносят данные из страны в страну, и накатили веса Северной Америки на Австралию — и оказалось, что там в весах дофига внимания этнике и локальным особенностям. И это оттуда не вычистить.
— Если начать прямо запрещать модели использовать веса для пола, возраста, инвалидности и расы, модель извернётся и найдет прокси-метрики, которые наиболее коррелируют с этими запрещёнными. Офигенно работает фильтрация по университету, например. Там есть даже год окончания, что вообще отлично заменяет возраст! Особенно классно работает фильтрация по университету, когда при собеседовании в Австралии плюс получают те, кто учился в Северной Америке, потому что обучающая выборка оттуда.
— Дальше модели ищут приближение к идеальному кандидату по странной системе скоринга. То есть если кандидат эксперт планетарного уровня в чём-то одном, а во втором немного не дотягивает, то он будет считаться неполноценным для этой вакансии. В целом логично, но обычно такое учитывается.
— Для интервью на линейные должности типа грузчиков надо знать язык и смотреть в камеру. Это осиливают не все, особенно тяжело это осиливают косые и одноглазые люди. Одноглазые смотрят в камеру меньше 50% времени, видимо.
— Есть люди, которые не хотят общаться с LLM. Они сразу идут лесом.
— Можно запрограммировать на незаконный отсев кандидатов. Например iTutorGroup запрограммировала свою модель автоматически отклонять женщин старше 55 лет и мужчин старше 60 лет, хотя это запрещено в стране.
Мораль. Если вы думаете, что софт для автоматической оценки кандидатов разрабатывали умные люди, которые мудро всё учли и отладили, то нет. У них был дедлайн, и если модель хоть как-то работала, её прямо так и выкатывали на прод.
--
Вступайте в ряды Фурье! "Иду, никого не трогаю". Все собеседования безрукого мальчика начинались одинаково.