В компаниях алгоритмы все чаще участвуют в решениях, которые напрямую влияют на трудовую карьеру сотрудников. Они применяются при отборе кандидатов и при повышении по службе, заменяя человеческую оценку в процессах, которые раньше считались субъективными.
Luz Rodríguez из UCLM предупреждает о ложной нейтральности алгоритмов
Кафедральный профессор трудового права и права социального обеспечения Университета Кастилии — Ла-Манчи Luz Rodríguez (UCLM, региональный государственный университет) заявила об этом в интервью радиостанции Cadena SER. Она сказала, что представление о технологической нейтральности таких систем вводит в заблуждение.
По словам юриста, алгоритмы не просто анализируют информацию, а обучаются на данных. Эти данные могут отражать уже существующие неравенства на рынке труда.
Критерии оценки сотрудников формируют перекос в пользу мужчин
Rodríguez пояснила, что компании поручают алгоритмам оценку «ответственности» или «вовлеченности» сотрудников. Для этого системы используют количество сверхурочных часов, больничные и отпуска по беременности, отцовству и для совмещения работы с уходом за семьей за последние годы.
При таком подходе алгоритм чаще поощряет тех, чья карьера прерывалась реже. Rodríguez прямо заявила: «Con estos datos de entrenamiento del algoritmo ascenderán los varones».
Автоматизация усиливает дискриминацию при повышении и отборе
Эксперт отметила, что на практике эти критерии работают в пользу мужчин. По ее словам, мужчины чаще работают сверхурочно, реже берут отпуска по уходу и меньше используют меры для совмещения работы и семьи. При аналогичных действиях человека такую практику квалифицировали бы как косвенную дискриминацию.
Rodríguez указала, что машинный характер решений делает перекос менее заметным и усложняет его выявление. Алгоритм может усиливать дискриминацию, применяя одни и те же критерии системно и в большом масштабе.
Отбор резюме и требование прозрачности данных
По словам юриста, та же логика действует при автоматизированном отборе персонала. Системы могут отсеивать резюме по словам, связанным с беременностью или уходом за детьми, что в первую очередь затрагивает женщин.
Rodríguez, ранее исследовавшая риски искусственного интеллекта для гендерного равенства на рынке труда в Испании, настаивает на прозрачности. Она призывает понимать, какие данные используют алгоритмы, для каких целей их применяют и кто несет ответственность в случае ошибок, отмечая, что алгоритм способен научиться дискриминировать эффективнее человека.
Оригинал: источник
