В Швейцарии доказали сексизм алгоритмов |En Suisse, on a prouvé le sexisme des algorithmes

Кто увидит объявление «Требуется водитель»? А объявление «Требуется парикмахер»? Швейцарская телерадиокомпания RTS и немецкая некоммерческая организация AlgorithmWatch, оценивающая особенности использования алгоритмов, опубликовали объявления о вакансиях в Facebook и Google в Швейцарии, Германии, Польше, Франции и Испании. «Работодатели» искали разработчика в области машинного обучения, водителя грузового автомобиля, парикмахера, учителя начальных классов, юрисконсульта и санитара (все эти существительные специально были написаны в мужском роде), при этом в объявлениях не были указаны пол, возраст и уровень образования кандидатов.

В результате алгоритмы Facebook, и – в меньшей степени – алгоритмы Google автоматически выбрали, кому в первую очередь показывать те или иные объявления. В Швейцарии текст объявления «Требуется водитель грузового автомобиля» увидели 3607 мужчин и 631 женщина, в Германии – 4864 и 386 соответственно. В то же время, объявление «Учитель начальных классов» отобразилось в результатах поиска для 1203 швейцарок и 369 швейцарцев, а также для 6456 немок и 258 немцев.

Добавим, что в Google разница между показами мужчинам и женщинам ни разу не превысила 20%. Ни Facebook, ни Google не ответили на просьбу экспертов прокомментировать результаты исследования. Реакцией со стороны Google стало решение удалить большую часть объявлений, оплаченных организацией AlgorithmWatch.
Интересно, что в швейцарском законе о равенстве (LEg) нет положений об алгоритмах, поскольку закон вступил в силу в 1996 году, но есть положения, запрещающие дискриминацию по половому признаку при приеме на работу, а также предусматривающие выплату компенсации, если факт дискриминации будет доказан. Впрочем, эти положения касаются именно трудоустройства, но не объявлений, в которых работодатели могут указать, что ищут на конкретную должность только мужчин или только женщин.

Отметим, что вышеописанное исследование – не единственное, в котором подчеркивается сексизм алгоритмов Facebook. В 2019 году в журнале Proceedings of the ACM on Human-Computer Interaction было опубликовано исследование, авторы которого пришли к выводу, что крупнейшая соцсеть в мире может показывать некоторые объявления о вакансиях так, что мужчины или женщины окажутся в невыгодном положении, даже если сам работодатель не хотел отдавать предпочтение первым или вторым. Ученые Северо-Восточного университета Бостона и Университета Южной Калифорнии опубликовали на Facebook вакансии специалистов по лесозаготовкам, а также воспитателей в детские сады. В настройках объявлений было указано, что их следует показывать одинаково часто как мужчинам, так и женщинам, однако первое объявление видели, в основном, мужчины, а второе – женщины.

Кроме того, исследователи опубликовали объявления о продаже домов, а также о сдаче жилья в аренду. Второе объявление видели, преимущественно, афроамериканцы, а вот первое им показывалось очень редко. Эта автоматическая, хотя и непреднамеренная дискриминация объясняется тем, что алгоритмы анализируют, какие видео, тексты или изображения пользуются наибольшей популярностью у пользователей в каждой категории и подбирают для них подобные записи. Впрочем, Facebook регулярно вносит изменения в работу в своих программ, параллельно защищаясь в суде от недовольных пользователей, в числе которых – различные организации и даже государственные учреждения. Будем надеяться, что программисты найдут оптимальное решение, и мы сможем назвать работу алгоритмов прогрессом в полном смысле этого слова.