Эксперты: Программное обеспечение для распознавания лиц ориентировано на белых мужчин
Новое исследование Media Lab от MIT подчеркивает то, что ранее сообщали или, по крайней мере, подозревали другие эксперты: технология распознавания лиц подвержена искажениям на основе предоставленных наборов данных и условий, в которых создаются алгоритмы: лучше всего программы определяют светлокожих мужчин.
Джой Буоламвини, исследователь из MIT Media Lab, недавно собрала набор данных 1270 людей, используя лица политиков, отобранных на основе ранжирования своей страны по гендерному соответствию. Затем специалист проверила точность трех систем распознавания лиц: Microsoft, IBM и Megvii (Китай). Результаты, о которых первоначально сообщалось в The New York Times, показали неточности в идентификации пола, зависимо от цвета кожи человека.
Программы неверно идентифицировали пол менее чем 1% мужчин с более светлой кожей, до 7% светлокожих женщин, до 12% темнокожих мужчин и до 35% женщин с более темной кожей.
«В целом, мужчины были классифицированы более точно, чем женщины, так же как светлокожие более точно, чем темнокожие участники исследования, – написала Буоламвини в статье о результатах. – Программы меньше всего справляются с идентификацией темнокожих женщин».
Впервые технология распознавания лиц оказалась неточной. Все больше факторов указывают на необходимость использования разнообразных наборов данных, а также задействования разных людей к разработкам, чтобы алгоритмы точно распознавали лица независимо от расы и других идентификаторов.
Джой Буоламвини, исследователь из MIT Media Lab, недавно собрала набор данных 1270 людей, используя лица политиков, отобранных на основе ранжирования своей страны по гендерному соответствию. Затем специалист проверила точность трех систем распознавания лиц: Microsoft, IBM и Megvii (Китай). Результаты, о которых первоначально сообщалось в The New York Times, показали неточности в идентификации пола, зависимо от цвета кожи человека.
Программы неверно идентифицировали пол менее чем 1% мужчин с более светлой кожей, до 7% светлокожих женщин, до 12% темнокожих мужчин и до 35% женщин с более темной кожей.
«В целом, мужчины были классифицированы более точно, чем женщины, так же как светлокожие более точно, чем темнокожие участники исследования, – написала Буоламвини в статье о результатах. – Программы меньше всего справляются с идентификацией темнокожих женщин».
Впервые технология распознавания лиц оказалась неточной. Все больше факторов указывают на необходимость использования разнообразных наборов данных, а также задействования разных людей к разработкам, чтобы алгоритмы точно распознавали лица независимо от расы и других идентификаторов.
