Система для распознавания лиц наименее точно идентифицирует темнокожих жещин

Используемые для распознания лиц алгоритмы не подходят для темнокожих женщин. Как показали эксперименты, наиболее точные результаты они выдают при анализе снимков белых мужчин, но чем темнее кожа, тем с меньшей точностью ИИ может узнать лицо и определить пол.



Тестированием трех ИИ-алгоритмов занялись ученые из Массачусетского технологического университета и Стэнфорда. Они подготовили 1200 изображений, на которых были представлены люди с кожей разных оттенков – от самой светлой до самой темной по шкале Фицпатрика. Оказалось, что в случае анализа изображений женщин с наиболее темной кожей все три программы выдавали наименее точные ответы: коэффициент ошибок составлял от 34,7% до 46%. Однако при идентификации мужчин со светлой кожей процент ошибок был не более 0,8. Подробности эксперимента изложены в издании Science Daily.

Авторы исследования отмечают, что, хотя они протестировали только 3 программы, такие же проблемы существуют и у других алгоритмов. А потому они считают необходимым учитывать их результаты при выборе материалов для машинного обучения нейросетей. Некоторые разработчики уже взяли рекомендации ученых на вооружение: в компании IBM Watson заявили, что учли выявленные ошибки при создании нового продукта.