Новое исследование показало, что программное обеспечение для распознавания лиц, использующее технологии на основе концепции машинного обучения, часто ошибается с определением пола человека из-за расовых предубеждений в его наборах данных.
Исследование, проведенное MIT и экспертами Microsoft, должно было помочь найти причину неточностей, которые допускает программное обеспечение в распознавании темнокожих лиц, особенно когда эти лица принадлежат женщинам. Таким образом, экспертами был проведен тест по определению пола людей по их лицам. Программное обеспечение смогло это сделать с более чем 99-процентной точностью при распознавании светлокожих мужчин. В случае распознавания изображений женщин с темной кожей программное обеспечение ошибалось в каждом третьем случае.
Результаты опыта проливают больше света на известную проблему, которая заключается в том, что ограниченные наборы данных могут влиять на эффективность искусственного интеллекта, что, в свою очередь, может усилить предвзятость в отношении отдельных лиц.
Джой Буоламвини из MIT Media Lab и Тимнит Гебру из Microsoft Research обсудили результаты оценки программного обеспечения, проводившейся в апреле и мае прошлого года. Они собрали базу данных, состоящую из 1270 изображений лиц политических деятелей из стран с высоким процентом женщин у власти - из трех африканских стран и трех стран Северной Европы.
Исследователи пропустили их изображения через программное обеспечение для распознавания лиц от трех поставщиков: IBM, Microsoft и Megvii, чтобы понять, насколько точно каждое из них распознает пол человека, изображенного на фотографии. Команда исследователей обнаружила, что все три компании правильно идентифицируют пол человека, если у него светлая кожа.
Предыдущие исследования также показали, что точность систем распознавания лиц, используемых правоохранительными органами США, систематически падает при распознавании людей женского пола с темным цветом кожи в возрасте от 18 до 30 лет.
К сожалению, предвзятость в отношении пола и цвета кожи нашла свое отражение и в новых технологиях. Однако, ее обнаружение - первый шаг к избавлению от неточностей в программном обеспечении систем безопасности. Специалисты пересмотрят алгоритмы и в скором времени найдут решение данной проблемы систем распознавания лиц.
