Нове дослідження показало, що програмне забезпечення для розпізнавання облич, що використовує технології на основі концепції машинного навчання, часто помиляється з визначенням статі людини через расові упередження в його наборах даних.

Дослідження, проведене MIT і експертами Microsoft, повинно було допомогти знайти причину неточностей які допускає програмне забезпечення в розпізнаванні темношкірих облич, особливо коли ці обличчя належать жінкам. Таким чином, експертами було проведено тест з визначення статі людей по їхніх обличчях. Програмне забезпечення змогло це зробити з більш ніж 99-відсотковою точністю при розпізнаванні світлошкірих чоловіків. У разі розпізнавання зображень жінок з темною шкірою програмне забезпечення помилялися в кожному третьому випадку.

Результати досвіду проливають більше світла на відому проблему, яка полягає в тому, що обмежені набори даних можуть впливати на ефективність штучного інтелекту, що в свою чергу може посилити упередженість по відношенню до окремих облич.

Джой Буоламвіні з MIT Media Lab і Тімніт Гебра з Microsoft Research обговорили результати оцінки програмного забезпечення, що проводилася в квітні і травні минулого року. Вони зібрали базу даних, що складається з 1270 зображень облич політичних діячів з країн з високим відсотком жінок у владі - з трьох африканських країн і трьох країн Північної Європи.

Дослідники пропустили їх зображення через програмне забезпечення для розпізнавання осіб від трьох постачальників: IBM, Microsoft і Megvii щоб зрозуміти, наскільки точно кожне з них розпізнає стать людини, зображеної на фотографії. Команда дослідників виявила, що всі три компанії правильно ідентифікують стать людини, якщо у нього світла шкіра.

Попередні дослідження також показали, що точність систем розпізнавання осіб, які використовуються правоохоронними органами США, систематично падає при розпізнаванні людей жіночої статі з темним кольором шкіри у віці від 18 до 30 років.

На жаль, упередженість щодо статі і кольору шкіри знайшла своє відображення і в нових технологіях. Однак, її виявлення - перший крок до позбавлення від неточностей в програмному забезпеченні систем безпеки. Фахівці переглянуть алгоритми і незабаром знайдуть рішення даної проблеми систем розпізнавання облич.

Джерело www.planetbiometrics.com. Переклад новини виконала адміністратор сайту Олена Пономаренко