Технологию распознавания лиц от Amazon обвиняют в расизме

Компания Amazon уже достаточно давно является лидером в области технологий распознавания лиц. Разработки компании используются в ряде структур США, включая полицейские департаменты, миграционную и таможенную службы.

Но несмотря на обширные достижения, технологию распознавания лиц Rekognition обвинили в гендерной и расовой предвзятости. Информационным поводом стало исследование, проведенное в MIT Media Lab (Медиа-лаборатория Массачусетского технологического института). Согласно данному исследованию, технология от Amazon показала плачевные результаты при определении человека, если он был женщиной или темнокожим.

Rekognition не допустил ни одной ошибки при определении пола светлокожих мужчин, однако когда дело дошло до женщин, система ошибочно принимала представительниц прекрасного пола c белыми лицами за мужчин в 19% случаев, а темнокожих женщин в 31% случаев.

Сама Amazon заявляет, что данное исследование не способно отразить степень точности Rekognition, так как тестируемая система была не самой последней версии и используемые специалистами методы тестирования не совсем корректны.

Следует напомнить, что в феврале прошлого года, подобными странностями отметились системы распознавания лиц от компаний Microsoft и IBM. Тогда компании сообщили о планах доработать свои технологии и как видно из данного исследования, все обещания были выполнены.


Источник: The Verge