Ева Вит
13-02-2018, 22:15

Ученые: Нейросети не умеют распознавать людей с темной кожей

Ученые: Нейросети не умеют распознавать людей с темной кожей
Специалисты Стэнфорда и Массачусетского технологического университета, изучив популярные ИИ-алгоритмы идентификации лиц, выявили в них признаки сексизма и расизма. Нейросети без особого затруднения распознавали светлокожих людей и допускали ошибки при работе с темнокожими.
Исследование организовала Джой Буоламвини, собрав команду из представителей разных рас и этнических групп. В ходе эксперимента коммерческие ИИ-алгоритмы показали некую предвзятость: программа бесперебойно действовала с белым участником, а лицо руководителя, являющейся афроамериканкой, не распознает либо неправильно определяет пол.

Автор научной работы собрала более 1200 фото людей с темной кожей, оценив их по шкале Фицпатрика. Подборкой изображений специалисты проверили три системы идентификации лиц. При анализе снимков белых мужчин неверно определялся пол в 0,8% случаев, а темнокожих женщин — в 34,7%.

Исследования открыли важный недочет в работе нейросетей и подборе информации для машинного обучения. Как отмечают эксперты, проблема дискриминации в IT, сексизма или расизма способствует сохранения неравенства и тормозит развитие ИИ-технологий.

Ранее сообщалось, что нейросети могут создавать фальшивое порно с участием знаменитостей.

Подписывайтесь:

Добавить комментарий