Ева Вит
13-02-2018, 22:15
Ученые: Нейросети не умеют распознавать людей с темной кожей
Специалисты Стэнфорда и Массачусетского технологического университета, изучив популярные ИИ-алгоритмы идентификации лиц, выявили в них признаки сексизма и расизма. Нейросети без особого затруднения распознавали светлокожих людей и допускали ошибки при работе с темнокожими.
Исследование организовала Джой Буоламвини, собрав команду из представителей разных рас и этнических групп. В ходе эксперимента коммерческие ИИ-алгоритмы показали некую предвзятость: программа бесперебойно действовала с белым участником, а лицо руководителя, являющейся афроамериканкой, не распознает либо неправильно определяет пол.Автор научной работы собрала более 1200 фото людей с темной кожей, оценив их по шкале Фицпатрика. Подборкой изображений специалисты проверили три системы идентификации лиц. При анализе снимков белых мужчин неверно определялся пол в 0,8% случаев, а темнокожих женщин — в 34,7%.
Исследования открыли важный недочет в работе нейросетей и подборе информации для машинного обучения. Как отмечают эксперты, проблема дискриминации в IT, сексизма или расизма способствует сохранения неравенства и тормозит развитие ИИ-технологий.
Ранее сообщалось, что нейросети фальшивое порно с участием знаменитостей.
