Ева Вит
13-02-2018, 22:15

Ученые: Нейросети не умеют распознавать людей с темной кожей

Ученые: Нейросети не умеют распознавать людей с темной кожей
Специалисты Стэнфорда и Массачусетского технологического университета, изучив популярные ИИ-алгоритмы идентификации лиц, выявили в них признаки сексизма и расизма. Нейросети без особого затруднения распознавали светлокожих людей и допускали ошибки при работе с темнокожими.
Исследование организовала Джой Буоламвини, собрав команду из представителей разных рас и этнических групп. В ходе эксперимента коммерческие ИИ-алгоритмы показали некую предвзятость: программа бесперебойно действовала с белым участником, а лицо руководителя, являющейся афроамериканкой, не распознает либо неправильно определяет пол.

Автор научной работы собрала более 1200 фото людей с темной кожей, оценив их по шкале Фицпатрика. Подборкой изображений специалисты проверили три системы идентификации лиц. При анализе снимков белых мужчин неверно определялся пол в 0,8% случаев, а темнокожих женщин — в 34,7%.

Исследования открыли важный недочет в работе нейросетей и подборе информации для машинного обучения. Как отмечают эксперты, проблема дискриминации в IT, сексизма или расизма способствует сохранения неравенства и тормозит развитие ИИ-технологий.

Ранее сообщалось, что нейросети могут создавать фальшивое порно с участием знаменитостей.
12 дек
Нейросети могут создавать фальшивое порно с участием знаменитостей
Пользователь соцсети Reddit научился создавать фальшивые порнографические ролики с участием знаменитостей. Для этого он использовал технологию
08 авг
Ученые разработали для Instagram распознающее депрессию приложение
Ученые из США разработали уникальное приложение для Instagram, распознающее депрессию. Специалисты провели исследование с участием добровольцев и
17 мар
Ученые вылечили глубокие нейросети от забывчивости
Группа ученых из компании DeepMind и Имперского колледжа Лондона (Imperial College London) смогли «вылечить» глубокие нейросети от забывчивости.
30 дек
Ученые сообщили, каким образом человеческий мозг систематизирует полученную информацию
Ученые Университета Джорджии сообщили, каким образом человеческий головной мозг систематизирует полученную извне информацию. Специалисты провели


Добавить комментарий