- Семидневная Панорама
Обученный в Интернете робот стал сексистом и расистом
Робот делал поспешные выводы о работе людей, руководствуясь общедоступными данными из Интернета. Фото:hub.jhu.edu
Исследователи из Университета Джона Хопкинса, Технологического института Джорджии и Вашингтонского университета первыми провели эксперимент, показавший, что нейронные сети, построенные на основе предвзятых данных из Интернета, учат роботов следовать стереотипам.
Создатели моделей искусственного интеллекта для распознавания людей и объектов часто обращаются к обширным наборам данных, которые находятся в свободном доступе в Интернете. Интернет, как известно, заполнен неточным и откровенно предвзятым контентом. Это означает, что любой алгоритм, построенный на основе этих наборов данных, может быть связан с теми же проблемами. Это стало причиной проведения исследования.
Ученые наклеили фотографии людей разных полов и рас на кубики, а роботу необходимо было рассортировать их.
Команда отслеживала, как часто робот выбирал определенный пол и расу. Робот был неспособен работать беспристрастно и часто действовал в соответствии со стереотипами:
- отдавал предпочтение мужчинам, а не женщинам;
- идентифицировал женщин как «домохозяек»;
- идентифицировал темнокожих мужчин как «преступников» на 10% чаще;
- идентифицировал латиноамериканских мужчин как «уборщиков» на 10% чаще;
- врачи в понимании ИИ — мужчины любых национальностей, но не женщины.
Ученые опасаются, что модели с такого рода недостатками могут быть использованы в качестве основы для роботов, предназначенных для использования в домах, а также на рабочих местах, таких как склады.
