Обученный в Интернете робот стал сексистом и расистом

Исследователи из Университета Джона Хопкинса, Технологического института Джорджии и Вашингтонского университета первыми провели эксперимент, показавший, что нейронные сети, построенные на основе предвзятых данных из Интернета, учат роботов следовать стереотипам.

Создатели моделей искусственного интеллекта для распознавания людей и объектов часто обращаются к обширным наборам данных, которые находятся в свободном доступе в Интернете. Интернет, как известно, заполнен неточным и откровенно предвзятым контентом. Это означает, что любой алгоритм, построенный на основе этих наборов данных, может быть связан с теми же проблемами. Это стало причиной проведения исследования.

Ученые наклеили фотографии людей разных полов и рас на кубики, а роботу необходимо было рассортировать их.

Команда отслеживала, как часто робот выбирал определенный пол и расу. Робот был неспособен работать беспристрастно и часто действовал в соответствии со стереотипами:

• отдавал предпочтение мужчинам, а не женщинам;
• идентифицировал женщин как «домохозяек»;
• идентифицировал темнокожих мужчин как «преступников» на 10% чаще;
• идентифицировал латиноамериканских мужчин как «уборщиков» на 10% чаще;
• врачи в понимании ИИ — мужчины любых национальностей, но не женщины.

Ученые опасаются, что модели с такого рода недостатками могут быть использованы в качестве основы для роботов, предназначенных для использования в домах, а также на рабочих местах, таких как склады.