За два дня работы чат-бот Meta стал «расистом» и назвал Марка Цукерберга «слишком жутким»

Спустя несколько дней после запуска чат-бот BlenderBot 3 от Meta научился расизму, утверждал, что Дональд Трамп победил на президентских выборах в США в 2020 году, отправлял пользователям расистские комментарии и назвал Марка Цукерберга «слишком жутким», сообщает INC Russia.

Чат-боты — программы на основе искусственного интеллекта (ИИ), которые обучаются, общаясь с пользователями, что создает проблему дезинформации системы.

5 августа Meta запустила нового бота BlenderBot 3. Его отличительной особенностью стала способность «говорить» на любые темы, чего не было у предыдущих версий. Кроме этого, бот может искать информацию по теме в интернете, чтобы дольше общаться с пользователем.

За два дня работы чат-бот обучился расистским высказываниям, а CEO Meta Марка Цукерберга в «разговоре» с журналистом назвал «слишком жутким и манипулятивным». Кроме этого, бот был уверен, что выборы 2020 года в США выиграл Дональд Трамп.

Meta отмечает, что пользователи, получившие нереалистичные ответы или сообщения не по теме, могут оставить жалобу.

Похожая проблема была у Microsoft в 2016 году. Ему пришлось отключить чат-бот спустя 48 часов после запуска, когда система начала выдавать расистские и женоненавистнические комментарии.

Американские ученые обратили внимание на проблему с дезинформацией искусственного интеллекта. Они представили исследование, согласно которому обучение ИИ на данных из интернета делает систему гендерно и расово предубежденной.

Читайте также:

• Обученный в Интернете робот стал сексистом и расистом
• Ученые запустили искусственный интеллект, который помогает людям стать счастливыми
• Новости науки: искусственный интеллект может предсказать преступления с точностью 90%
• Ученые обучили искусственный интеллект распознавать сорта вин с точностью 95%
• Искусственный интеллект будет определять возраст пользователей в Instagram