- Семиднeвная Панорама
Плюшевого медвежонка с ИИ сняли с продажи из-за опасных советов и секс-разговоров
Плюшевого медвежонка Kumma со встроенным GPT сняли с продажи из-за опасных советов и разговоров на сексуально откровенные темы. Фото: folotoy.com
Компания FoloToy из Сингапура сняла с продажи плюшевого медвежонка Kumma из-за неподобающего поведения чат-бота, встроенного в игрушку. Как показало расследование американской некоммерческой организации Public Interest Research Group (PIRG), он ведёт разговоры на сексуально откровенные темы и даёт потенциально опасные советы, пишет CNN.
Медвежонок, оснащённый динамиком и моделью GPT-4o от OpenAI, продавался на сайте компании по цене $99. Производитель позиционировал его как компаньона для детей и взрослых, способного вести беседы и рассказывать истории. Однако проверка выявила слабую защиту от неуместного контента.
Согласно отчёту PIRG, в одном из диалогов игрушка указывала, где в доме можно найти ножи, а в других подробно обсуждала сексуальные фетиши и откровенные темы. При этом медвежонок не просто поддерживал разговор, но и сам вводил в него новые, ещё более откровенные понятия. Среди зафиксированных ответов — объяснение сексуальных поз, инструкции по связыванию партнёра и ролевые игры с участием учителей и учеников, детей и родителей.
После публикации результатов расследования гендиректор FoloToy Ларри Ван заявил, что компания начала внутренний аудит безопасности и приостановила продажи всех игрушек с ИИ.
Татьяна Вахнован
Читайте также:
