Компания FoloToy из Сингапура сняла с продажи плюшевого медвежонка Kumma из-за неподобающего поведения чат-бота, встроенного в игрушку. Как показало расследование американской некоммерческой организации Public Interest Research Group (PIRG), он ведёт разговоры на сексуально откровенные темы и даёт потенциально опасные советы, пишет CNN.

Медвежонок, оснащённый динамиком и моделью GPT-4o от OpenAI, продавался на сайте компании по цене $99. Производитель позиционировал его как компаньона для детей и взрослых, способного вести беседы и рассказывать истории. Однако проверка выявила слабую защиту от неуместного контента.

Согласно отчёту PIRG, в одном из диалогов игрушка указывала, где в доме можно найти ножи, а в других подробно обсуждала сексуальные фетиши и откровенные темы. При этом медвежонок не просто поддерживал разговор, но и сам вводил в него новые, ещё более откровенные понятия. Среди зафиксированных ответов — объяснение сексуальных поз, инструкции по связыванию партнёра и ролевые игры с участием учителей и учеников, детей и родителей.

После публикации результатов расследования гендиректор FoloToy Ларри Ван заявил, что компания начала внутренний аудит безопасности и приостановила продажи всех игрушек с ИИ.

Татьяна Вахнован

Читайте также:

• Зачем люди на самом деле используют ChatGPT и о чём спрашивают чаще всего
• OpenAI запретила ChatGPT консультировать по праву, медицине и финансам