Компания OpenAI, работающая в сфере искусственного интеллекта, намерена расширить виды контента, создаваемого её популярным чат-ботом ChatGPT. По словам главы компании Сэма Альтмана, в новой версии, запланированной к выпуску в декабре, чат-бот сможет генерировать откровенные материалы, включая эротический контент для верифицированных пользователей, пишет Русская служба би-би-си.

Альтман заявил в социальной сети X, что OpenAI решила «относиться ко взрослым пользователям как к взрослым» и предоставить им больше свободы при взаимодействии с ChatGPT. По его словам, система будет адаптироваться к стилю общения, который предпочитает человек — будь то эмоциональные ответы, дружеский тон или использование эмодзи.

Похожий шаг недавно предприняла компания Илона Маска xAI, оснастив свой чат-бот Grok функцией генерации сексуально откровенных ответов.

Эксперты считают, что разрешение эротического контента может увеличить число платных подписчиков OpenAI, но одновременно усилит давление со стороны регуляторов, которые могут потребовать ужесточения контроля за безопасностью пользователей.

Компания отказалась комментировать сообщение Альтмана, опубликованное после серии критических публикаций о рисках, связанных с работой ИИ-платформ. В частности, в начале года родители 16-летнего американского подростка, покончившего с собой, подали иск против OpenAI, утверждая, что механизмы родительского контроля в ChatGPT не обеспечивают безопасность детей.

В другом посте от 14 октября Альтман пояснил, что OpenAI ввела «значительные ограничения» для защиты психического здоровья пользователей. Он признал, что это сделало ChatGPT менее удобным для многих, но позволило снизить потенциальные риски. По его словам, компания разработала новые инструменты, которые в будущем позволят безопасно ослабить эти ограничения.

Тем временем юристы и правозащитники настаивают на необходимости строгого регулирования работы ИИ-сервисов. Адвокат Дженни Ким из фирмы Boies Schiller Flexner выразила сомнение в способности OpenAI предотвратить доступ несовершеннолетних к контенту для взрослых.

В апреле издание TechCrunch сообщало, что пользователи, зарегистрированные как несовершеннолетние, могли создавать эротические изображения через OpenAI, несмотря на запрет. Компания пообещала принять меры для ограничения подобных случаев.

По данным исследования, опубликованного Центром демократии и технологий (CDT), около 20% школьников признались, что у них были романтические или эмоциональные связи с чат-ботами на основе искусственного интеллекта.

Проблема взаимодействия детей с ИИ вызывает беспокойство и у властей. Губернатор Калифорнии Гэвин Ньюсом недавно наложил вето на законопроект, ограничивающий использование чат-ботов детьми, заявив, что подростки должны научиться безопасно взаимодействовать с ИИ. Параллельно Федеральная торговая комиссия США начала расследование способов, которыми несовершеннолетние пользуются такими сервисами.

В Конгрессе США уже рассматривается законопроект, который классифицирует чат-боты как продукты, что даст пользователям право подавать иски против разработчиков за причинённый вред.

Несмотря на растущие доходы, OpenAI пока остаётся убыточной. По мнению профессора бизнеса Тулейнского университета Роба Лалки, автора книги «Венчурные алхимики», компании, работающие в сфере искусственного интеллекта, находятся в гонке за доминирование на рынке. Он отметил, что OpenAI удалось внедрить свой продукт шире, чем кому-либо ранее, и теперь компании необходимо сохранить этот темп роста, чтобы удержать лидерство.

Татьяна Вахнован

---

Читайте также:

• ChatGPT расширил бесплатные возможности: что даёт функция «Проекты»
• OpenAI признала: ChatGPT может передавать данные пользователей в полицию без запроса