ChatGPT будет распознавать несовершеннолетних и ограничивать опасный контент

OpenAI запускает в ChatGPT систему прогнозирования возраста: она по сигналам аккаунта и поведения определит, может ли пользователь быть младше 18 лет, и автоматически включит дополнительные ограничения на чувствительный контент.

OpenAI внедряет в ChatGPT систему, которая будет оценивать возраст пользователя и определять, относится ли аккаунт к категории младше 18 лет. Компания объясняет это стремлением усилить защиту подростков и снизить риски, связанные с небезопасным контентом в интернете.

Для прогноза ChatGPT использует сигналы аккаунта и поведения. Среди примеров OpenAI называет давность создания аккаунта, время суток, когда пользователь чаще всего заходит, а также общие темы запросов и паттерны использования.

Если система определит, что пользователю нет 18 лет, ChatGPT автоматически включит усиленные меры безопасности. Они ограничат доступ к натуралистическому контенту с насилием, материалам о самоповреждениях, а также сексуальному контенту. Также ChatGPT будет сильнее ограничивать темы и форматы, которые могут подталкивать несовершеннолетних к рискованному или опасному поведению, включая вирусные «челленджи».

OpenAI подчёркивает, что подростки сохранят возможность использовать ChatGPT для учёбы, творчества и получения ответов на вопросы, но в более защищённом режиме. Компания добавляет, что подход опирается на экспертные оценки и исследования в области развития детей.

Если система ошибочно отнесёт совершеннолетнего пользователя к категории «до 18», он сможет снять ограничения через проверку возраста — с помощью селфи в реальном времени или документа, удостоверяющего личность. Верификацию проводит сторонний провайдер Persona.

Обновление выходит на фоне того, что в разных странах усиливается дискуссия о защите несовершеннолетних онлайн, включая инициативы по возрастным ограничениям для платформ и сервисов.

Сергей Сташевский

Читайте также:

• В ChatGPT появился отдельный раздел «Здоровье» для личных медицинских консультаций
• В ChatGPT появилась новая модель для создания и редактирования изображений