- Семидневная Панорама
OpenAI вскоре начнёт определять возраст пользователей ChatGPT в ЕС
Если модель прогнозирования возраста определит, что учётная запись может принадлежать человеку младше 18 лет, ChatGPT автоматически применит дополнительные меры защиты. Фото: tomsguide.com
Компания OpenAI начинает внедрять прогнозирование возраста в ChatGPT. Цель — определить вероятность того, что учётная запись принадлежит человеку младше или старше 18 лет. Функция внедряется по всему миру, а в странах Европейского союза её запуск ожидается в ближайшие недели с учётом региональных требований.
Ранее OpenAI делилась предварительными планами по прогнозированию возраста. Эта технология дополняет уже действующие механизмы. Подростки, которые при регистрации сами указывают возраст до 18 лет, автоматически получают усиленные меры безопасности, чтобы снизить риск столкновения с чувствительным или потенциально вредным контентом. Как отмечают в компании, это также помогает «относиться ко взрослым как ко взрослым» и позволять им пользоваться инструментами так, как они хотят, при сохранении безопасности.
Как работает прогнозирование возраста
ChatGPT использует модель прогнозирования возраста, чтобы оценить, принадлежит ли учётная запись человеку младше или старше 18 лет. Модель учитывает сочетание поведенческих сигналов и сигналов на уровне учётной записи, включая:
- срок существования аккаунта;
- типичное время суток, когда пользователь активен;
- особенности использования со временем;
- возраст, указанный пользователем.
Компания пояснила, что запуск модели помогает понять, какие сигналы повышают точность, и эти данные используют для постоянного улучшения системы.
Что делать, если аккаунт ошибочно отнесли к «младше 18»
OpenAI сообщила, что пользователи, которых по ошибке перевели в режим для лиц младше 18 лет, смогут быстро подтвердить возраст и восстановить полный доступ. Для этого предлагается проверка через селфи в Persona — сервисе верификации личности.
В зависимости от страны пользователя сервис Persona может попросить:
- Живое селфи: фотография лица пользователя в реальном времени.
- Государственный документ: фотография удостоверения личности, выданного государством (например, водительского удостоверения, паспорта или ID-карты). Persona проверяет дату рождения и то, что селфи совпадает с фотографией в документе. Допустимые документы различаются в зависимости от страны.
Также компания указала, что пользователь может в любое время проверить, применены ли к его аккаунту меры безопасности: Настройки > Учетная запись.
Какие меры безопасности включатся автоматически
Если модель прогнозирования возраста определит, что учётная запись может принадлежать человеку младше 18 лет, ChatGPT автоматически применит дополнительные меры защиты, направленные на снижение риска доступа к чувствительному контенту. В OpenAI перечислили, что в первую очередь речь о снижении вероятности контакта с такими материалами, как:
- изображения сцен насилия или чрезмерной жестокости;
- вирусные «челленджи», которые могут поощрять рискованное или вредное поведение у несовершеннолетних;
- признаки ролевых игр с сексуальным, романтическим или жестоким подтекстом;
- изображения членовредительства;
- контент, продвигающий экстремальные стандарты красоты, нездоровое питание или бодишейминг (критика или высмеивание человека за особенности его внешности).
Компания отметила, что подход опирается на мнение экспертов и научную литературу о развитии ребёнка, а также учитывает различия между подростками в восприятии риска, контроле импульсов, влиянии сверстников и эмоциональной регуляции.
OpenAI добавила, что ограничения контента должны снизить вероятность столкновения подростков с чувствительными материалами, и компания намерена постоянно улучшать защиту, в том числе против попыток обхода механизмов. В OpenAI также заявили, что, если возраст определить сложно или информации недостаточно, система по умолчанию выбирает более безопасный вариант.
Родительский контроль
Помимо автоматических мер, OpenAI сообщила о возможности дополнительной настройки взаимодействия системы с ребёнком через родительский контроль. Среди заявленных функций — «тихие часы», когда ChatGPT нельзя использовать, управление такими возможностями, как память или обучение модели, а также уведомления при обнаружении признаков острого дистресса (разрушительного вида стресса, с которым организм и психика не могут справиться самостоятельно).
Эти заявления компании прозвучали на фоне того, что в разных странах мира начали готовить законы, которые ограничат работу инструментов искусственного интеллекта, а также введут запреты на доступ детей к социальным сетям. При этом чат-боты оказались в центре скандала после многочисленных сообщений о том, что такие платформы, в том числе Grok Илона Маска, создавали изображения сексуального характера с участием детей и женщин.
Наталья Ротарь
Читайте также:
