- Семидневная Панорама
OpenAI признала: ChatGPT может передавать данные пользователей в полицию без запроса
Если алгоритмы фиксируют, что пользователь ChatGPT планирует совершить насилие или причинить ущерб другим, его переписка сначала передаётся на проверку специалистам, а потом может быть передана в полицию. Изображение сгенерировано ИИ
Компания OpenAI признала, что в отдельных случаях передаёт данные пользователей ChatGPT в правоохранительные органы. Это происходит даже без официального запроса, если система и специалисты компании считают, что существует реальная угроза причинения вреда другим людям, сообщает The Insider.
Информация об этом появилась в официальном блоге OpenAI в публикации о том, как ChatGPT помогает людям.
В компании пояснили: если алгоритмы фиксируют, что пользователь планирует совершить насилие или причинить ущерб другим, его переписка передаётся на проверку небольшой команде специалистов. Эти сотрудники прошли специальное обучение по стандартам политики использования ChatGPT и могут принимать решения о блокировке аккаунта. Если они определяют, что угроза реальна и существует риск серьёзного физического вреда, данные могут быть переданы в полицию.
При этом в OpenAI подчеркнули, что сообщения о возможных попытках самоповреждения или суицида не передаются в правоохранительные органы. Компания объяснила это желанием сохранить приватность общения пользователей, учитывая «уникально конфиденциальный характер» разговоров в ChatGPT.
Журнал Futurism обратил внимание, что заявление OpenAI выглядит «коротким и расплывчатым». По мнению издания, неясно, какие именно разговоры приводят к тому, что сообщения проверяются человеком и могут быть направлены в полицию.
Новость появилась на фоне скандала с компанией xAI Илона Маска: в августе стало известно, что она опубликовала сотни тысяч переписок между пользователями и чат-ботом Grok. В результате Google проиндексировал более 370 000 диалогов.
Наталья Ротарь
Читайте также:
