TikTok будет маркировать контент, созданный искусственным интеллектом

TikTok планирует ввести автоматическую маркировку изображений и видео, которые были создание с помощью искусственного интеллекта (ИИ) и загружены в соцсеть. Для автоматической маркировки будет использоваться цифровой водяной. Эта мера необходима для борьбы с дезинформацией и фейками во время выборов, сообщает Reuters.

Исследователи выразили обеспокоенность тем, что контент, созданный искусственным интеллектом, может быть использован для влияния на ход выборов. TikTok входит в группу из 20 технологических компаний, которые в феврале 2024 года подписали соглашение, обязующее бороться с этим явлением. Оно включает в себя:

• обязательства по сотрудничеству в разработке инструментов для обнаружения вводящих в заблуждение изображений, видео и аудио, созданных ИИ; 
• создание кампаний для информирования избирателей о контенте, вводящем в заблуждение;
• принятие мер в отношении обманчивого контента.

TikTok уже маркирует контент, созданный искусственным интеллектом с помощью инструментов внутри приложения, но последним шагом будет применение маркировки к видео и изображениям, созданным вне платформы.

«У нас также есть политика, запрещающая реалистичный ИИ, который не помечен, поэтому, если реалистичный ИИ (сгенерированный контент) появится на платформе, мы удалим его как нарушающий правила нашего сообщества», — заявил в интервью Адам Прессер, руководитель отдела операций, доверия и безопасности в TikTok.

Технология Content Credentials была инициирована Коалицией за происхождение и подлинность контента, группой, соучредителями которой являются Microsoft, Adobe, Intel и ряд других компаний.

Новый стандарт уже принял создатель ChatGPT компания OpenAI.

YouTube, принадлежащий Alphabet Google, и платформа Meta, которой принадлежат Instagram и Facebook, также заявили, что планируют использовать учётные данные контента.

Чтобы система работала, как производитель инструмента генеративного искусственного интеллекта, используемого для создания контента, так и платформа, используемая для его распространения, должны согласиться использовать стандарт Content Credentials.

Например, когда человек использует инструмент Dall-E от OpenAI для создания изображения, OpenAI прикрепляет водяной знак к полученному изображению и добавляет в файл данные, которые позже могут указать, было ли оно подделано.

Если это отмеченное изображение затем загрузить в TikTok, оно будет автоматически помечено как созданное искусственным интеллектом.

Наталья Ротарь

Читайте также:

• В США хотят запретить TikTok: нижняя палата Конгресса одобрила проект закона
• В Молдове самой популярной соцсетью является TikTok
• Meta ограничивает отображение политического контента в Instagram и Threads