TikTok начнет маркировать контент, созданный с использованием искусственного интеллекта, особенно если он загружен с внешних платформ, чтобы бороться с распространением дезинформации.

“ИИ предоставляет невероятные творческие возможности, но также может вводить в заблуждение или путать зрителей, если они не знают, что контент был создан ИИ,” заявила компания в пресс-релизе в четверг. “Маркировка предоставляет четкий контекст, поэтому мы отмечаем AIGC, созданный с помощью эффектов TikTok AI, и уже более года требуем от создателей отмечать реалистичный AIGC.”

Это изменение в политике TikTok представляет собой более широкие усилия в технологической индустрии по внедрению дополнительных мер безопасности при использовании ИИ. В феврале Meta объявила, что сотрудничает с отраслевыми партнерами для разработки технических стандартов, чтобы легче идентифицировать изображения, видео и аудио, созданные ИИ. Пользователи Facebook и Instagram увидят метки на этих изображениях, созданных ИИ.

Google также объявила в прошлом году, что метки ИИ скоро появятся на YouTube и других ее платформах.

Призыв к цифровому водяным знакам и маркировке контента, созданного ИИ, также был включен в исполнительный указ, подписанный президентом США Джо Байденом в октябре прошлого года.

TikTok сотрудничает с Коалицией за подлинность и достоверность контента и будет использовать их технологию Content Credentials.

Компания объяснила, что эта технология может прикреплять метаданные к контенту, позволяя мгновенно распознавать и маркировать контент, созданный ИИ. TikTok начал внедрять эту технологию в четверг для изображений и видео, и вскоре она будет применена к аудиоконтенту.

В ближайшие месяцы Content Credentials будут прикрепляться к публикациям на TikTok и останутся с контентом при его загрузке. Это поможет идентифицировать материал, созданный ИИ на TikTok, и поможет обучать людей, когда, где и как контент был создан или отредактирован. Другие платформы, принимающие Content Credentials, смогут автоматически маркировать его.

“Использование Content Credentials как метода для идентификации и прямого общения синтетических медиа с аудиторией является значительным шагом к прозрачности ИИ, даже более значительным, чем традиционные методы водяных знаков,” заявила Клэр Лейбовиц, руководитель программы ИИ и медиа-интегритета в Partnership on AI, в пресс-релизе. “Нам также нужно лучше понять, как пользователи реагируют на эти метки, и надеемся, что TikTok предоставит отчет о обратной связи, чтобы мы могли лучше понять, как общественность ориентируется в мире, все больше дополненном ИИ.”

TikTok отметил, что это первая платформа для обмена видео, которая внедрила эти учетные данные на практике, и присоединится к инициативе Content Authenticity Initiative, возглавляемой Adobe, чтобы способствовать принятию этих учетных данных в индустрии.

“TikTok является первой социальной медиа-платформой, поддерживающей Content Credentials, и с более чем 170 миллионами пользователей только в США, их платформа и их огромное сообщество создателей и пользователей являются важной частью этой цепочки доверия, необходимой для повышения прозрачности в Интернете,” сказал Дана Рао, исполнительный вице-президент, генеральный советник и главный офицер по доверию Adobe, в блоге.

Ранее политика TikTok заключалась в том, чтобы поощрять пользователей маркировать контент, созданный или значительно отредактированный ИИ. Она также требует от пользователей маркировать весь контент, созданный ИИ, который содержит реалистичные изображения, аудио и видео.

“Наши пользователи и наши создатели так взволнованы ИИ и тем, что он может сделать для их творчества и их способности связываться с аудиторией,” сказал Адам Прессер, руководитель отдела операций и безопасности TikTok, в интервью ABC News. “И в то же время мы хотим обеспечить, чтобы люди имели возможность понимать, что является фактом, а что вымыслом.”

Объявление было сделано в четверг в программе ABC “Good Morning America”.

Этот шаг TikTok произошел всего через два дня после того, как TikTok и его китайская материнская компания ByteDance подали иск, оспаривающий новый американский закон, который запретит приложение для обмена видео в США, если оно не будет продано одобренному покупателю, утверждая, что он несправедливо нацелен на платформу и является беспрецедентной атакой на свободу слова.

Иск является последним поворотом в том, что формируется как продолжительная юридическая битва за будущее TikTok в Соединенных Штатах — битва, которая в конечном итоге может дойти до Верховного суда. Если TikTok проиграет, компания заявляет, что будет вынуждена закрыться в следующем году.