TikTok 采取措施應(yīng)對 AI 相關(guān)問題

2025 年，為增強(qiáng)自身責(zé)任意識并降低平臺(tái)受人工智能（AI）技術(shù)濫用的影響，熱門視頻分享應(yīng)用 TikTok 表示將開始手動(dòng)為 AI 生成的內(nèi)容添加標(biāo)簽，以防止用戶接觸到虛假內(nèi)容，這與防范社交媒體平臺(tái)上流行且對社會(huì)產(chǎn)生有害影響的假新聞、假賬戶和假產(chǎn)品的趨勢相符。同時(shí)，TikTok 還描述了與 C2PA 的合作，以確保該政策能通過 TikTok 得到有效實(shí)施。

在當(dāng)前技術(shù)快速發(fā)展的時(shí)代，AI 技術(shù)的應(yīng)用帶來了諸多便利，但也引發(fā)了一些問題。例如，AI 生成的內(nèi)容可能會(huì)誤導(dǎo)用戶，甚至對社會(huì)造成不良影響。因此，TikTok 的這一舉措具有重要意義。

與 C2PA 的合作及內(nèi)容憑證技術(shù)

TikTok 的新政策將通過與內(nèi)容來源和真實(shí)性聯(lián)盟（C2PA）的合作得到補(bǔ)充。C2PA 是一個(gè)公開可用的技術(shù)標(biāo)準(zhǔn)，其開發(fā)過程是與包括英特爾、Adobe、微軟、Arm 等科技巨頭協(xié)調(diào)進(jìn)行的，這些公司構(gòu)成了 C2PA 發(fā)展的核心力量。通過這一合作，TikTok 將能夠利用技術(shù)并實(shí)施其監(jiān)測或檢測 AI 創(chuàng)作作品的能力。

推動(dòng)這一舉措的關(guān)鍵技術(shù)是內(nèi)容憑證，它將使合成內(nèi)容能夠自動(dòng)標(biāo)記。最初，這一功能將應(yīng)用于圖像和視頻。該公司已宣布計(jì)劃在未來幾周內(nèi)將標(biāo)記功能擴(kuò)展到純音頻媒體。內(nèi)容憑證的整合將幫助用戶識別 AI 生成的內(nèi)容，即使這些內(nèi)容在平臺(tái)外被下載和編輯。

Adobe 的總法律顧問 Dana Rao 表示：“TikTok 在全球擁有龐大的創(chuàng)作者和用戶社區(qū)，我們很高興歡迎他們加入 C2PA 和 CAI，因?yàn)樗麄兲ど狭嗽谄脚_(tái)上提供更多透明度和真實(shí)性的旅程。”

未來整合與教育舉措

展望未來，TikTok 計(jì)劃將內(nèi)容憑證技術(shù)嵌入到平臺(tái)的原生內(nèi)容創(chuàng)作工具中。這意味著在 TikTok 上生成的內(nèi)容將自動(dòng)帶有標(biāo)記，表明其是否是使用 AI 制作或修改的。這一行動(dòng)有望將內(nèi)容歸屬提升到一個(gè)全新的水平，換句話說，用戶將能夠通過他們的設(shè)備輕松區(qū)分他們所消費(fèi)的真實(shí)和虛假內(nèi)容。

盡管有了技術(shù)措施，TikTok 還積極為人工智能生成內(nèi)容的危險(xiǎn)進(jìn)行教育宣傳活動(dòng)。目前處于規(guī)劃階段的平臺(tái)將涉及 Mediawise 和 WITNESS，以設(shè)計(jì)和創(chuàng)建媒體素養(yǎng)資源，幫助用戶了解使用 AI 生成媒體所帶來的危險(xiǎn)。這些資源將包括詳細(xì)的目錄和指南，以及一系列包含 WITNESS 輸入的視頻。

“我們還將發(fā)起一項(xiàng)活動(dòng)，提高人們對 AI 標(biāo)簽和可能具有誤導(dǎo)性的 AI 生成內(nèi)容的認(rèn)識，我們與 WITNESS 的專家指導(dǎo)下開發(fā)了一系列視頻，”聲明中說。

應(yīng)對監(jiān)管壓力和深度偽造騙局

這一舉措是在監(jiān)管審查日益嚴(yán)格和公眾對技術(shù)潛在濫用的擔(dān)憂，特別是在應(yīng)用中普遍存在的深度偽造騙局的背景下推出的。這種騙局已經(jīng)在不同行業(yè)蔓延，但加密貨幣領(lǐng)域受到的影響尤為嚴(yán)重。

例如，最近在香港發(fā)生的利用深度偽造視頻詐騙無辜公眾以及針對埃隆·馬斯克的事件，因其潛在的破壞性影響而令人擔(dān)憂。

這是對全球人工智能監(jiān)管機(jī)構(gòu)要求對 AI 生成內(nèi)容進(jìn)行標(biāo)簽并對不遵守規(guī)定的行為采取強(qiáng)有力懲罰措施的回應(yīng)。同時(shí)，也在努力在國際上形成統(tǒng)一戰(zhàn)線，試圖實(shí)現(xiàn)法律框架的標(biāo)準(zhǔn)化，這將有助于消除監(jiān)管疾病控制的案例。

在此之后，TikTok 成為首個(gè)通過采用 C2PA 標(biāo)準(zhǔn)整合自動(dòng) AI 內(nèi)容標(biāo)簽功能的社交媒體平臺(tái)。這不僅為整個(gè)行業(yè)樹立了新的標(biāo)準(zhǔn)，也為在 AI 日益普及的虛擬世界中保持真實(shí)性做出了進(jìn)一步的努力。

TikTok 對內(nèi)容管理的方法，包括并重點(diǎn)關(guān)注 AI 生成的內(nèi)容，展示了該公司是如何開放并愿意確保平臺(tái)用戶只獲得真實(shí)信息的。因此，自我監(jiān)管和改變用戶行為可以幫助 TikTok 在與人工智能的對抗中占據(jù)領(lǐng)導(dǎo)地位。

隨著這些策略的推進(jìn)，該平臺(tái)有望在全球范圍內(nèi)在如何看待和處理通過 AI 生成的虛假內(nèi)容方面發(fā)揮重要作用。

文章來源：mobilenapps

風(fēng)口星公眾號

掃碼關(guān)注領(lǐng)【TK 運(yùn)營地圖】

風(fēng)口星合作，請掃碼聯(lián)系！