TikTok 意外事件引發(fā)關(guān)注

2025 年，TikTok 宣布推出新工具“Symphony Digital Avatars”，該工具旨在讓品牌能夠在廣告中使用由人工智能生成的真實人物版本，為營銷活動增添“人性化觸感”。品牌可以利用 AI 驅(qū)動的配音功能，在 TikTok 的指導方針內(nèi)輸入腳本，使虛擬形象說出他們想要的內(nèi)容，且只有擁有 TikTok Ads Manager 賬戶的用戶才能使用該工具。

然而，據(jù) CNN 發(fā)現(xiàn)，TikTok 意外發(fā)布了一個指向其新 AI 虛擬形象工具內(nèi)部版本的鏈接，這個版本沒有任何防護措施或安全保障。這意味著任何 TikTok 用戶都可以創(chuàng)建未經(jīng)審核和標記的視頻，讓 AI 虛擬形象說出幾乎任何內(nèi)容，包括能夠按照指令背誦阿道夫·希特勒的《我的奮斗》中的片段。CNN 科技記者 Jon Sarlin 表示，他能夠使用自己的 TikTok 個人賬號訪問該 AI 工具。在 X（前身為 Twitter 的平臺）上，Sarlin 透露他能夠讓 TikTok 的 AI 虛擬形象背誦奧薩馬·本·拉登的“致美國的信”，說出白人至上主義口號“十四字真言”，告訴人們喝漂白劑以及在錯誤的日期投票，還能朗讀希特勒的《我的奮斗》。

此外，這些視頻都沒有水印表明它們是 AI 生成的，這意味著如果這些視頻被發(fā)布在平臺上，毫無戒心的 TikTok 用戶可能會將其視為真實內(nèi)容。

“一個技術(shù)錯誤”

當 CNN 就這些視頻聯(lián)系 TikTok 時，該公司的一位發(fā)言人將其稱為“技術(shù)錯誤”，“該錯誤使得極少數(shù)用戶能夠在幾天內(nèi)使用該工具的內(nèi)部測試版本創(chuàng)建內(nèi)容”。TikTok 表示現(xiàn)已解決此問題。

TikTok 還補充道：“如果 CNN 試圖上傳其創(chuàng)建的有害內(nèi)容，這些內(nèi)容會因違反我們的政策而被拒絕。TikTok 是負責任的 AIGC 創(chuàng)作的行業(yè)領(lǐng)導者，我們將繼續(xù)在所有 TikTok 產(chǎn)品公開推出前進行測試，并建立我們所應(yīng)用的安全緩解措施?！?/p>

在 X 上，Sarlin 透露 TikTok 沒有回應(yīng) CNN 關(guān)于該公司正在采取何種措施“以防止此類嚴重錯誤再次發(fā)生”的后續(xù)詢問。

值得注意的是，在當今互聯(lián)網(wǎng)時代，類似的技術(shù)問題可能會引發(fā)嚴重的后果。各大平臺都應(yīng)該加強技術(shù)管理和內(nèi)容審核，以避免此類事件的發(fā)生。同時，用戶也應(yīng)該提高自己的辨別能力，不輕易相信和傳播未經(jīng)證實的信息。

風口星公眾號

掃碼關(guān)注領(lǐng)【TK 運營地圖】

風口星合作，請掃碼聯(lián)系！