證券時報網(wǎng)
2025-09-16 22:27
記者從公司獲悉，9月16日，抖音上線“AI抖音求真”功能。該功能可為用戶提供對誤導(dǎo)性內(nèi)容與謠言的事實展示及澄清。在瀏覽一些易產(chǎn)生誤解的內(nèi)容和搜索謠言相關(guān)信息時，用戶均可通過“求真卡”獲知事件完整信息及辟謠內(nèi)容。
抖音方面表示，謠言治理是抖音2025年最重要的工作之一。近期，平臺已將大模型能力應(yīng)用于謠言治理。一個季度以來，平臺謠言曝光量下降67%。
隨AI技術(shù)發(fā)展，內(nèi)容創(chuàng)作越來越便利，但制造謠言也更為輕易。能否用AI治理謠言？近期，抖音已嘗試在謠言治理工作中引入大模型技術(shù)，力求實現(xiàn)對謠言“發(fā)現(xiàn)即管控”。
抖音不實信息治理負責(zé)人李博在活動中介紹，在過往的謠言治理鏈路中，發(fā)現(xiàn)謠言往往需要依靠媒體報道或機構(gòu)發(fā)聲。有了辟謠信號，才能由人工將謠言信息點納入謠言庫，進一步以此為樣本回查、下架和攔截新增的該謠言內(nèi)容。單例謠言的發(fā)現(xiàn)和處置時效需以“天”為單位。
而謠言治理所使用的大模型技術(shù)能夠“化被動為主動”，主動“審閱”平臺上到達一定熱度的所有資訊內(nèi)容。大模型通過提取視頻信息、分析主旨、聯(lián)網(wǎng)搜索，完成對內(nèi)容是否為謠言的風(fēng)險判斷?；诖伺袛?，進一步對謠言內(nèi)容進行自動處置。目前，單例謠言的處置時效已縮短至以“小時”為單位。
這一謠言治理大模型更像一個由平臺訓(xùn)練出來的“謠言鑒定專家”。抖音方面介紹，大模型的搜索信源來自權(quán)威媒體報道、政務(wù)公開平臺及歷史謠言庫樣本。此外，謠言治理大模型擁有精準(zhǔn)定義“內(nèi)容誤導(dǎo)性”“公共價值”“可證偽”等謠言特征的能力。這使得大模型對謠言的“發(fā)現(xiàn)即管控”更為精準(zhǔn)、高效。
李博介紹，在大模型技術(shù)助力下，近一個季度以來，抖音謠言內(nèi)容曝光量下降67%。大模型識別準(zhǔn)確率達85%，目前仍在持續(xù)提升中。
他坦言，謠言治理“任重道遠”。一方面，謠言的產(chǎn)生難以杜絕，主觀編造、傳播偏差等均會帶來不實信息。另一方面，辟謠的查證和時效性仍面臨挑戰(zhàn)。例如，一些熱點事件常處于動態(tài)發(fā)展中，謠言常反轉(zhuǎn)；此外，傳播方式的變化也使得信源本身受到污染?！斑@些都需要媒體、機構(gòu)、平臺，和每一位用戶攜手共治?！?/p>
近年來，抖音持續(xù)豐富辟謠相關(guān)的產(chǎn)品及內(nèi)容生態(tài)。2025年4月，抖音曾推出“辟謠卡”功能。當(dāng)用戶搜索一些涉及謠言的信息時，搜索結(jié)果會以辟謠卡片形式呈現(xiàn)。開放日活動現(xiàn)場，抖音宣布升級推出“AI抖音求真”功能。在瀏覽一些易產(chǎn)生誤解的內(nèi)容和搜索謠言相關(guān)信息時，用戶均可通過“求真卡”獲知事件完整信息及辟謠內(nèi)容。
具體而言，一方面，用戶在瀏覽視頻時，一些易產(chǎn)生誤解、談及疑似不實信息的內(nèi)容，將會被平臺掛載“AI抖音求真”跳轉(zhuǎn)鏈接。用戶點擊可達“求真卡”頁面，獲知事件的完整信息。一些熱度較高的事件，所對應(yīng)的“求真卡”還將展示更全面的謠言點信息，供用戶了解復(fù)雜事件中的多例關(guān)鍵事實點。
另一方面，用戶在搜索相關(guān)事件關(guān)鍵詞時，搜索結(jié)果將以“求真卡”形式展現(xiàn)。內(nèi)容包括事件溯源、澄清信息、權(quán)威報道、當(dāng)事人發(fā)聲等。如事件為謠言或疑似謠言，還將被顯著標(biāo)注為“謠言”或“存疑”。
據(jù)了解，“AI抖音求真”呈現(xiàn)的內(nèi)容依托于平臺訓(xùn)練的“謠言治理大模型”“資訊大模型”及辟謠運營團隊。通過“AI大模型+專項運營”的方式，該功能可為用戶提供針對誤導(dǎo)性內(nèi)容和謠言信息的事實展示及澄清。目前，“AI抖音求真”的單日曝光量估測可達近億次。
除產(chǎn)品層面，抖音近年來也通過熱點運營、辟謠賬號運營、建立媒體辟謠團等方式，持續(xù)打造辟謠內(nèi)容生態(tài)。辟謠運營團隊在發(fā)現(xiàn)一些謠言風(fēng)險信號時，也會主動向當(dāng)事人或有關(guān)部門核實內(nèi)容真?zhèn)巍?/p>
抖音辟謠運營團隊舉例介紹，暑假期間，社交媒體接連出現(xiàn)各地涌現(xiàn)“人販子”相關(guān)信息。運營團隊在捕捉到這一疑似謠言的風(fēng)險后，一方面查證各地公安通報情況，另一方面主動與各地方公安聯(lián)動，對四川、山西、河北等9個地區(qū)的“人販子”謠言進行核實。核實內(nèi)容為虛假后，平臺隨即對謠言進行處置，并在站內(nèi)通過“抖音辟謠”賬號發(fā)布辟謠內(nèi)容，運營相關(guān)熱點。
抖音負責(zé)人表示，謠言治理不僅需要平臺的技術(shù)防御，更需要用戶共建“認(rèn)知防線”。希望通過提升產(chǎn)品功能、打造辟謠內(nèi)容生態(tài)，協(xié)助用戶提升識謠、辟謠的主動性與辨別力。
