久久久久久影院|深夜高潮喷水视频|久久五级视频|5566无码网址

每個(gè)網(wǎng)絡(luò)熱點(diǎn)事件的發(fā)酵，往往伴隨著大量的謠言。隨著生成式AI的廣泛使用，網(wǎng)絡(luò)謠言有了愈演愈烈之勢(shì)。

清華大學(xué)新聞與傳播學(xué)院新媒體研究中心發(fā)布報(bào)告顯示，AI謠言量在2024年有較為明顯的增長(zhǎng)。其中，經(jīng)濟(jì)與企業(yè)類AI謠言量增速最高。

據(jù)界面新聞了解，抖音、微信公眾平臺(tái)、微博、快手等多個(gè)平臺(tái)目前都已建立專門的辟謠賬號(hào)，定期針對(duì)傳播廣泛的謠言內(nèi)容進(jìn)行辟謠。

但一位平臺(tái)治理人員對(duì)界面新聞表示，生成式AI讓大幅降低了生產(chǎn)網(wǎng)絡(luò)謠言的門檻，但平臺(tái)核實(shí)信息的真實(shí)性往往需要一些時(shí)間，中間的時(shí)間差足以讓網(wǎng)絡(luò)謠言產(chǎn)生廣泛傳播，甚至帶來(lái)一些社會(huì)危害。

根據(jù)警方此前曝光的案例，一些不法團(tuán)伙利用AI工具等生成謠言，通過(guò)其控制的數(shù)百個(gè)自媒體賬號(hào)發(fā)布，在短短幾天時(shí)間就能夠發(fā)布幾百條內(nèi)容。這些謠言經(jīng)過(guò)發(fā)酵之后，帶動(dòng)的新增討論更是不計(jì)其數(shù)。

上述平臺(tái)治理人員還透露，在一些熱點(diǎn)事件中，雖然平臺(tái)對(duì)相關(guān)謠言進(jìn)行了辟謠，但辟謠內(nèi)容的傳播熱度遠(yuǎn)低于謠言熱度，用戶往往只看到了謠言信息而看不到辟謠信息。

在很長(zhǎng)一段時(shí)間內(nèi)，“造謠容易辟謠難”的問(wèn)題困擾著各個(gè)平臺(tái)的信息治理團(tuán)隊(duì)。9月16日，抖音在不實(shí)信息治理開(kāi)放日上宣布上線“AI抖音求真”功能，并對(duì)外分享了一些通過(guò)技術(shù)手段治理謠言的方法，這給網(wǎng)絡(luò)謠言治理提供了一些新思路。

治理AI謠言，用魔法打敗魔法

今年，已經(jīng)有“歌手陳奕迅去世”“演員于朦朧遺體帶血的勞力士”等多起網(wǎng)絡(luò)謠言事件頻繁攪動(dòng)輿論場(chǎng)，這些謠言時(shí)候均被證明使用AI進(jìn)行了偽造。

此前，平臺(tái)在初步研判一些快速發(fā)酵的網(wǎng)絡(luò)熱點(diǎn)信息時(shí)，往往依靠治理人員的經(jīng)驗(yàn)。抖音生態(tài)治理團(tuán)隊(duì)一位負(fù)責(zé)人在不久前接受界面新聞采訪時(shí)表示，今年上半年，其最初研判“華山醫(yī)院前院長(zhǎng)張明遠(yuǎn)客死洛杉磯”的信息時(shí)，發(fā)現(xiàn)大量自媒體發(fā)布的信息相似度太高，意識(shí)到這則消息可能有AI編造的痕跡。

據(jù)界面新聞了解，平臺(tái)治理人員研判謠言的經(jīng)驗(yàn)還包括尋找信息中不符合常識(shí)的瑕疵、信息的源頭是否包含權(quán)威媒體等。但隨著生成式AI能力的提升，這些人工經(jīng)驗(yàn)在謠言研判上能夠發(fā)揮的作用越來(lái)越有限，平臺(tái)治理人員對(duì)上線技術(shù)手段研判謠言的呼聲越來(lái)越高。

抖音不實(shí)信息治理負(fù)責(zé)人李博在不實(shí)信息治理開(kāi)放日上透露，近期，抖音已嘗試在謠言治理工作中引入大模型技術(shù)。基于謠言治理大模型研發(fā)的智能體更像一個(gè)由平臺(tái)訓(xùn)練出來(lái)的“謠言鑒定專家”，它學(xué)習(xí)了過(guò)往人工在研判的經(jīng)驗(yàn)，但能力比人工有了大幅提升。

李博以今年7月出現(xiàn)的一條“老年人坐火車有新規(guī)定”謠言內(nèi)容詳細(xì)解釋了謠言治理大模型的工作機(jī)制：智能體對(duì)相關(guān)視頻的畫面、畫面中的文字以及音頻進(jìn)行拆解，提煉其主旨為“7月1日起，老年人坐火車有新規(guī)定，買票可享受折扣”；接下來(lái)，智能體會(huì)全網(wǎng)檢索相關(guān)信息，重點(diǎn)關(guān)注權(quán)威媒體以及12306官方賬號(hào)有無(wú)相關(guān)報(bào)道或辟謠，來(lái)研判相關(guān)信息是否屬實(shí)；在發(fā)現(xiàn)官方賬號(hào)辟謠之后，智能體確定該信息為謠言，并研判其容易給公眾誤導(dǎo)，風(fēng)險(xiǎn)高。研判之后，智能體不只處理了這一條內(nèi)容，還入庫(kù)回掃其他相關(guān)內(nèi)容，處理掉了全部不實(shí)信息。

相比于人工處理謠言，該方式在全網(wǎng)信息研判、回查處置方面的效率更高。根據(jù)抖音方面公布的數(shù)據(jù)，在大模型技術(shù)助力下，近一個(gè)季度以來(lái)，抖音謠言內(nèi)容曝光量下降67%。大模型識(shí)別準(zhǔn)確率達(dá)85%，目前仍在持續(xù)提升中。

但謠言研判處置并不全都這么簡(jiǎn)單，治理人員經(jīng)常遇到的問(wèn)題是無(wú)法立即核實(shí)信息的真實(shí)性。比如“九月社保新規(guī)，全民強(qiáng)制繳納社?！钡男畔ⅲ@實(shí)際上是對(duì)政策的補(bǔ)充和說(shuō)明，被一些自媒體解讀為新規(guī)，引發(fā)了諸多誤解。

為此，抖音還上線了“無(wú)依據(jù)的不當(dāng)臆測(cè)內(nèi)容”的大模型，一方面通過(guò)內(nèi)容本身的論據(jù)判斷，另一方面會(huì)結(jié)合外部舉報(bào)等信號(hào)。高置信度的就直接處置，疑似的人工會(huì)進(jìn)一步研判。

李博告訴界面新聞，經(jīng)過(guò)一段時(shí)間的運(yùn)營(yíng)，其團(tuán)隊(duì)也發(fā)現(xiàn)了謠言治理大模型還可以優(yōu)化的方向。比如，把團(tuán)隊(duì)在專業(yè)知識(shí)上的積累變成大模型的知識(shí)庫(kù)，平臺(tái)上一些專業(yè)達(dá)人也可以作為一些信息反饋渠道等。

解決“造謠容易辟謠難”，平臺(tái)還需投入更多運(yùn)營(yíng)力量

通過(guò)技術(shù)手段能夠直接處理的謠言只是一部分，還有大量的存疑信息同樣存在引發(fā)誤解、攪動(dòng)輿論場(chǎng)的問(wèn)題。

這部分信息仍然需要平臺(tái)投入更多運(yùn)營(yíng)力量來(lái)向用戶呈現(xiàn)真實(shí)信息的全貌。據(jù)界面新聞了解，目前多個(gè)平臺(tái)對(duì)謠言治理的重點(diǎn)仍然是處置已經(jīng)被證實(shí)的謠言信息，對(duì)這類存疑信息的治理仍存在很多難點(diǎn)。

微博和抖音在存疑信息的治理上有了較為明確的動(dòng)作。其中，微博在信息流中推出了微博查證功能，用戶點(diǎn)擊之后可跳轉(zhuǎn)至微博智搜頁(yè)面，可查看到由AI總結(jié)的事件來(lái)龍去脈全貌，大幅減少了用戶因獲取片面信息產(chǎn)生的誤解。

抖音近日把此前已上線的抖音辟謠卡的功能升級(jí)為“AI抖音求真”功能。該功能直接掛在容易產(chǎn)生誤解的短視頻下方，用戶點(diǎn)擊就可跳轉(zhuǎn)到落地頁(yè)，了解事件全貌。根據(jù)抖音方面公布的信息，“AI抖音求真”功能目前日均曝光大概在1億左右。

在此前的平臺(tái)信息治理中，平臺(tái)的重點(diǎn)多集中在處置謠言內(nèi)容上，辟謠信息以及事件的全貌都需要用戶主動(dòng)搜索獲取，這在一定程度上也助推了“造謠容易辟謠難”的問(wèn)題。從最新的治理思路來(lái)看，平臺(tái)希望能夠通過(guò)運(yùn)營(yíng)力量增加真實(shí)信息的曝光，讓用戶能夠在刷內(nèi)容的過(guò)程中被動(dòng)獲得。

抖音謠言治理員工李青松還向界面新聞透露，抖音發(fā)現(xiàn)未經(jīng)證實(shí)的存疑信息后，會(huì)根據(jù)“社區(qū)熱點(diǎn)信息治理規(guī)則”先采取流量限制措施，避免無(wú)序傳播誤導(dǎo)公眾。若后續(xù)官方通報(bào)明確信息為謠言，則納入謠言庫(kù)處置；若通報(bào)為事實(shí)，則解除流量限制；若長(zhǎng)期無(wú)定論，則持續(xù)維持存疑標(biāo)記與流量管控。

比如，在近期的演員于朦朧墜樓事件中，各個(gè)平臺(tái)出現(xiàn)大量和墜樓原因相關(guān)的信息。在警方通報(bào)之前，平臺(tái)也無(wú)法核實(shí)真?zhèn)?，只能盡可能呈現(xiàn)信息全貌，并把一些存疑信息進(jìn)行流量限制。但不可否認(rèn)的是，各個(gè)平臺(tái)中仍然有大量謠言信息在傳播。

在李博看來(lái)，當(dāng)下謠言的產(chǎn)生多種多樣，主觀編造、傳播偏差、理解不足均會(huì)演變成謠言，甚至有些觀點(diǎn)都不是故意編造，但在傳播中用戶逐步加工變成謠言?！澳壳敖鉀Q謠言傳播問(wèn)題仍然存在較大挑戰(zhàn)，不實(shí)信息的治理是一場(chǎng)智慧與技術(shù)博弈的持久戰(zhàn)。”