防不勝防！陸AI批量造謠場景一鍵生成、圖文真假難辨

陸AI批量造謠防不勝防場景一鍵生成、圖文真假難辨。（澎湃新聞）

大陸《經濟參考報》11日報導，近期，大陸多地公安機關發佈多起利用AI工具實施造謠的相關案件。6月20日上海市公安局城市軌道和公交總隊官方微博「@軌交幺幺零」發佈警情通報：兩名行銷人員爲博取關注造謠地鐵站發生持刀傷人的情況，被警方依法處以行政拘留。其中一人，使用AI軟體生成視訊技術，編造了地鐵行兇的虛假視訊等不實資訊發佈到網上，造成惡劣社會影響。

據瞭解，便利的AI工具大大降低造謠成本，提升謠言數量級和傳播力。AI造謠呈現出門檻低、批量化、識別難等特點，亟待加強監管，斬斷背後利益鏈條。

梳理髮現，近年來，AI造謠在大陸多地頻發，傳播快、門檻低、迷惑性強。

去年，在上海一女童走失事件中，一團夥以「標題黨」「震驚體」方式，惡意編造炒作「女孩父親系繼父」「女孩被帶往溫州」等系列謠言。該團伙利用AI工具等生成謠言內容，通過114個帳號矩陣，在6天內發佈268篇文章，多篇文章點擊量超過100萬次。

AI造謠門檻很低。一名辦案人員透露，此前在調查一起謠言案件時發現，謠言源頭來自中部某省分的一個村落。經調查，該村有大量村民利用生成式AI撰寫網路文章。

「部分村民通過口口相傳獲知，把搜索到的網路熱點資訊粘貼進AI模型後，可以生成新文章；在一些互聯網平臺上發佈，即可通過流量賺錢。不少村民都自發從事該活動。」辦案人員說。

迷惑性強，也是AI造謠的一大特點。

大陸公安部網安局近期公佈一起案例。2023年12月以來，一條「西安市鄠邑區地下涌出熱水」的資訊頻繁在網路上傳播，出現如「地下出熱水是因爲發生了地震」「是因爲地下熱管道破裂」等謠言。經查，相關謠言是通過AI洗稿方式生成的。

報導發現，上述謠言採用類似新聞的行文，其中夾雜着「據報導」「相關部門正對事故原因進行深入調查，並採取措施進行搶修」「提醒廣大市民在日常生活中要注意安全」等內容。普通人難辨真僞。

北京清華大學新聞與傳播學院教授瀋陽表示，AI的介入使得資訊的生成和傳播速度大大加快，同時也增加了判斷資訊真實性、準確性的難度。AI工具從技術上降低了不法團伙造謠、傳謠的門檻，大幅提升了謠言的數量級和傳播力，可能促使網路謠言「定製化」生成、「精準化」傳播、「智慧化」擴散。

北京清華大學新聞與傳播學院新媒體研究中心今年4月發佈的一分研究報告顯示，近兩年的AI謠言中，經濟與企業類謠言佔比最高，達43.71％；近一年來，經濟與企業類AI謠言量增速高達99.91％，其中餐飲外賣、快遞配送等行業更是AI謠言重災區。

報導發現，多起AI造謠事件背後，造謠者的動機主要源於獲取互聯網內容平臺給予創作者的點擊量、閱讀量獎勵，以及爲電商平臺經營引流等。

浙江省紹興市上虞區人民法院2023年宣判的一起案件中，不法分子爲吸粉引流，通過非法管道購買AI視訊生成軟體，將網上搜集的熱門話題，通過AI一鍵生成視訊，併發至多個熱門視訊平臺上牟利。

經審查發現，截至案發，不法分子發佈的《浙江工業園現場大火濃煙滾滾，目擊者稱有爆炸聲！》等20餘條虛假造謠視訊，涉及浙江、湖南、上海、四川等多個省市，累計閱讀觀看量超過167萬次。

媒體調查發現，在自媒體平臺上發佈內容、博取流量已經成爲一門生意。「圖文創作，AI自動寫文章，單號輕鬆日產500＋，可多號操作，小白輕鬆上手」「無需洗稿，AI一天100篇原創」之類的文章在互聯網上廣爲流傳。

以一家大型互聯網內容平臺爲例，發佈內容基礎千次的閱讀單價爲0.12元（人民幣，下同），但通過一系列係數相乘，可以讓千次閱讀收益提高10倍。這意味着如果一篇文章閱讀量達到100萬次，創作者即能收益超過1000元。

一些人使用AI造謠的目的是爲電商平臺產品銷售引流。今年2月，上海公安機關發現，在一家電商平臺上出現了某藝人「命運多舛、含恨離世」等短視訊，引發大量點贊和轉發。

經查，該視訊內容完全系僞造。視訊發佈者到案後交代，他在某電商平臺上經營一家土特產網店。由於銷量不佳，他便通過編造奪人眼球的虛假新聞給網店帳號吸引流量。他不會視訊短片，便利用AI技術生成文本和視訊。

今年4月，中共中央網信辦秘書局發佈《關於開展「清朗·整治『自媒體』無底線博流量」專項行動的通知》，要求加強資訊來源標註展示。使用AI等技術生成資訊的，必須明確標註系技術生成。發佈含有虛構、演繹等內容的，必須明確加註虛構標籤。

專家表示，隨着AI使用門檻降低，AI造謠問題可能加劇；建議壓實互聯網內容平臺、AI內容生成平臺等主體責任，阻斷造謠背後的利益鏈條；加強法律研究和適用，提高造謠者、傳謠者的違法成本。

北京師範大學新聞傳播學院教授喻國明建議，AI內容生成平臺要進一步完善對生成內容和內容來源的標識機制，例如附加不可刪除的數位浮水印和文本說明。互聯網內容平臺可接入AI內容生成平臺的大模型系統，即時進行資料識別比對。

中國社會科學院大學互聯網法治研究中心主任劉曉春建議，互聯網內容平臺應加強對AI造謠行爲的智慧識別機制研究，進一步優化涉及AI內容的流量分發和收益分成機制，壓縮別有用心者批量生產謠言的牟利空間。

喻國明認爲，在闢謠方面，可利用AI闢謠應對AI造謠，「針對被確認爲謠言的內容，互聯網內容平臺可利用AI技術向曾經瀏覽過相關內容的使用者智慧推送闢謠內容或進行風險提示，降低謠言破壞力。」

瀋陽等業內專家表示，界定AI謠言產生是否存在主觀惡意、認定被造謠方損失等存在一定困難，對AI造謠等行爲在刑事處罰上容易出現法律適用難題，導致打擊效果難以落地。「我們研究發現，在86起涉AI造謠相關案件中，懲處類型爲刑事處罰的佔比僅爲15.66％。」瀋陽說。

北京孟真律師事務所律師舒勝來認爲，面對AI謠言等技術和犯罪形式的快速反覆運算，法律法規研究也要與時俱進。要進一步明確AI造謠犯罪的認定標準，加強行刑銜接，對AI造謠者「精準懲處」，做到罰當其罪、罰當其過，爲廣大網民營造風清氣正的網路空間。