AI深僞技術亂入美大選 關鍵時刻恐影響選情

▲ 日前出現一支運用AI深僞操作,模仿賀錦麗的影音檔。(圖/路透)

● 陳國祥/曾任《中國時報》總編輯、《中時晚報》社長

正在如火如荼進行的美國總統大選,近日出現一個轟動江湖的插曲,令人對選舉未來可能出現的不可控欺騙情事深以爲憂。

人工智慧(AI)深度僞造技術幾可亂真。日前一支運用AI深僞操作,模仿將代表民主黨參選總統的賀錦麗影音檔出現,再經科技億萬富豪馬斯克分享在自家社媒平臺X,而且沒有標註這支影片的初衷是在諷刺,造成以假亂真的錯亂。人們更加擔憂AI的力量會在關鍵時刻影響選情。

影片把賀錦麗沒講過的話塞到賀錦麗模樣的人物嘴裡,真假難辨,手法雖然算不上創新,但這次選舉兩方旗鼓相當,一個運用深僞技術的造假可能對一個候選人產生無可彌補的損害。

這支上週「被公佈」的「競選廣告」,證明是使用相同的影像配上模仿賀錦麗的聲音,將旁白偷天換日。影片中的「賀錦麗」說,「我,賀錦麗,是各位的民主黨總統候選人,原因在拜登總統終於在辯論中曝露自己的老邁」。僞造影片中宣稱賀錦麗是「多元僱員」,既是女人又是有色人種,而且說她連「治國初步」都不知道。影片保留了「賀錦麗選總統」的字眼,還添加一些賀錦麗過去真講過的話。

▲ 科技億萬富豪馬斯克分享一支模仿賀錦麗的AI深僞影音檔在自家社媒平臺X,而且沒有標註這支影片的初衷是在諷刺,造成以假亂真的錯亂。(圖/達志影像/美聯社)

►►►思想可以無限大--喜歡這篇文章? 歡迎加入「雲論粉絲團」看更多!

她的發言人立即譴責馬斯克推波助瀾的惡行:相信國人要的是賀錦麗提供的真正的自由、機會及安全,而不是馬斯克與川普經僞造、操弄的謊言。

這支影片廣獲分享,足以證明AI生成的圖片、影片或錄音檔已被使用在操弄、誤導選舉,由於栩栩如生,真僞難以辨識,所以令人更加擔心選舉中被惡用。

高品質的AI工具比以往更容易取得,技術不斷進化,造成的欺騙與誤導效果更難防範與控制。最早貼出這支影片的是自稱「雷根先生」(Mr. Reagan)的YouTube內容創作者,他在YouTube及X平臺都表示,這支經過改造的影片旨在諷刺。馬斯克強烈支持川普,他聰明絕頂,轉載這支貼文不太可能是自己先被誤導,更大的可能是蓄意誤導選民。據X平臺表示,瀏覽量已超過1億2,300萬次,只下標題「這真不可思議」,再配上發笑的表情圖,顯然沒有更正的誠意。人工智慧和深度僞造(deepfake)技術正迅速改變人們接收及處理訊息的方式,別有用心者企圖將其應用在影響公衆輿論及選舉結果,可以對民主制度構成前所未有的威脅與挑戰。

▲ 特斯拉創辦人馬斯克在川普遇襲後,正式表態支持川普。(圖/達志影像/美聯社)

深僞技術的崛起之所以能對選舉產生破壞性影響,主要是因爲其可利用機器學習(machine learning)算法,製作逼真的假影片和音頻,在社羣媒體上高效傳播給潛在的受影響者。

由於AI驅動的演算法可製作精巧的影音作品,其內容通常被設計用來引起羣衆強烈的情緒反應,從而塑造輿論。影片的製作與傳播,還可對選民數據深入分析,而能更精準地定位其信息,從而更有效地傳播給特定羣體的選民,從製作到傳送的精準程度令人防不勝防。

由於生成人工智慧的技術日益精進,幾乎任何人都可以創建虛假內容,且愈來愈令人信以爲真,但實際上是虛假的圖像、音訊、視頻、虛構的,許多選民對於這種由AI驅動的謊言無從辨識。AI假信息越來越氾濫,社羣媒體公司雖然多半想避免捲入政治的棘手內容爭議,但查不勝查,禁不勝禁,無法根絕欺騙性內容。

OpenAI聲稱已禁止使用其工具來做政治競選;Meta表示今年大選禁止大選前的最後一個星期投放新的政治廣告;對於用AI創建出來的圖像,Meta會標記說明。然而,實際上執行不易,往往假造的影片走遍全城後纔開始在城門圍堵。

▲ 現在的深僞技術已進展至人類演員能直接操控螢幕上的機器人,進步到只需單一影像便能產出深僞模型。(示意圖/CFP)

深僞技術其實已問世多年,主要手法是將某人的影片移植到影片中,透過人工後製呈現虛擬真人。現在的深僞技術已進展至人類演員能直接操控螢幕上的機器人,進步到只需單一影像便能產出深僞模型。

人工智慧專家解釋說,這種即時深僞模型需要一個「操控者」負責演出的部分,當「演員」的樣貌疊加在操控者身上時,便能打造出其中一種深僞影片。深僞技術也能用於竄改訊息,或直接讓虛擬的真人說出假話,諸如此類的騙局已經層出不窮,競爭激烈的選舉焉能逃過這種劫數?

● 本文獲授權,轉載自「美麗島電子報」。以上言論不代表本網立場,歡迎投書《雲論》讓優質好文被更多人看見,請寄editor88@ettoday.net,本網保有文字刪修權。