美國假新聞激增給瑞士直接民主敲響警鐘

一張由人工智慧生成的深偽圖像將賀錦麗描繪成共產主義獨裁者。 X

在美國總統大選臨近之際，人工智慧生成的假新聞如洪水般席捲美國。專家警告瑞士也難以置身事外，相反，瑞士特別容易受那些威脅全球選民的假新聞策略的影響。

阅读本文简体字版本请 点击这里

瑞士洛桑聯邦理工學院教授、深度偽造專家圖拉傑‧易卜拉希米(Touradj Ebrahimi)表示：「瑞士非常容易受到影響，因為如果民眾接收到錯誤的訊息，他們可能會做出錯誤的決定。」

這位專家指出，直接民主賦予公民在政策制定中舉足輕重的地位，因此將最容易受到人工智慧產生的假新聞和深度偽造的影響。這種情況適用於瑞士，也適用於美國的大多數州(多語)，在這些地方，民代之外，普通民眾也參與重大決策。

pic.twitter.com/CaH0yXMO0k外部链接

— Donald J. Trump (@realDonaldTrump) August 15, 2024外部链接

美國正在進行的總統競選活動明顯地表現出人工智慧如何在政治辯論中攪局。最近幾週，我們看到和聽到了各種匪夷所思的內容：賀錦麗 (Kamala Harris)以獨裁者形象現身共產主義大會的圖片、喬·拜登(Joe Biden)呼籲選民不要投票的影片、馬斯克(Elon Musk)和唐納·川普(Donald Trump)身著酷炫服裝在70年代的音樂中精彩起舞的影片。這些只是X(前Twitter)等社群平台上流傳的部分深度偽造內容–利用人工智慧(AI)產生的假視聽內容。

深度偽造目的是製造假新聞，以極小的代價操縱公眾輿論，造成巨大的影響。事實上，已有數百萬人觀看、按讚並轉發了這些深偽內容。美國的情況令人擔憂，至少有20個州通過了打擊深偽內容的法規，國土安全部也提示了人工智慧對總統大選的風險。近日，加州通過了一項美國最嚴厲的打擊政治深偽內容的法案。

相比之下，瑞士在立法方面有所落後。儘管歐盟在《歐盟人工智慧法案》中對深度偽造進行了監管，但瑞士政府去年表示，沒有必要針對人工智慧生成和操縱的內容進行具體的監管。

然而，儘管有這些立法努力，無論是美國還是世界上最大的民主國家，都未能在這一年免於假影片、照片和新聞的侵擾–這一年，有史以來最多的人(至少40億)參加了投票。

易卜拉希米表示，人工智慧產生的假資訊越來越多，目前尚未達到頂峰：未來我們將看到越來越多人工合成的媒體內容。隨著技術的日益成熟，區分這些內容與真實資訊將變得越來越困難。其他接受瑞士資訊swissinfo.ch訪談的專家也同意此觀點。

以下是瑞士民主不應該低估人工智慧產生的假新聞危險的三個主要原因：

1. 搜尋引擎和聊天機器人顯示有偏見和不正確的訊息

非營利組織和研究團體已經警告人工智慧軟體和演算法會對瑞士民主帶來危險和束縛。瑞士非政府組織「演算法觀察」(Algorithm Watch CH)分析了微軟必應搜尋引擎中的聊天機器人在2023年10月瑞士聯邦選舉前給出的回复，發現三分之一與選舉有關的回復包含事實錯誤，人工智慧甚至編造了關於某些政治人物的醜聞。 “演算法觀察”的負責人主任安吉拉·穆勒(Angela Müller)指出：“集成到搜尋引擎中的生成式人工智能聊天機器人可能會產生誤導，因為人們依賴於通過搜索引擎收集到的信息。”

然而，網路搜尋引擎本身也可能產生誤導。伯恩大學和蘇黎世大學發布的一份白皮書指出，瑞士最常用的搜尋引擎谷歌(Google)對某些資訊來源的曝光度並不平均，而且根據搜尋語言(德語、法語或義大利語)的不同，對某主題的批評性觀點數量也有差異。例如，在2023年6月對《氣候保護法》進行全民公投之前，研究人員發現，與意大利語和法語查詢相比，谷歌在回答德語查詢時更傾向於展示對該法案持批評態度的政黨的資訊.

編寫白皮書的研究人員之一米科拉·馬科爾蒂赫(Mykola Makhortykh)說：「在瑞士這樣一個多語言、民意兩極化的民主國家，這些結果理應引起我們的擔憂。」他對以下事實敲響了警鐘：搜尋演算法和人工智慧軟體的運作方式缺乏透明度；大型科技公司儘管做出了承諾，卻未能建立有效的系統來打擊假新聞並解決民意分化問題。

2. 人工智慧產生的假資訊正在削弱媒體的可靠性

馬科爾蒂赫說，如今的人工智慧系統還能更快、更容易地製造和傳播假新聞。越來越多的新聞網站模仿權威媒體或傳統媒體，但實際上卻充斥著人工智慧自動產生的內容，這些內容往往錯誤百出，有時甚至完全憑空捏造。這些新聞充斥著主要社群媒體平台的頁面，根據fög進行的一項調查，在瑞士流傳的假新聞中，有60%以上都是由這些平台發布的。

即使只有一小部分人會閱讀人工智慧生成的新聞，其製作之精良也可能使人們更難識別和避開假新聞。經合組織(OECD)最近的一項調查將瑞士列為最不善於識別假資訊的國家之一。

蘇黎世大學政治行為與數位媒體教授卡斯滕唐奈(Karsten Donnay)表示：「如果現實生活中的記者報導和人工智慧生成的新聞看起來很像，那就真的很危險了。」他補充道，人們可能會覺得上當受騙，並對整個媒體系統失去信心。

這種生態系統已經促使瑞士人改變資訊取得方式。路透社《數位新聞報告》公佈的最新數據顯示，瑞士的主要資訊來源是線上新聞網站。電視、印刷媒體和廣播等傳統且更可靠的管道仍然很重要，但自2016年以來受眾數量大幅下降。

Kai Reusser / SWI swissinfo.ch

報告指出，傳統媒體消費下滑的原因之一是人們被大量新聞轟炸，因而心生倦怠。因此，瑞士人普遍失去了獲取資訊的興趣，全球大趨勢也是如此。與其他一些民主國家(如美國)相比，瑞士的轉變並不那麼極端。在美國，民眾幾乎已經完全放棄傳統媒體平台。

唐奈表示，但這並不意味著瑞士更有可能將人工智慧的風險降到最低。他認為，搜尋引擎和聊天機器人將繼續作為資訊來源且勢頭不減。

這位教授指出：「人們會越來越多地使用它們，我們並不知道這會導致什麼後果。」不過，他認為現在還為時不晚，可以設立一些防護措施，確保非新聞類資訊來源也遵守一定的標準。

Kai Reusser / SWI swissinfo.ch

3. 生成式人工智慧技術具有極強的說服力

到目前為止，還很難證明人工智慧產生的假新聞對民眾的影響。「這並非一種大眾現象，假新聞只是在小範圍內傳播，」蘇黎世大學政治分析教授法布里齊奧·吉拉爾迪(Fabrizio Gilardi)說。他指出，假新聞一直存在，最有力的研究表明，它的影響比人們想像的要小得多。吉拉爾迪說：「人工智慧不會大幅改變現狀。」

在2020年美國總統大選期間，與Meta(Facebook的母公司)合作進行的獨立研究證明，社群媒體上流傳的假新聞對人們的態度和行為沒有顯著影響，也沒有加劇民意分化。

但隨著ChatGPT等互動式人工智慧平台的出現，這種情況可能會改變。瑞士洛桑聯邦理工學院(EPFL)在美國對約900人進行的研究表明，ChatGPT非常善於引導我們的觀點。

這項研究的作者之一弗朗切斯科·薩爾維(Francesco Salvi)說：「生成式人工智慧模型的說服力之強大，足以影響選舉。」薩爾維及其團隊的研究表明，ChatGPT -4改變一個人想法的幾率比人類高出82%。

在掌握使用者個人資訊後，ChatGPT-4可以產生個人化且更具說服力的資訊。即使在其他備受矚目的假新聞案件中，如2018年曝光的劍橋分析公司(Cambridge Analytica)非法利用數百萬Facebook用戶的個人資料施加政治影響，這也是前所未有的。薩爾維認為：「我們可能又會看到類似於劍橋分析案件的事件，不過其影響會是劍橋分析案件的N次方。而且我確信這已經在發生了。」

(編按：班傑明‧馮‧維爾、維羅妮卡‧德沃爾，編自英文：瑞士資訊中文部/dh，繁體校對：方常均)