米選挙を駆け巡るディープフェイク スイスにとっても危険なワケ
米大統領選挙の投票日が目前に迫り、人工知能（AI）が生成したフェイクコンテンツが前例のない急増を見せている。専門家らによれば、対応に苦慮する米国の現状はスイスにとって対岸の火事ではない。それどころか、世界中の有権者を脅かす虚偽情報工作に対し、スイスは特に脆弱だ。
スイス連邦工科大学ローザンヌ校（EPFL）の教授を務めるディープフェイク（AIで生成した虚偽を含む視聴覚コンテンツ）専門家、トゥラジ・エブラヒミ氏は「誤った情報を受け取った人々はおそらく誤った判断を下すため、スイスは非常に脆弱だ」と語る。
エブラヒミ氏によると、直接民主制は政策決定において市民に重要な役割を与えるため、AIによる虚偽情報やディープフェイクの悪影響が最も大きい。この指摘は、公選議員だけでなく有権者にも重要な判断を委ねるスイス、そして米国の大半の州にも当てはまる。
pic.twitter.com/CaH0yXMO0k外部リンク
— Donald J. Trump (@realDonaldTrump) August 15, 2024外部リンク
AIが政治論議にもたらしうる混乱のほどは、現在の米大統領選に如実に表れている。私たちは今年に入ってから、あらゆる種類のコンテンツを耳目にしてきた。こちら外部リンクの画像では、民主党候補のカマラ・ハリス氏が共産党大会で登壇した独裁者として描かれている。また、こちら外部リンクの音声メッセージはジョー・バイデン大統領を騙り、有権者に投票しないよう呼びかけている。さらに、こちら外部リンクの動画はパリッとしたスーツ姿の実業家イーロン・マスク氏とドナルド・トランプ前大統領に1970年代の音楽にあわせて完璧なダンスを披露させている。これらはソーシャルメディア・プラットフォーム、たとえばX（旧ツイッター）などを通じてウェブ上に出回ったディープフェイクの一部にすぎない。
こうしたコンテンツの目的は、わずかな手間で膨大な影響力を持つ虚偽情報を生み出し、世論を操作することにある。実際、一連のディープフェイクは数百万人が閲覧し、「いいね」をつけ、リポストしてきた。米国では現状に対する懸念から、少なくとも20州がディープフェイク規制を定めている。国土安全保障省もまた、AIが大統領選に及ぼすリスクを警告している。さらに、カリフォルニア州は最近、政治関連のディープフェイクに対して全米でもとりわけ厳しい州法を制定した。
一方、スイスは法整備で後れを取っている。欧州連合（EU）は欧州AI法でディープフェイクを規制したが、スイス政府は2023年、AIによって生成・操作されたコンテンツに個別の規制は必要ないとの見解を示した。
だが、立法的な努力にかかわらず、米国をはじめとする世界の主要な民主主義国は、どこもフェイクの動画や静止画、ニュースにさらされ続けている。世界で1年間に実施される選挙の有権者総数が40億人と過去最多を記録する2024年も同じだ。
AIによる虚偽情報の増大は依然としてピークに達していない。エブラヒミ氏によれば、合成された偽物のメディアコンテンツは今後もまだまだ増加する。しかも、技術が高度化するにつれ、偽物と本物を見分けることはますます難しくなる。swissinfo.chが意見を聞いた他の専門家らも、この見解に同意した。
スイスの民主制において、AIによる虚偽情報の危険が侮れない理由は主に3つある。
1. 検索エンジンとチャットボットの偏りと誤り
すでに非営利団体や調査団体が警告している通り、AIのソフトウエアやアルゴリズムはスイスの民主制に対して危険と欠点をはらんでいる。同国のNGO、アルゴリズム・ウォッチCHも警鐘を鳴らす団体の1つだ。2023年10月のスイス連邦議会選挙前、マイクロソフトの検索エンジン「Bing（ビング）」のチャットボットによる回答を分析した。すると、選挙関連の質問に事実と異なる情報を返す割合は3分の1に上り、政界の特定の人物についてAIがスキャンダルをでっち上げることさえあった。同団体のディレクター、アンゲラ・ミュラー氏は「多くの人が検索エンジンで収集する情報を当てにしているため、そこに組み込まれた生成AIチャットボットから誤解が生まれる恐れがある」と指摘する。
チャットボットだけでなく検索エンジンそのものからも、誤解が生まれる恐れがある。ベルン大学とチューリヒ大学がスイスで最も使われている検索エンジンのグーグルを調べた外部リンクところ、検索に使う言語（ドイツ語、フランス語、イタリア語）によって特定の情報源の目立ち方に差がついたり、同じ話題に関する批判的見解の量にばらつきが出たりすることが分かった。たとえば、気候保護法への賛否が問われた2023年6月のレファレンダム（国民表決）の前には、ドイツ語では同法に批判的、イタリア語とフランス語では好意的な政党からの情報が検索結果で有利に扱われていた。
調査の共同執筆者、ミコラ・マホルティク氏は「ただでさえ分極化しているスイスのような多言語民主制において、懸念すべき結果だ」と語る。同氏は検索アルゴリズムやAIソフトの仕組みに透明性がまったくないことや、大手テクノロジー企業が約束を守らず、フェイクニュースや分極化を防ぐ有効なシステムを構築していないことに警鐘を鳴らしている。
2. AIが生成する虚偽情報によるメディア全体の信頼低下
マホルティク氏は、現在のAIシステムによって虚偽情報の生成と拡散はより速く、より簡単になったと語る。実際、権威や歴史のあるメディアに似せたニュースサイトはどんどん増えている。しかし、こうしたサイトにあふれるコンテンツは、本当のところAIが自動生成したものだ。多くが不正確で、ときには完全なでっち上げさえある。それでもなお、この種のニュースは大手のソーシャルメディアに投稿される。チューリヒ大学公共・社会研究センターによると、スイス国民の60％余りがソーシャルメディアを通じて虚偽情報を見聞きしていた。
AIが生成したニュース記事には、うまく書けているものもある。全人口のごく一部しか読まないとしても、フェイクを見分けて避けることは以前より難しい。しかも、経済協力開発機構（OECD）の最近の調査によれば、スイスは虚偽情報を見抜く能力の国別順位で最下層に沈んでいる。
チューリヒ大学のカルステン・ドネイ教授（政治行動・デジタルメディア）は「生身の記者が書いたニュースとAIの書いたニュースが同じに見えるとしたら、本当に危険なことだ」と指摘。人々が騙されたと感じ、メディア全体への信頼が失われかねない、との懸念を示した。
こうした環境は、すでにスイス国民の情報入手方法の変化につながっている。ロイタージャーナリズム研究所の年次報告書「デジタル・ニュース・リポート」の最新版によると、スイス国民の主な情報源はオンラインのニュースサイトとなっている。テレビや紙の新聞、ラジオのように、伝統的でより信頼性の高い媒体は引き続き重要ではあるが、2016年から大幅な落ち込みを見せている。
同リポートによると、伝統的メディアの消費が減少している一因は、大量のニュースを投下された人々が疲れを感じていることだという。その結果、スイス国民は全体として知らされることへの興味を失っている。これは世界的な潮流の一端だ。とはいえ、スイスの変化は一部の民主主義国ほど極端ではない。たとえば米国では、伝統的メディアは国民に見放された状態に等しい。
しかしドネイ氏によれば、変化が緩やかだからといって、スイスがAIのリスクを最小化できる公算が増すわけではない。同氏は、今後も検索エンジンとチャットボットが情報源として勢力を強めるとみる。
ドネイ氏は「（検索エンジンとチャットボットは）これからますます使われる。現状が行き着く先は判然としない」と指摘する。その一方、報道以外の情報源に何らかのガイドラインを定め、一定の基準を満たさせることは、今からでも有効な対策になると見通す。
3. 生成AIは驚くほど説得力がある
AIが生成した虚偽情報が社会に及ぼす影響を証明することは、これまでのところ難しい。
チューリヒ大学のファブリツィオ・ジラルディ教授（政治学）は「これは大規模な社会現象ではない。虚偽情報はごく狭い範囲に出回る」と語る。ジラルディ氏によると、虚偽情報は常に存在してきた。また、各種調査の多くは、虚偽情報の影響力は一般的な認識よりもずっと小さいという点で結論を一にする。「AIがもたらす状況の変化は大きくない」というのが、同氏の見解だ。
2020年の米大統領選の期間中、米フェイスブックの親会社メタと連携した独立調査が実施された。その結果は、ソーシャルメディアに出回った虚偽情報は人々の態度や振る舞いに顕著な影響を及ぼさず、分極化を増幅しないことを裏付けていた。
しかし、米オープンAIの「ChatGPT」など、対話型生成AIの登場により、この状況が変わる可能性がある。EPFLが米国で約900人を対象に実施した調査によると、ChatGPTは意見を形成するのが非常にうまいのだ。 調査論文の共同執筆者、フランチェスコ・サルビ氏は「生成AIモデルの説得力はとても高く、選挙に影響しうるほどだ」と語る。この論文によると、人の考えを変えさせる確率はChatGPT-4が人間を82％上回る。
ChatGPT-4に利用者の個人情報を与えれば、その人物に合わせてメッセージを調整し、説得力を高められる。2018年に発覚した英企業ケンブリッジ・アナリティカの事件では、数百万人のフェイスブック利用者の個人データが政治工作に違法に使われた。しかし、他の有名な虚偽情報事件を含めても、ChatGPT-4についてはそのような前例はない。サルビ氏は「私たちは今、ケンブリッジ・アナリティカ的な事件の影響力が指数関数的に高まる可能性に直面している。私には、それがすでに起こり始めているという確信がある」と論じている。
Edited by Benjamin von Wyl & Veronica De Vore/ds、英語からの翻訳：高取芳彦、校正：ムートゥ朋子
おすすめの記事
ニュースレターへの登録
JTI基準に準拠
swissinfo.chの記者との意見交換は、こちらからアクセスしてください。
他のトピックを議論したい、あるいは記事の誤記に関しては、japanese@swissinfo.ch までご連絡ください。