「偽ニュース」拡散防止、まだ長い道のり
スイスと欧州の研究者たちが、ソーシャルメディアで流布する虚偽情報を検出するアルゴリズムの開発に取り組んでいる。しかし、機械にこの検出機能を学習させるのは容易ではないという。
２０１６年は「虚偽情報」が国際的に大きなニュースになった年だった。中でも、 フェイスブック上の偽ニュースがドナルド・トランプ氏の大統領当選に貢献外部リンクしたと批判された時の反響は大きかった。世界で最も人気のあるソーシャル・ネットワーキング・サービスのフェイスブックは、虚偽情報が有権者に与えた影響を当初否定していたが、その後、サイト上の偽ニュースの拡散抑制対策外部リンクの試験運用を開始した。
フェイスブックの他にも、グーグルのような巨大IT企業からITに詳しい個人まで、あらゆる人々が虚偽情報の拡散を抑制するために動きだした。しかし、米大統領選の意外な結果でこの問題に光が当たるずっと前から虚偽情報の増加を研究していた人々は、偽ニュースとの戦いは容易ではないと警告する。
「面白半分に、または政治的目的やお金のために情報を偽造する人々と機械との競争だ」と、英シェフィールド大学のカリナ・ボンチェヴァ教授は言う。
ボンチェヴァ教授のようなコンピューター科学の専門家やスイスインフォを含む報道機関による研究でわかるのは、ソーシャルメディア上の嘘や歪曲の拡散を抑制するのがいかに難しいかということだ。
虚偽情報の検出
フェイスブックのマーク・ザッカーバーグCEOが発表した、サイト上の偽ニュース拡散を抑制する計画には、「当社の虚偽情報判別能力の向上のため……検出を強化する」とある。ボンチェヴァ教授は、これを可能にする技術をEメールのスパムフィルターに例える。しかしその力はおそらく限られたものになるという。
スイス生まれの偽ニュース
偽ニュースサイトはスイスにも登場しているが、数は少ない。
チューリヒ大学のメディア研究者リナーズ・ウドリスさんによると、そのようなサイトの読者やサイトが与える影響範囲も限られている。
理由の一つとしては、国の規模が考えられる。スイス国内のニュース市場は比較的小さいため、「（偽ニュースで）お金を稼ぎたい人間にとっては（スイスでは）無理だ」という。
また、スイスの政治は二極化の傾向が低いことも理由として考えられる。多くの偽ニュースサイトの特徴は極端な党派主義で、特に米国でその傾向が強い。
とはいえウドリスさんは、スイスでも二極化が進みつつあること、そしてソーシャルメディアでニュースを知る人が増えていることから、偽ニュースをめぐる状況の今後の展開を注意深く見守っていく必要があると警鐘を鳴らしている。
「お金目当てで次々出てくる偽ニュースサイトを見分けるのは簡単だ。難しいのは隠れた思惑がある主張の場合で、お金目当ての場合ほどあからさまでない」ため、機械で発見しにくいとボンチェヴァ教授は付け加える。
ボンチェヴァ教授は、この難題に取り組む研究プロジェクト「Pheme外部リンク（フェム）」のリーダーを務める。欧州委員会の資金援助を受け、IT専門家と大学、およびスイスインフォのチームが協力するこのプロジェクトは、ジャーナリストがインターネット上のさまざまな主張を発見し真偽を確認する助けとなる技術を開発しようとしている。
「過去に流布した多くの噂を、機械学習アルゴリズムの学習データとして使おうと試みている」とボンチェヴァ教授は説明する。「ある主張についての利用者たちの意見を見つけ、それに基づいて真偽の確率を判断するコンピューターモデルの構築に取り組んでいる」
機械も学習しているが、歩みは遅い
ある文章が信頼できるかどうか明確にするよう機械に学習させるのは、簡単に見えて実は複雑な作業だ。さまざまな手法を組み合わせ、ソーシャル・ネットワーキング・サービスの歴史と個々の投稿内容を両方利用しながら、信頼できる内容と疑わしい内容のパターンを見つけ出さなければならない。そう話すのは、連邦工科大学ローザンヌ校のデータ科学者ピエール・ヴァンデルゲンスト教授だ。
「この難題を解決できた人はまだいない」と話すヴァンデルゲンスト教授は、ウィキペディアのようなプラットフォーム上で情報がどのように変化していくかを研究している。「人間は文章を読んで信頼できそうか決められるが、機械にはその認識推論能力がない」。ボンチェヴァ教授も、この技術の開発はまだ初期段階にあると認める。
「３年前から実験しているが、まだ必要な信頼性のレベルにははるかに及ばない」。しかしボンチェヴァ教授は、プロジェクト開始以来、Phemeの研究者たちが物事を前進させたと信じている。
「技術は進んでいるし、私たちはその最先端を推し進めてきた」。また、プロジェクトのパートナーたちが、研究のため大量のデータを提供してくれたと付け加える。「開始当時は（学習データとして使える）ソーシャルメディア上の噂がそれほどなかった」
実際、フェイスブックなどのソーシャル・ネットワーキング・サービスが持っているデータにアクセスできないという問題に研究者たちはしばしばぶつかる。しかし、これらの巨大IT企業が扱わなければならない情報の量は、企業側にとっても問題だとボンチェヴァ教授は言う。毎日利用者たちが共有する膨大な量の投稿の中から、疑わしい内容を見つけ出すシステムを開発しなければならないからだ。
ツールの効果はさまざま
自社サイト上の偽ニュースに歯止めをかける計画を発表したフェイスブックとグーグルだけに留まらず、ITに詳しい個人ユーザーたちもインターネット上の虚偽情報との戦いに参戦している。
偽ニュースが大ニュースとなった２０１６年後半に出てきた解決案の一つは、米国の技術者ダニエル・シエラツキーさんによって開発された「BS検出機」というツールだ。これは偽ニュースサイトの一覧に基づいて「疑わしい」情報源を検出し警告するウェブブラウザのプラグインで、シエラツキーさんはこのプラグインを約１時間で開発したと話す外部リンク。
データ科学者ピエール・ヴァンデルゲンスト教授（連邦工科大学ローザンヌ校）は同プラグインが用いる手法はスパムシステムに似ていると説明し、その脆弱性も指摘する。
このプラグインが効果を発揮するには、「すべての潜在的な偽ニュースサイトを網羅するリストがなければならない」と話し、たとえそれができたとしても、このようなサイトと無関係なソーシャルメディア利用者が発信し、主流の報道機関に取り上げられた噂は検出できないとの見方を示している。
検閲
もう一つの問題は、どの投稿に虚偽情報が含まれているかを決定するシステムに対する、利用者の信頼をどのように維持するかだ。
「IT企業は、虚偽ニュースの判断基準について完全に透明でなければならない」と、チューリヒ大学のスイスメディア専門家、リナーズ・ウドリスさんは言う。
その意見には、ボンチェヴァ教授も同意だ。虚偽情報の判別をシステムが行うのは「検閲」だという非難を免れるためには、例えば疑わしい内容を別のフィードで読むという選択肢を、フェイスブックは利用者に与えたらどうかと提案する。Eメールの受信箱にあるスパムフォルダーを開けたければ開けられるのと同じようなものだ。ただ現在、フェイスブックは別の方策を取り、「真偽が疑わしい」ニュースにはフラグが付けられ、これらのニュースを共有する利用者に警告するシステムの試験運用を開始している。
検閲による情報規制と見なされるリスクから、国が直接防止策をとることは難しい。また、現在の名誉毀損法でも（少なくともスイスでは）特定の個人や集団に向けられた虚偽の扇動的な主張に対処できるため、新しい法律を作ることもほとんど無意味とウドリスさんは考える。
もし国が虚偽情報の拡散防止に協力できるとすれば、例えば国が虚偽情報拡散防止の対策に取り組む企業に対し、税の面で優遇するといった手段があるとウドリスさんは言う。偽ニュースなどが急速に広まると、ソーシャル・プラットフォーム上で収益を生み出す助けになることから、「IT企業には（偽ニュースを制限する）商業的な動機付けはあまりない」。
人間の力
他の当事者にも積極的な関与が求められる。フェイスブックは、利用者および事実検証機関を含む第三者機関の力を借りて虚偽情報の投稿を見つける方法を試している。しかし、そこにはジャーナリストたちの協力も必須だ。
「問題は、正当な（ニュース）サイトが虚偽情報を掲載し、広めてしまう場合だ」と、ヴァンデルゲンスト教授は言う。「そうなると、お墨付きを与えることになってしまう。この循環を断ち切らなければならない」
報道機関が生き残りのため予算および人員削減に直面するなか、ウドリスさんは「社会の中でどのように良いジャーナリズムを育むことができるかについて、より広く議論される」ことを望むという。また、公共放送は非常に重要だと付け加える。
「（公共放送は）質が高く、多様性に富み、事実確認のとれた情報を提供する重要な柱だ」
またインターネット利用者も、ニュースの消費者としてより識別能力を高める責任がある。ウドリスさんは、 ソーシャルメディアでニュースを知るという調査対象となった人々の中で、読んでいる情報の出所に注意を払う人は半分以下だったという結果に注意を喚起する。
「批判的に考える能力を養わなければならない」。そして、若者に対するメディア教育を強化する必要性があると話す。最近のロイターの調査外部リンクによると、若者は他の年齢層よりも主にソーシャルメディアでニュースを知る可能性が高い。ウドリスさんはまた、オンラインニュースを有料化すれば、どの報道機関を選ぶかについて人々がより意識的になるだろうとも考えている。
しかし、全方位から努力したとしても、虚偽情報の拡散を完全に止めることはできない。ウドリスさんは、短期間で奇跡のような結果が出ることを期待してはいけないと話す。
「噂は人間の性（さが）だ」とウドリスさんは指摘する。
ヴァンデルゲンスト教授もウドリスさんに同意だ。「結局、インターネットが陰謀論を発明したのではない。ただその拡散のスピードを上げただけだ。地元の飲み屋で耳にするかわりにフェイスブックで知るようになったからだ」
（英語からの翻訳・西田英恵）
JTI基準に準拠
swissinfo.chの記者との意見交換は、こちらからアクセスしてください。
他のトピックを議論したい、あるいは記事の誤記に関しては、japanese@swissinfo.ch までご連絡ください。