スイスは「倫理的なAI」の開発で主導権を握れるか？
新型コロナウイルス感染者の濃厚接触者を追跡可能にする接触追跡（コンタクト・トレーシング）技術に関する議論が盛んだ。こうした議論を通し、AI（人工知能）など規制されていない技術に政府が早急に対応する必要性が高まっている。強い民主主義と科学立国で知られるスイスは、「倫理的なAI」の開発で主導権を握る可能性がある。
そもそもAIとは何だろうか？「AIの台頭は人類史上最高の出来事か、最悪の出来事かのどちらかである」と、2018年に亡くなった著名な科学者スティーブン・ホーキング博士はかつてそう語っていた。
欧州委員会が設置した専門家グループは18年末、「信頼できるAIのための倫理指針」の草案を提示した。だが透明性、プライバシー保護、公平性、正義を含む共通の原則を定義する世界的な枠組みはまだ登場していない。
スイスは強い民主主義、中立的立場、世界トップレベルの研究を背景に、倫理基準に沿ったAIの開発で主導権を握る状況にあると言える。政府は国の発展にはAIが重要との認識であり、それを踏まえ国際レベルの議論に参加している。
AI（人工知能）とは？
AIには統一された定義がない。一般的には、人間の行動を忠実に再現することを目指す「汎用人工知能（AGI）」と、顔認識、自動翻訳、YouTubeの動画などのコンテンツ推薦といった単一タスクに焦点を当てた「特化型人工知能」の二つに分類される。
しかし、国内では本格的な議論は始まったばかりだ。なぜなら、スイスなど各国では、新型コロナウイルスの拡散防止を目的とする感染追跡アプリなどの新しい技術の使用に関して、その技術にAIが用いられているかどうかに関わらず、プライバシーへの懸念が高いからだ。
欧州では「汎欧州プライバシー保護近接追跡（PEPP-PT）」と呼ばれるシステムが開発されてきた。PEPP-PTはデータの一元化を謳っていたため、透明性とガバナンスへの懸念があった。そうした中、スイスを含む多くの国が「分散型プライバシー保護近接追跡（DP-3T）」と呼ばれる分散型でプライバシーを強化するシステムへの支持を決定し、PEPP-PTは主流から外れた。ドイツが同様に手を引いたことは、PEPP-PTにとって更なる追い打ちとなった。
「欧州では接触追跡技術に関する中央集権型と分散型のアプローチのメリットを巡り、活発な議論が行われてきた。こうした議論は非常に有益だった。世間が問題を認識するきっかけとなったほか、感染追跡アプリの設計・構築への関心の高さが議論を通して示されたからだ。人々が感染追跡アプリを使用するのは、封鎖状態から抜け出すのにプライバシーを犠牲にする必要がないと感じた場合だけだろう」と、連邦工科大学ローザンヌ校コンピューター・コミュニケーション研究所長を務め、同校で最初にDP-3Tに取り組んだグループのメンバーであるジム・ラーラス氏は語る。
最近の調査では、スイス市民の約3分の2が感染追跡アプリを支持していると回答。DP-3T型のアプリは5月中旬から試験的に開始され、スイス連邦議会は試験運用中に同アプリを本格運用する上での法的条件を定める予定だ。ただ、アプリを巡る議論を通し、規制されていない技術を巡る倫理とガバナンスの問題に早急に答えを出す必要性が浮き彫りになっている。
「スイス流」
スイス政府は2018年、社会のデジタル化戦略に初めてAIを盛り込んだ。戦略の目的は社会のデジタル化を加速させるための下地を整えることだ。
省庁横断の作業部会は昨年12月、「AIの課題」と題した報告書を連邦政府に提出。スイスはAIの可能性を生かせる状況にあると明記した一方、AIの倫理問題や社会的側面は特に強調しなかった。代わりに様々なAIの利用事例や今後の課題に焦点を当てた。
「スイスでは連邦政府がAIに関して包括的な倫理観を押し付けることはない。政府がトップダウンでそれを規定するのは民主主義の伝統とは相容れない」と、連邦教育研究革新事務局イノベーション担当責任者のダニエル・エグロフ氏は語る。倫理観は技術が用いられる状況に応じて変化することがあるため、絶対的な倫理原則の確立は難しいと同氏は付け加える。「国民を含めた国内外のステークホルダー（利害関係者）の間では、AIに関する倫理観が話し合いを通じて形成されつつある。政府はこうした議論で積極的な役割を果たしている」
国際的にみても、「スイスは倫理や人権に関する議論に深く関わっている」と政府は強調している。連邦環境・運輸・エネルギー・通信省通信局のトーマス・シュナイダー国際局長は、この点に関し「スイスは欧州評議会や国連、その他の協議の場で最も積極的な国の一つだ」と語る。また同氏によれば、通信局と外務省はジュネーブを技術ガバナンスの世界的中心地にすることを目指しているという。
単なるバズワード？
果たしてテクノロジーに関し、何が倫理的で、非倫理的かと定義することは可能だろうか？神経科学者であり、人間中心のAIを目指すマインドファイア財団の創設者パスカル・カウフマン氏は、「AI倫理」の概念は単なるバズワード（定義のあいまいな流行語）に過ぎないと考える。「AIの意味については混乱が多い。多くの人が『AI』と呼んでいるものは知性とはあまり関係がなく、大抵はハッキングの為にパスワードを総当たりで入力する『ブルートフォース』攻撃を指す。そのため『倫理的なAI』を巡る議論はほとんど意味をなさない。AIが倫理的であるためには、独裁政府や大規模なハイテク企業のためではなく、国民のためのAIの開発が急務だ。倫理的な政策を発明しても何の解決にもならないうえ、AI開発の助けにもならない」（カウフマン氏）
連邦工科大学チューリヒ校保健倫理・政策研究室の博士研究員、アンナ・ヨビン氏は違う意見だ。これまでの自身の研究を踏まえたうえで、AI開発の一部として倫理が考慮されるべきだと主張する。「AIを純粋に技術的なものとして扱い、最後に倫理を多少付け加えるということはできない。議論を始める時点から倫理的および社会的観点を盛り込む必要がある」。AIが市民生活に与える影響は増す一方だ。そのためAIを利用した新しい技術を巡る議論には市民の参加が必要であり、AIに関する決定に市民社会を含めるべきだとヨビン氏は考える。だが統治・監視体制が整っていなければ、原則を並べても片手落ちになる、とくぎを刺す。
スイスイタリア語大学（USI）のペーター・ゼーレ教授（経営倫理学）は、こうした問題を解決するカギは「ビジネス」「倫理」「法律」を対等な立場に置くことにあると考える。「企業は法的ルールに魅力を感じる。企業が発展するには法的枠組みが必要だ。良い法律とはビジネスと倫理を調和させるものであり、すべての関係者に理想的な環境を作り出すものだ」と同氏は語る。問題はこの三つのキーワードの間でどうバランスを取るか、だという。
おすすめの記事
スイスの人工知能ロボット、災害救助活動に向け進化
完璧な組み合わせ
スイスでは企業の自主規制に任されることが多いが、法的枠組みを確立することで経済や社会に大きな刺激を与えられるとゼーレ氏は主張する。
スイスが倫理基準の策定に関し主導的な役割を果たすことになれば、スイスはAIや個人データを活用した経済の「民主化」の分野で存在感を発揮できるだろう。スイスには直接民主制に基づく政治制度に加え、個人データを協同組合形式で民主的に管理するノウハウが蓄積されているためだ。スイス科学アカデミーが昨年末の白書で示唆したように、そのモデルとなり得るのがスイスの非営利協同組合MIDATAだ。MIDATAは収集されたデータを管理する団体であり、市民の意思に基づいたデータ利用を保証している。アカウント（データ）所有者はMIDATAの組合員になることもでき、組合の民主的ガバナンスへの参加も可能だ。さらに、第三者が臨床研究や医学研究目的で個人データにアクセスすることを、アカウント所有者が選択的に許可することもできる。
このようなオープンデータ・エコシステムが登場したことで、個人データの保護を巡る市民社会の関与が増している。そして感染追跡アプリのケースでも示されたように、特に健康上の理由から個人データを使用した場合に起きる影響に対し、関心が高まっている。基本的権利の保護に関しては、中央集権的なアプローチよりも、人気の高い分散型システムの方が優れていると言われている。だが後者はサイバー攻撃に対する脆弱性が懸念されている。
AIの法的根拠を作ることになれば、デジタル監視システムの妥当性と倫理に関する国民的な議論は激しさを増すだろう。
おすすめの記事
「人間は既にサイボーグのような存在」 スイスAI研究所シュミットフーバー氏に聞くAIの未来
（英語からの翻訳・鹿島田芙美）
JTI基準に準拠
swissinfo.chの記者との意見交換は、こちらからアクセスしてください。
他のトピックを議論したい、あるいは記事の誤記に関しては、japanese@swissinfo.ch までご連絡ください。