EUのAI規制案、スイスは反発か
欧州連合（EU）が人工知能（AI）による広範な監視を規制しようとする矢先に、スイスとEUの交渉が行き詰まった。これにより、スイスの個人情報保護をめぐる今後の法律のあり方にも疑問が残された。スイスでは最近、欧州で最も厳しい部類に入る反テロ法が可決されたばかりだ。
スイス政府は5月末、欧州連合（EU）との枠組み条約について7年に渡る交渉の末に決裂した。これを受け、EUとの二国間関係は過去最悪の状態に陥った。スイスの有権者はその数週間後の6月13日、警察が予防的措置として介入できる権限を強化した「改正テロ対策法」を明確に支持した。
今回の決裂は、折しも欧州が民間企業だけでなく警察も動員し、市民を監視するテクノロジーの利用を規制しようと取り組む重要な時期に生じた。現在、欧州委員会は人工知能（AI）を規制する世界初の法案外部リンクを作成中だ。法案ではAIがもたらすリスクを取り上げ、具体的な使用方法に関して明確な義務を定めている。
欧州委員会はとりわけ顔認識などの生体認証システムに焦点を当てる。このシステムは、監視、データ収集、刑事訴追などを目的に公共の場で普及が進む。一般市民はその存在を知らないケースがほとんどだ。
国際人権NGOアムネスティ・インターナショナルは今年初め、国家機関や民間企業が本人確認の目的で顔認証技術を使用することに反対するキャンペーンを開始した。同NGOは「法執行機関が、世界中の疎外されたコミュニティに対する武器として顔認識技術を使用する危険性がある」と指摘し、テロ対策における警察の権限を強化したスイスの改正テロ対策法は「危険なほど曖昧」で「未来への脅威」とした。同法は監視の強化につながり、欧州委員会が禁止しようとしている顔認識技術の使用を間接的に増やす恐れがあるとの意見も出ている。
テクノロジー・人権の分野に関するキャンペーンの調整役を務めるアムネスティ・スイスのルーカス・ハフナー氏は、「自由民主主義の欧州において、警察に前例のない権限を与えるスイスの改正法は、最も極端な法律の1つに違いない」と言う。
法の目はどこを見ているのか？
スイスの反テロ法には監視カメラについて明確な記載はないが、電子ブレスレットなどによる「潜在的なテロリストの電子的監視」を命じる権限を連邦司法警察省警察局（Fedpol）に与えている（第23q条）。ジュネーブ大学のフレデリック・ベルナール教授（公法学）は、Fedpolが裁判所の許可なしに電子的な監視手段を決定できることには議論の余地があるとし、収集されたデータが法律で定められた目的以外に使われる恐れがあると強調する。
Fedpolはswissinfo.chに対し、顔認識システムは使っていないとした上で、改正法に盛り込まれた予防措置と、この種のテクノロジーの使用にはいかなる関連性もないと述べた。
だが既に幾つかの州警察は、刑事手続き上の犯罪捜査に生体認証システムを導入している。例えばザンクト・ガレン警察は、AIと顔認識で大量のデータを分析するスウェーデン製の捜査ソフト「Griffeye Analyze DI Pro外部リンク」を使用している。製造元のグリフアイ・テクノロジーズのウェブサイトには、このソフトウェアが「メタデータをインターネット上にあるオープンソース」と関連付け、膨大な「現実世界の画像」を用いて顔を識別すると記載されている。
世界中には、少なくとも40億人の人々がウェブ上にプロフィールを持ち、そこからこういった「現実世界の画像」が抽出される可能性がある。米マサチューセッツ工科大学内の研究所MITメディアラボの研究者ジョイ・ブォラムウィニ氏や、米グーグルでAIの倫理部門の責任者だったティムニット・ゲブル氏などの研究外部リンクによると、市販のAIソフトウェアは、肌の色が濃い人や女性の顔分析の精度が低いことが分かっている。
ザンクト・ガレン州警察のコミュニケーション部長、ハンスペーター・クリュージ氏は、収集された資料は「システムが警察のデータベースの画像と比較し、一致するものがあるかを調べる」と電子メールで述べた。最終的なチェックは人が行うという。
Fedpolはまた、「この技術を賢明に使うかどうか、そのために必要な法的根拠があるかどうかの判断は、各州に委ねられている」とswissinfo.chに回答した。だがこのテクノロジーを適用する枠組みを定めた明確な法律がない場合、誰が賢明か否かを判断するのだろうか。
スイス人弁護士で、欧州評議会のデータ保護委員長を務めるジャン・フィリップ・ワルター氏は「概念がはっきり定義されていないため、恣意性や乱用のリスクがあるのは明らかだ」とswissinfo.chに語った。
世界が注目するスイスの動向
住民に対する無差別な監視が更に強化される危険性があるため、アムネスティ・インターナショナルは最近、スイスの基本的権利の動向に注目している。
前出のアムネスティ・スイスのハフナー氏は、「スイスのテロ対策法を通じ、より多くの人を更に強化して監視することになるのは必至だ。なぜならFedpolは犯罪が起きる前に『潜在的なテロリスト』を特定したいためだ。このような状況下で生体認証技術が利用される可能性は十分にある」と述べ、「こういった使い方は、既に疎外され差別されている人々に対して不相応な影響を与える恐れがある」と警鐘を鳴らす。
また、警察は犯罪防止のために行う監視の一環として、潜在的な容疑者と見られる人物の集会所（既に焦点となっているモスクなど）の周辺にカメラを設置できるようになる可能性があると指摘する。
「これらのシステムは、平等や差別をされない権利だけでなく、表現や集会の自由、そしてプライバシーの権利の面でも問題がある」とハフナー氏は続ける。スイスのテロ対策法の条文には、「宗教的・哲学的な意見や活動」が監視の対象となり、非常に機密性の高い個人情報の処理が正当化されるとある（第23h条）。
ルールがなければ権利もない
米国や中国などの一部の国では、公序良俗に関する分野で顔認証が組織的に使用されている。中国では社会的行動の分類にまでも使われている。世界中で生体認証技術の使用を禁止する3カ国のうち、2国は欧州のベルギーとルクセンブルク、3番目の国はモロッコだ。
欧州委員会はAI規制法案を通し、全てのEU加盟国の公共の場で生体認証データを集めることを禁止し、規則に従わない国を罰する意向だ。
スイスにはデータ保護法があり、その一部は欧州連合（EU）の一般データ保護規則（GDPR）に準拠しているが、今回欧州が提案する規制法案に対応するものは存在しない。欧州人工知能研究所連合（CLAIRE外部リンク）のスイス支部長、リカルド・チャバリヤガ氏はそのため、「スイスは出来るだけ早くEUとの対話を再開し、新技術のガバナンスに関する議論に参加すべきだ」とswissinfo.chに語った。
新しいスタンダード？
欧州委員会の規制法案では、主にテロに関連した「重大な犯罪」の場合であれば顔認識を使用することが認められている。しかし、チャバリヤガ氏をはじめとする専門家らは、この法律はプライバシーに関する法律として非常に画期的であり、ハイテク分野のスタンダードになるだろうと述べている。
そのため、欧州法との整合が遅れたり、法律自体が存在しなかったりした場合にスイスが支払う代償は非常に大きいとチャバリヤガ氏は考える。AI専門家の同氏は、スイスのテクノロジー製品の国際市場における競争力だけでなく、人権の問題も危惧する。
「警察が法の執行にテクノロジーを使用するケースなど、高リスクの適用分野には市民に悪影響を与える恐れがあるものもある。警察は末端で動く組織に過ぎない。メーカーはシステムが時間の節約や効率化につながると警察に約束しているが、実際はそれを保証できない場合がほとんどだ」
また安全証明書のないエレベーターや、動かない時計を買う人はいないと指摘し、要求とリスクのバランスは均等であるべきだと付け加えた。特に基本的人権が侵害されそうなら、AIシステムだけを特別扱いすべきではない。
（英語からの翻訳・シュミット一恵）
JTI基準に準拠
swissinfo.chの記者との意見交換は、こちらからアクセスしてください。
他のトピックを議論したい、あるいは記事の誤記に関しては、japanese@swissinfo.ch までご連絡ください。