米グーグルのAI倫理対立 研究者解雇で浮き彫りに
米IT大手グーグルなど、ビックテックと呼ばれる巨大ハイテク企業は、自らが開発する人工知能（AI）ツールの力をきちんと認識していない−−−これがスイスAI研究者らの意見だ。グーグルが最近、AI倫理専門家を解雇したことで、同社がAI倫理規範の確立を本当に重要視しているのかという疑問が噴出した。
「私たちが取り組んでいるアルゴリズムは公共の利益に関わるもので、個人の嗜好（しこう）とは無関係だ」。こうツイッターに書き込んだのは、グーグル・ブレインの在欧スタッフでは唯一のAI倫理チームメンバー、エル・マハディ・エル・マムディさんだ。昨年12月、上司であるティムニット・ゲブル氏が突然解雇されたことを受け、投稿した。グーグル・ブレインはグーグルの研究チームで、深層学習（ディープラーニング）を用いて正常な人間の脳機能を再現する研究を進めている。
ゲブル氏は、AI倫理の分野では屈指の研究者だ。同氏は他の研究者らと共同執筆した研究論文で、グーグルの検索エンジンとそのビジネスを形作る大規模言語モデルの倫理上の危険性を警告した。
ティムニット・ゲブル氏はエチオピアの首都アディスアベバ出身。エリトリア人の両親の元に生まれる。エチオピアとエリトリアの戦争中に難民として15歳で渡米し、その後スタンフォード大学に入学。スタンフォード人工知能研究所でコンピュータービジョンの博士号を取得した。膨大な公共画像を用いて社会学的分析を行った学位論文は、米紙ニューヨーク・タイムズや英誌エコノミストで紹介されるなど一定の成功を収めた。また女性や有色人種に対する顔認識システムの不正確さと差別を実証した画期的共同研究で、確固たる名声を手にした。グーグルは2018年、AI倫理チーム設立に当たり、当時マイクロソフトリサーチに所属していた同氏を共同リーダーに起用した。
同氏は論文の中で、これらのモデルが分析するインターネット上の膨大な量のテキストがほぼ欧米発であることに注目。この地理的バイアスにより、ウェブ上の人種差別的、性差別的、攻撃的な言語表現がグーグルのデータ内に取り込まれ、システムによって再生産されるリスクがある、と論じた。これに対しグーグルは、ゲブル氏に論文の撤回を要求。それを拒否した同氏は解雇された。
"Google’s short-sighted decision to fire and retaliate against a core member of the Ethical AI team makes it clear that we need swift and structural changes if this work is to continue…1\https://t.co/ojaCydyS6f外部リンク
— Timnit Gebru (@timnitGebru) December 17, 2020外部リンク
他の研究者らもAIシステムの無秩序な進化によるリスクを突き止め、問題提起している。西スイス応用科学大学のアレクサンドロス・カロウシス教授（データマイニング、機械学習）は「部屋の中の象（編集部注：人々があえて触れない問題の意）」が存在すると話す。「AIは至るところにあり、速いペースで進化している。だが開発者側は、AIツールやモデルが複雑な実世界の環境に投入されたとき、どう振る舞うのかをよく理解していないケースが非常に多い」とし、「弊害が起こって初めてそれに気づく。そもそも気づくかどうかも怪しい」と警鐘を鳴らす。
Wtf @Google外部リンク @GoogleAI外部リンク??
— Lê Nguyên Hoang (Science4All) (@le_science4all) February 28, 2021外部リンク
Before deploying any larger language models, are you confident that such a dangerous misinformation, probably ubiquitous in your training dataset, will not be repeated by your algorithms?
How does firing your ethics team help you make "responsible AIs"? https://t.co/9Fw8bOHonC外部リンク
しかし、ゲブル氏のケースが示すように、弊害を見越して警鐘を鳴らした研究者を企業が歓迎するとは限らない。
ニューテクノロジー倫理の専門家で、ベルリンにあるフンボルト大学インターネット・社会研究所のアンナ・ジョバン氏は「ゲブル氏はAI倫理に取り組むためにグーグルに雇われ、AI倫理に取り組んだために解雇された。グーグルが倫理問題に本気ではないことが露呈した」と話す。「名の知られたAI倫理専門家をこのように扱っておきながら、グーグルはどうやって倫理向上を図ろうというのか」
If a company cannot even pretend to care about its internal "Ethical AI" co-leader, how much do you think they care about the rest of us?
— Dr. Anna Jobin (@annajobin) December 9, 2020外部リンク
In the wake of Google's outing of @timnitgebru外部リンク, my two cents on #AIethics外部リンク #BigTech外部リンク #IStandWithTimnit外部リンク: https://t.co/xzxlaNwPvC外部リンク
「エシックスウォッシュ」
白人男性優位のテック業界で、ゲブル氏は女性かつ黒人のリーダーという新世代を象徴する存在だった。同氏は同じく2月に解雇された同僚のマーガレット・ミッチェル氏とともに多文化チームを作り上げ、グーグルAIシステムの倫理的・包括的な開発の研究と推進に当たってきた。
グーグルはAI倫理原則をガイドライン化した後の2019年、内部ガバナンス体制をさらに徹底するため、AIシステム開発を監督する外部組織「先端技術外部諮問委員会（ATEAC）」を立ち上げた。
グーグルのグローバル・アフェアーズ部門シニアバイスプレジデント、ケント・ウォーカー氏は、同社ブログに「ATEACは、顔認識や機械学習における公平性などグーグルのAI原則の下で発生する最も複雑な課題を検討するとともに、その活動について多様な視点から情報を提供していく。委員会メンバーとともにこれらの重要課題に取り組むことを楽しみにしている」と書いた。
ところがこうした下地にもかかわらず、委員2人の任命を巡って激しい抗議が起き、委員会は発足から2週間足らずで閉鎖された。問題の委員の1人は「反トランス・反LGBTQ・反移民」という保守派の人物だった。結果的に別の1人が委員を辞任した。
しかし、ジョバン氏は、問題が正しく処理され、こうしたチームが自身の知見に基づき行動する権限を与えられない限り、「『AI倫理』は非倫理的な推進力になりかねない」と指摘。「AI倫理」はただの看板と化し、明らかに道徳的原則に反する事業を行うための隠れみのになってしまうと懸念する。企業が環境配慮行動をうたいつつ実行しない「グリーンウォッシュ」と同様に「エシックスウォッシュ」、つまり倫理上のごまかしと呼べそうだ。「我々は倫理的だから黙っていろ、と言っているようなもの」（ジョバン氏）
グーグルのチューリヒオフィスに13年間勤務している上級ソフトウェアエンジニアのブラク・エミルさんは、ゲブル氏の解雇後、自社の倫理研究の目的に疑問を投げかけた。
エミルさんは「口当たりの良いことしか書けないならば、なぜ倫理部門があるのか」といぶかる。「物分かりの良い楽観的な研究だけを発表するのが目的なら、知見獲得のためなどという能書きはやめた方が良い。もっと透明性が必要だ」
It took me a while (sorry), but I read up on available info & came around to think that @timnitgebru外部リンク's reaction makes sense. The demands formulated here are reasonable, and research leadership has to move to regain trust.https://t.co/2Wc3ImG0g7外部リンク#ISupportTimnit外部リンク #BelieveBlackWomen外部リンク
— Burak Emir (@burakemir) December 6, 2020外部リンク
多数の科学者や研究者がゲブル氏への連帯を表明した。その中にはスイス在住者もいる。チューリヒには、米国外で最大のグーグル研究センターがあり、特に機械学習やAIに力を入れている。グーグル社内では社員2600人以上が同社のAI倫理への取り組みを問いただしゲブル氏を支援する嘆願運動外部リンクに署名した。エミルさんもその1人だ。
衣は僧を作らず
グーグル側はゲブル氏への「検閲」行為を否定している。swissinfo.chがグーグル・スイスに取材したところ、同社広報の回答は、上層部が既に出した公式声明だった。その1つ外部リンクはグーグルAI責任者ジェフ・ディーン氏によるもので、ゲブル氏が共著した研究論文は（研究誌などへの）出版基準を満たしていなかったこと、会社は同氏を解雇したのではなく、本人の辞表を受理したのだということが書かれている。一方ゲブル氏は、辞表を提出したことはないと反論している。
I understand the concern over Timnit’s resignation from Google. She’s done a great deal to move the field forward with her research. I wanted to share the email I sent to Google Research and some thoughts on our research process.https://t.co/djUGdYwNMb外部リンク
— Jeff Dean (@JeffDean) December 4, 2020外部リンク
I was fired by @JeffDean外部リンク for my email to Brain women and Allies. My corp account has been cutoff. So I've been immediately fired 🙂
— Timnit Gebru (@timnitGebru) December 3, 2020外部リンク
ザンクト・ガレン大学の研究者でゲブル氏支援の嘆願書に署名したロベルタ・フィッシュリ氏によると、今回の解雇問題で、AI倫理コミュニティーではグーグルのイメージが悪化した。同氏は、企業内で既存の慣習を疑問視するような研究を行う場合、利益相反は避けられず、その点で最初から一定のリスクはあったとする。
「理論上では多くの企業が批判的な研究者を歓迎している。しかし、実際には研究者が雇用主批判を始めれば、利害の衝突が起きるのは必至だ」（フィッシュリ氏）。同氏はまた、AI倫理において画期的研究を行おうとする研究者には選択肢が少なく、最もリソースが集中する民間企業に行き着くケースが珍しくないと指摘する。「彼らは特定のメカニズムをより良く理解し、内部から物事を変えようとするが、それは必ずしも良い結末を迎えない」
ゲブル氏の解雇後も、グーグルの事業活動は一見通常通りだ。しかし、何かが動く兆しもある。1月、米国の同社社員グループが大手多国籍テクノロジー企業では初の労組「アルファベット労働組合外部リンク」を結成した。それに続いて英国やスイスなど、世界10カ国にまたがるグローバル規模の労組連合も結成された。
Hard to understate the importance of this against the background of @timnitGebru外部リンク’s forced departure from #Google外部リンク’s AI Ethics team. Time to take ethics, diversity and labor law – and your own corporate slogan seriously, Google! #ISupportTimnit外部リンク https://t.co/H0AORkHKE0外部リンク
— Roberta Fischli (@leonieclaude) December 3, 2020外部リンク
部屋の中の象
しかし、グーグルやGAFA（ガーファ。米主要ITのGoogle、Amazon、Facebook、Appleの頭文字を取った呼称）の影響力は、個々の企業の枠をはるかに超えている。こうした巨大テック企業の動向や計画の内容は、世界の学術研究のアジェンダをも左右する。前出のカロウシス西スイス応用科学大教授は「大手学術研究機関で、ビッグテックと無関係、あるいは資金提供すら受けていない研究を見つけるのは難しい」と話す。
同氏は、こうした影響力がある以上、ハイテク企業の無秩序なデータ利用の危険性について、独立した「枠にとらわれない」形で問題提起していくことが重要だと指摘する。
同氏は「これは、私たちの社会における大問題だ」とし、ビッグテックの支配があらゆる面に及ぶ現状に対し「倫理を巡る議論は、時にそこから注意をそらしてしまう」と懸念する。
AI技術の広範な展開がもたらすリスクについて、研究サイドは客観的判断を行えるだけの独立性を獲得できるのだろうか。それはどうやら難しそうだ。この問題はグーグルに限らず、ルールも制限もないままAIシステムを展開している市場の全企業に当てはまる。私たちにとってこれは、今やテクノロジーが倫理上の是非を決め、私たちの生活や考え方すらも形成していることを意味する。
（英語からの翻訳・フュレマン直美）
JTI基準に準拠
この記事にコメントする