グーグル、著名なAI研究者が突然の解雇「チームを愛し続ける」決意を明らかに
AI..
Apparently my manager’s manager sent an email my direct reports saying she accepted my resignation. I hadn’t resigned—I had asked for simple conditions first and said I would respond when I’m back from vacation. But I guess she decided for me 🙂 that’s the lawyer speak.
— Timnit Gebru (@timnitGebru) December 3, 2020
米Google（グーグル）の倫理的AIチームの共同リーダーを務めるティムニット・ゲブル（Timnit Gebru）氏が現地時間12月2日、自身のTwitterアカウントで、同社に解雇を通告されたと明らかにしたことが大きな波紋を呼んでいる。
大規模な言語モデルの倫理的な問題を主張したことが原因か
米Bloombergの報道によると、ティムニット・ゲブル氏はグーグルの従業員4人を含む計6人とともに、同社の自然言語処理モデル「BERT」のような、大規模な言語モデルの倫理的な問題を取り扱う論文を共同執筆していたという。
論文のタイトルは『On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?』。共著者の1人であるワシントン大学の計算言語学の教授エミリー・M・ベンダー氏から論文のコピーを入手した米MITテクノロジーレビューは、本論文の概要を明らかにしている。
米MITテクノロジーレビューの報道によると、本論文はこれまでの研究者たちの研究をベースにしており、「自然言語処理の歴史」「大規模言語モデルのリスク」「今後の研究」について書かれているという。
また、大規模言語モデルのリスクについては、「多くのコンピュータ処理能力を使用するため、多くの電力を消費するといった環境的・金銭的コスト」「人種差別的であったり、性差別的あったりする言葉が訓練データに含まれるといったリスク」「たとえば、選挙や新型コロナウイルス感染症（COVID-19）についての誤報を生成するために使用できるといった問題」などが挙げているとのこと。
同じく、本論文を入手した米Wiredは、論文に書かれていることはどれも「議論の余地のないもの」であるとし、グーグルや同社の技術を攻撃しているどころか、グーグルに所属するティムニット・ゲブル氏が参加していることが明らかになっても、同社の評判が傷つくことはないと見解を示している。
ところが、実際は想定外の結果となった。ティムニット・ゲブル氏は上司から論文の撤回を求められ、同僚らに送るメールのなかで状況を説明したところ、グーグルから解雇されるにいたったとされる。
過去にはAI顔認証の精度が有色人種では低いと明らかに
ティムニット・ゲブル氏は、スタンフォード人工知能研究所（スタンフォードAIラボ、SAIL）の出身で、AI倫理研究の第一人者である。
とくに、米マイクロソフト研究所（Microsoft Research）に所属していた2018年には、マサチューセッツ工科大学（MIT）の研究者であるジョイ・ブオラムウィニ氏（Joy Buolamwini）と共同研究した、AIによる顔認証が白人男性では高い精度を発揮できるものの、アフリカ系（黒人）などの有色人種では精度が低くなってしまうことを明らかにした論文は大きな話題となった。
2020年5月に起きたアフリカ系アメリカ人のジョージ・フロイド氏の死亡事件などを発端とした「ブラック・ライヴズ・マター（Black Lives Matter、BLM）」以降、米IBMや米マイクロソフト、米Amazonなどで顔認識システムの見直す動きが広がった。米MITテクノロジーレビューが報じているとおり、このような動きが広がった背景には、ティムニット・ゲブル氏らの研究の成果があったと言えるだろう。
グーグル社員など6000名以上が署名「これからもチームを愛し続ける」
12月17日現在、インターネット上では、グーグルに対して反発する署名に、グーグル社員2695人に加え、学術・産業・市民社会の支援者4302人が署名している。また、SNS上でも、グーグルのほか、マイクロソフトやNVIDIAなど、さまざまな企業の研究者たちがティムニット・ゲブル氏への支持を表明した。
I am so grateful for the support from so many people. And our team is the BEST. The best. I love them so much and I’m so sad that this is happening to them! How would anyone feel Comfortable doing ethical AI research in this environment? https://t.co/Wwf1LX5msL
— Timnit Gebru (@timnitGebru) December 4, 2020
ティムニット・ゲブル氏は自身のTwitterアカウントで、このような状況を踏まえ、「たくさんの人々のサポートに感謝します。私たちのチームは最高です。彼らをとても愛しているし、こんなことが起こっていることをとても悲しく思っています。このような環境で倫理的AIについて研究して、誰が快適に感じられるのでしょうか？」と、現在の心境を明らかにする。
I continue to love our team. We did create an amazing team with amazing people. https://t.co/YTYbK0Z2YQ
— Timnit Gebru (@timnitGebru) December 12, 2020
また、ティムニット・ゲブル氏は繰り返しチームへの愛を口にしており、このような状況にあっても、なお「私はこれからもチームを愛し続けます」と決意を明らかにしている。
改めて言うまでもないが、ティムニット・ゲブル氏はAIの倫理的な問題に積極的に向き合っており、現在のAI研究に欠かせない人物である。ティムニット・ゲブル氏は愛するチームをこのまま追放されるのか。今後の動向を見守りたい。
引用先はこちら：グーグル、著名なAI研究者が突然の解雇「チームを愛し続ける」決意を明らかに
