AI研究の松尾豊さん、人間のいい加減さを可視化したい
AI..
『人工知能は人間を超えるか』（KADOKAWA）などの著書でも知られる松尾豊さん
一般財団法人デジタルコンテンツ協会（Digital Content Association of Japan : DCAJ）は11月18日〜11月20日まで、先端コンテンツ技術とデジタルコンテンツをテーマにする国際イベント「デジタルコンテンツEXPO 2020 ONLINE」を開催した。
同イベントでは、アーティストで東京大学名誉教授の河口洋一郎さんが主宰し、幅広いクリエイティブの分野で高い実績を残した人に贈られる「ASIAGRAPH創（つむぎ）賞・匠（たくみ）賞」の授賞式がオンラインで実施された。
14回目を迎える今回は、創賞はアーティストで東京藝術大学准教授のスプツニ子！さん、匠賞は東京大学教授で人工知能（AI）研究の第一人者として知られる松尾豊さんが受賞した。
なお、同賞は過去には創賞が『君の名は。』や『天気の子』で有名な映画監督の新海誠さん、AKB48グループなどで知られる音楽プロデューサーで作詞家の秋元康さん。匠賞はロボット研究者で大阪大学教授の石黒浩さん、宇宙飛行士の古川聡さんなどが受賞している。
この記事では、AIメディアLedge.ai編集部として注目してほしい、松尾豊さんによる匠賞の受賞コメントおよび、松尾豊さん、河口洋一郎さん、スプツニ子！さんによるトークセッションの様子をレポートする。
松尾豊さん「大きなビジョンに進もうとしている」
松尾豊さんは今回の匠賞の受賞を受け、「歴代の受賞者の方々を見ても、世界で活躍されている方ばかりで、そのような方々に名前を並ばせていただくのは大変光栄に思っております。それから、日頃からいろんな形で非常に刺激をいただいている河口先生から、名前を読み上げていただくのも、大変光栄に思っています」とコメントしている。
創賞を受賞したスプツニ子！さんが自分自身は変な活動を続けてきたと語ったことを踏まえ、「僕も変な活動をずっとやってきました。自分では変なつもりはないですが、『人工知能の研究は、こういうところを目指すべきなんじゃないかな』とか、『今の日本の動きは、こういうところが足りないんじゃないかな』と考えながら動いていたら、まわりから見ると、ちょっと変に見えるということがあると思います」と話す。
一方で、松尾豊さんは「自分のなかでは、大きなビジョンがあります。それに向かって進んでいこうとしているので、こういった形でほめていただくと、『ああ、やってよかったな』『このまま続けていきたいな』というふうに、非常に励みになります」と、今回の受賞について感謝の意を示した。
ディープラーニングで千切りキャベツがつかめるように
また、授賞式の後には松尾豊さん、河口洋一郎さん、スプツニ子！さんによるトークセッション「DCEXPO特別講演：知能×アートが未来を拓く－創賞・匠賞受賞記念シンポジウム－」が実施された。松尾豊さんによるAIの未来に関する議論や、今後の目標を紹介したい。
トークセッションの冒頭では、それぞれ自己紹介を踏まえ、プレゼン形式で最近の活動を紹介した。松尾豊さんは自己紹介の一環として、まずは自分自身の専門であるAIにおけるディープラーニング（深層学習）の活用事例を披露した。
従来、コンビニのサラダや弁当、総菜などに千切りキャベツを入れる作業は自動化が難しく、人手で作業をしているという。東京大学松尾研究室とロボコム株式会社が共同開発した「自動定量ピッキングシステム」では、AIの機械学習により、最初はうまくつかめなくても、安定して取れるようになったとのこと。
松尾豊さんはさらにスケールの大きな事例として、東京大学 松尾研究室（東京松尾研）発のAIスタートアップである株式会社DeepXが手がける無人の油圧ショベル（いわゆるショベルカー）を挙げた。同ショベルカーではディープラーニングを活用し、順次自動化できる領域を広げていくという。
東京松尾研発のスタートアップ増加は「少し形になってきて、うれしい」
松尾豊さんは、さきほど触れたDeepXなどを生んだ東京松尾研について、「松尾研は2014年、2015年ぐらいから、ディープラーニングやAIの教育を東大のなかを中心に、これまで累計で5000人以上の学生や社会人にAIのことを教えています」と振り返った。
続けて、「早い時期からこのような教育をすると、どんどん学生が起業するようになります。アメリカのMITとかスタンフォードとかもそうですが、今、（東京大学がある）本郷周辺がスタートアップで活性化しつつあります。たくさん松尾研発の会社が生まれてきています」と説明する。
このような起業が続けている状況を踏まえ、松尾豊さんは「僕はもともとスタンフォードに2年ほどいて、『エコシステムを作りたいな』と思っていたので、少し形になってきて、うれしいなあと思っています」と素直な気持ちを語った。
松尾豊さん「『世界モデル』が今後の鍵になる」
また、松尾豊さんが自己紹介の一環として、AIの技術的な未来像について言及する場面もあった。松尾豊さんは「人工知能のかなりコアな部分で『世界モデル』がこれから重要になる。今後、2〜4年ぐらいの技術的な開発の鍵になるだろうなと思っています」と語る。
ところで、「世界モデル」とは何か？ 松尾豊さんの説明を紹介しよう。人間の場合は、たとえば、一部しか見えてなくても、全体像を想像したり、水が入ったガラスのコップを落とすと、何が起きるかを想像したりできる。人間には頭のなかにシミュレーターが入っていると言える。このような頭のなかのシミュレーターは、赤ちゃんが生まれたときが持っているものではなない。学習で自らが獲得するものだ。
オブザベーション（観測）やインタラクション（相互作用）を通じて、「どのような状態で何をしたら、何が起こるのか」「どのような状態に遷移するのか」といった「世界モデル」を持つことができると、本モデルを使って先読みに加え、言葉のセンテンスの意味をイメージに置き換えて理解することも可能になる。
現在、このような技術はディープラーニングでは、まだ充分に実現していない。すでに「GPT-3」などの自然言語処理はイノベーションが起きつつある。画像や映像、あるいはアクチュエータを含んだ世界においても、世界モデルを開発できると、大きく状況が変わると松尾豊さんは話す。
ゆくゆくは人間の知能や仕組みにも到達できるのではないか
そのうえ、松尾豊さんは楽観的と認めながらも、「世界モデル」を活用することで、いずれ人間の知能や仕組みにも到達できるのではないかと主張し、「動物OS」と「言語アプリ」といった言葉を紹介した。
「動物OS」はベースとなる知覚や運動系のシステムで、「言語アプリ」は言語をつかさどる仕組みを意味する。知能は二階建て構造であり、「動物OS」の上に「言語アプリ」が乗っかった状態ではないか、というのだ。人間の言語理解は「どういう状況で何をしたら、何が起こるか」というイメージを想起し、早送りする機能を「動物OS」から呼び出すからこそ、成り立っていると話す。
松尾豊さんはこのように考えると、「人間の知能がどのように実現されているのか」だけではなく、さらに「人間がなぜ、ある種の万能性（ばんのうせい）を持っている気になるのか」も明らかになると議論を展開する。たとえば、子どもにきちんとした環境や教育を与えると、プロ棋士や数学者、アーティストなど、さまざまな職業に就く可能性がある。このような万能性は「人間の頭のなかで、任意のアルゴリズムが動く」ことも意味している。
少し複雑な議論だが、このような任意のアルゴリズムは自然に発生するものではなく、学習によって得られるものである。したがって、任意のアルゴリズムを入れたいときに、対応する学習タスクを与えると、頭のなかで勝手に任意のアルゴリズムを学習してくれるはずだ。少し遠回りになったが、このように任意のアルゴリズムを動かす際にこそ、さきほど紹介した「世界モデル」が必要になるのではないか、というのだ。
AIのアルゴリズムには人間の教育や文化が反映される
トークセッションでは、松尾豊さんのこのような認識を踏まえ、スプツニ子！さんが米AmazonがAIを使用した人材採用システムが女性に差別的な判断をするため、プロジェクトを中止したといった事例を紹介。世界モデルを書き込んでいくときに、AIが現状起きていることをデータとして学習していくと、現代社会の差別的な状況を繰り返していくのではないか、このような事故はどのように防げるのかと質問した。
松尾豊さんは「人間は学習しているように思いますが、学習する仕方がガイドされています。要するに、教育や文化で引き継がれた部分もあり、そのうえで学習しています。実は、（AIのアルゴリズムは）そこも含めてのアルゴリズムになっているという面があると思います。やっぱり、現状の社会を前提として学習させると、そのなかにいろんなおかしなことも含まれます。そこに（人間が）方向感を付けていかないといけません」と話す。
AI研究の松尾豊さん、人間のいい加減さを可視化したい
また、差別といった問題とは少しズレるものの、人間の本音と建て前についても言及した。松尾豊さんは「当然、ルールだけで世界は記述できません。うまく調整することが必要です。『こういうふうに言うんだけど、実際にやっていることはこうだ』というような、ちょっとズレがあるのは人間の文化の面白さでもあるし、ダメなところでもあります」と述べている。
松尾豊さんはこのような人間の「人間性」を直視すべきであると主張し、「『人間はいい加減だし、すごく自分勝手です』というのを、僕はもうちょっと見えるようにしたいなと思っています。偉そうに言っているからダメなので、『大体、自分も間違っているかもしれない』という感じで、考えたら良いのではないか。僕はAIによって、人間の思い込みやおごりのようなもの──たとえば、人間が作った科学技術がいかに一面的なものか──を明らかにしたいなと思っています」と、今後の意外な目標を語った。
さらに、科学の一面性について具体的に、「僕は多数パラメータや高次元科学というものを提唱しています。今のディープラーニングの研究で示されているのは、パラメータをたくさん持つモデルによって、予測精度も上がるし、いろんな制御も上手にできるようになるということです」と切り出した。
「一方で、これまでの科学技術は（「ある事柄を説明するためには、必要以上に多くを仮定するべきでない」とする指針）『オッカムの剃刀』で、シンプルなものほど美しいとされていました。だから、変数やパラメータを少なくし、『当たった』と言っていました。結局、現場で使うときにはいろいろ調整して、匠の技とか熟練の技とか暗黙知とか言って、なんとか補って使ってきたのです。少数のパラメーターが良いとか『オッカムの剃刀』とかは、ウソというか、強い信仰すぎます」と断言する。
続けて、松尾豊さんは「たまたま少ないパラメータ、少ない変数で表せる領域だけを取り出して、『我々が体系化した』と言って、喜んでるだけです。たぶん、たまたま現実世界がそうなっている領域がところどころにあったというだけです。実は、相互作用が非常に複雑な多数のパラメータを使って、初めてモデルができる領域のほうがたくさんあります。そのことに我々、人類は無自覚です。このように科学技術を一段俯瞰的に見て、今までの科学技術がいかに一面的だったかを示せるといいなと思っています」と語った。
引用先はこちら：AI研究の松尾豊さん、人間のいい加減さを可視化したい
