【感想（呑み会のネタ）】人工知能は人間を超えるか ディープラーニングの先にあるもの 松尾豊
【感想】人工知能は人間を超えるか ディープラーニングの先にあるもの 松尾豊 - 鳥木ケンのブログ 〜金融系が多め
【感想（続き）】人工知能は人間を超えるか ディープラーニングの先にあるもの 松尾豊 - 鳥木ケンのブログ 〜金融系が多め
【感想（続き2）】人工知能は人間を超えるか ディープラーニングの先にあるもの 松尾豊 - 鳥木ケンのブログ 〜金融系が多め
（前回分）
呑み会の場で披露できれば、こいつは頭がイイと思われる、かもしれない、人工知能界隈のネタについて、本書を引用しながらツラツラ書きたい。
研究と名のつく世界では、課題、難題、問題、ボトルネックと称される、研究の進展を阻む壁が幾重（いくえ）にも存在している（というか、それが所与の世界なのだが）。
人工知能界で有名な問題、論題といえば次の二つが有名である。
- フレーム問題
- シンボルグラウンディング問題
【フレーム問題】
こちらは人工知能の学会では有名な命題であり、碩学と言う言葉か似合うジョン・マッカーシーが提唱した難題である。以下に引用する。
洞窟の中にロボットを動かすバッテリーがあり、その上に時限爆弾がしかけられている。ロボットは、バッテリーを取ってこなければバッテリー切れで動けなくなってしまうため、洞窟からバッテリーを取ってくることを指示された。研究者たちは、このためにロボットを設計した。
我々自身がロボットの立場だとしたら、やることは簡単、「爆弾を外し、バッテリーだけ取り、すばやく外に出る。以上！」ではないだろうか？
研究者か想像する、想像上でのロボットの行動は以下とされる。
ロボット1号は、バッテリーを洞窟から取ってくることができた。しかし、ロボットはバッテリーの上に載っている時限爆弾も一緒に取ってきてしまった。時限爆弾が載っていることは知っていたが、バッテリーを持ち出すと爆弾も一緒に運び出してしまうことは知らなかった。そして、洞窟から出た後に爆弾が爆発してしまった。
このネタを知らない人は、何じゃそりゃと思うかもしれない。でもこれが実際に手を動かしている、最前線で研究している学徒達がなかなか破れない、現実のシーンの一コマとなる。
次に、研究者は爆弾を持ち運ぶか否かの判断をするアルゴリズムを搭載した。さぁどうなったか？
「研究者たちは、ロボット1号に改良を加え、ロボット2号をつくった。バッテリーを持ち出したときに、爆弾も一緒に持ち出すかどうかを判断させるため、「自分が何かをしたら、その行動に伴って副次的に起こること」も考慮するように改良された。すると、「ロボット2号はバッテリーを前にして考え始めた。「自分がワゴンを引っ張ったら壁の色が変わるだろうか」「天井が落ちてこないか」……。ありとあらゆる事象が起こるかどうかを考えたせいで、時間切れで、時限爆弾が爆発して、ロボット2号も壊れてしまった。
小学生が考え出しそうな結末だが、真剣に研究している、最前線の研究者（形容詞がくどい？）はこのバッドシナリオを超えることができないでいる。
ロボット3号では、目的に関係ないことを除外するコマンドの入ったアルゴリズムを搭載したら、目的に関係ないが何であるかを永遠と計算してしまい、マシンは動けず、ジッエンドとなりましたとさ、でこの命題は終了する。
このフレーム問題は、人間が出来る作業をロボットに実装しようとしたら、それだけ難しいさまを表している。
【シンボルグラウンディング問題】
これは哲学をかじったことがある学徒であれば、思い当たる類題が頭に浮かんできそうな命題である。このシンボルグラウンディング問題は文字情報である記号が、それを意味するものと結びつけられるかについて問うている。人間にできて、コンピューターにはできないこととして。
たとえば、シマウマを見たことがない人がいたとして、その人に「シマウマという動物がいて、シマシマのあるウマなんだ」と教えたら、本物のシマウマを見た瞬間、その人は「あれが話に聞いていたシマウマかもしれない」とすぐに認識できるだろう。人間はウマの意味とシマの意味がわかっているからである。ウマというのは、タテガミがありヒジメがあってヒヒンと鳴く4本足の動物というイメージが人間にはある。シマシマというのは、色の違う2つの線が交互に出てくる模様だということもわかっている。したがって、それを組み合わせた「シマシマのあるウマ」もすぐに想像できる
グーグル社の子会社で創られたニューラルネットワークを使用し、猫を認識できたというニュースがいつぞやか流れた。判る人には分かるニュースだった。
現在、この技術を使っていろいろと画像判定を行っているが、黒人が写った写真をゴリラと判定してしまい、同社は大変な目にあっていた。幼児でもできることが、人工知能ではなかなか実現できていない。
ところが、意味がわかっている人間にはごく簡単なことが、意味がわかっていないコンビュータにはできない。シマウマが「シマシマのあるウマ」だということは記述できても、ただの記号の羅列にすぎないので、それが何を指すかわからない。初めてシマウマを見ても、「これがあのシマウマだ」と認識できない。つまり、シマウマというシンボル(記号)と、それを意味するものがグラウンドして(結びついて)いないことが問思なのだ。これをシンボルグラウンディング問題という。
このシンボルグラウンディング問題を解決するのが、人工知能を進展させるための肝だと考えている人もいるとのこと。人工知能に身体性を拡張させ、外界との相互作用をさせないと、記号の意味を概念として捉えられないと言う考えである。
ドラえもんの誕生は、今世紀中には困難であることだけは分かった。
