将棋の人工知能開発者　人工知能が黒魔術化してる

スポンサードリンク

さて、昨日youtubeでこんな動画を見てましたよ。

NHKの特番で人工知能の最新をやってました。

最新の事例。
たとえばタクシーの運転手がどこを走れば客をつかまえられるのか。
今まではベテラン運転手の勘で、この時間帯は、ここを走れば客をつかまえられる。

そうやって予測して客を見つけてたのに人工知能で予測するようになったら
初心者でもすぐつかまえられるようになった。
それでタクシー会社の売り上げが20%も上がったとか。

他に将棋の佐藤名人をやぶったポナンザという人工知能。
それを作った開発者が出てました。

開発者の山本さんは、なんでポナンザが勝ってるのか良く分からない。
なんで強くなってるのか分からない。
そう言ってました。

以下、その開発者の山本さんの記事がNHKに載ってました。
人工知能と黒魔術という面白い記事です。

http://www.nhk.or.jp/kaisetsu-blog/400/273618.html
「人工知能と黒魔術」（視点・論点）

愛知学院大学特任准教授　山本一成
私は将棋を指す「Ponanza」というプログラムを作っています。

・・・
現在、人工知能の開発は飛躍的に進んでいるのですが、実は同時に科学者やエンジニア達は今、少し困った状況になっています。

それは、人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです。
人工知能という現代科学の最前線で、なぜそんなことが起きているのでしょうか？

突然ですが、皆さんは「黒魔術」という言葉をご存知でしょうか。

おとぎ話やファンタジーの世界で、魔女が不思議な薬を作るときに使われるような魔法のことですね。ぐつぐつと煮えたつ大鍋の前に立ち、呪文とともに材料を投げ入れると、目的の妙薬ができる……そんなシーンをアニメ作品で観たことがある人も多いと思います。

驚かれるかもしれませんが、この「黒魔術」は人工知能の世界でもスラングとして定着しており、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称となっているのです。・・

黒魔術の影響は、当然人工知能の一種であるPonanzaにも及んでいます。
Ponanzaは私が開発したプログラムなので、細部まで私が考えて作っています。

しかも私は、将棋プログラムという狭い領域のことなら、世界でもトップレベルによく理解しています。
それでも、Ponanzaはすでに理論や理屈だけではわからない部分が沢山でてきています。　・・

現在のPonanzaの改良作業は、実は真っ暗闇のなか、勘を頼りに作業しているのとほとんど変わりがありません。これは絶対うまくいく、と思った改良が成功しないことは日常茶飯事で、たまたまうまくいった改良をかき集めている、というのが実情です。

たまたまうまくいった改良を集める結果から、私から見るとPonanzaはますます黒魔術化しているようにみえるのです。・・

たとえばあなたが時計というものを完全に理解しなければならないとしたら、まずすべての部品を分解して、歯車やゼンマイのしくみを知り、それぞれの動作を把握するはずです。
そして今度はそれらの部品を再度組み立てます。そうした作業をへて、時計という機構は理解できるようになるのです。熟練の時計職人であれば、時計がどのようなしくみで動き、どうすれば性能を上げることができるのかを明確に説明することもできるでしょう。

しかし知能を理解するには、この還元主義的な考えではうまくいきません。
Ponanzaについて言えば、私は世界でいちばんPonanzaのことをわかっています。

でも、なぜPonanzaが強いのかについて、私は１００％説明することはできません。
今のPonanzaは実験的・経験的にしか強くすることができませんし、どれだけ詳細にプログラムの細部を調べていっても、Ponanzaの知能というものを理解することはできません。・・

結局、知能というのは隠された方程式があって、それを解き明かすのではなく、どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない —— それが今の人工知能の研究者たち・エンジニア達の実感なのです。