人工知能学会監修「人工知能とは」を読んだ
2016/11/19
人工知能についてなるべく(学的に)正確で、なおかつ最先端の状況を知れるものをいろいろ調べてみたところ、この本を見つけた。
これまでカーツワイルやマレーシャナハンのシンギュラリティ関連の書籍は読んだし(というかこのブログでも感想記事を書いた)、ネット上で記事には断片的にとりあげているものはチェックしているけどそれだけはどうも人工知能の全体像がはっきり掴めていないように感じていた。
きちんと体系的にまとめられている人工知能の知識、資料が欲しかった。信憑性の高い、基礎からまとまっている人工知能の教科書的なものが欲しかったのだ。
そこで白羽の矢が立ったのが本書。もう名前からして硬派でしっかり基礎から学べそうな感じがするだろう。眉唾ものが幅を利かせがちなこの分野で人工知能学会という学的に信頼性をある組織が監修しているのも高ポイントだ。
本書は「人工知能とは何か？」「知能とは何か？」「意識とは何か？心とは何か？」「スーパー知能と技術的特異点(シンギュラリティ)について」「自由意志はあるのか？」「スーパー知能の危険性」といった人工知能を考える上で避けては通れないだろう質問をこの分野の権威、13名の研究者に投げかけることで人工知能の本質や将来性、危険性等を多面的に描こうというものである。
本題に入る前に断っておくが、詳細な説明はこの本に書いてあるのでここでぼくがわざわざ1から10まで説明することはしない。(というか著作権的な意味でも引用要件から外れそうなのでできない)
なので、この記事の役目はその内容をざっくりと簡単に端的に乱暴にまとめること、そのテーマに対しての私見を述べることに留める。
あ、それともう一つ断っておくことがある。
ちゃんと読むには脳科学、生理学、ロボット工学、哲学(古典ギリシャ)等についてある程度の知識が必要だ。
難易度的には少し高いかもしれない。専門家というほどの知識はいらないが、今挙げた分野の基礎的な書籍を最低1冊くらいは読んでだいたい理解しているくらいのレベルが必要になると思う。
でないと本書の中(とこの記事)に出てくる言葉の意味が分からなかったり、言っていることが理解できないことが多くてまともに読めない。
その場合はつまり、人工知能を学ぶための基礎知識が足りないということになる。こればかりはどうしようもないのでその不足を補うよう励むほかない。ちょうど因数分解を学ぶためには最低限四則演算(足し算、引き算、掛け算、割り算)をマスターしていないと話にならないのと同じだ。
ではそろそろ本題に移ろう。
さっき挙げた質問について、ぼくがこの本の全体的な意見をざっくりと簡単に端的に乱暴にまとめ、さらに私見を付け加えてごちゃごちゃ言う。あと印象に残った個別の問題もたまに取りあげていく。
人工知能とは何か？
実は、人工知能とは何かについては、研究者の中でも明確な定義が決まっておらず、さまざまな考え方があります。これは人工知能の学会員であれば半ば当り前に思えることですが、学会の外にいる人から見ると、このこと自体、異様なことかもしれまえん。例えば、ロボット学会であれば、ロボットとは何かに関するある程度共通の合意があるでしょうし、日本物理学会や日本経済学会であれば、物理や経済とは何か関する一般的な理解があり、その思想や方法論に違いはあれど、自分たちが研究している対象がいったい何なのかについては明確な場合はほとんどでしょう。しかし、人工知能学会は違います。研究対象である人工知能とは何かについてついてすら、一度議論を始めると大論争になってしまう、そんな研究領域なのです。
引用元：「人工知能とは」 人工知能学会監修 近代科学社出版 はじめに-の項より
「人工知能とは何か」という問いに答えるためには、まず「知能とは何か」を定義しなければならないという意見が多く見られます。
引用元：「人工知能とは」 人工知能学会監修 近代科学社出版 xi項より
この冒頭部分で言及しているように「知能というものはいったい何なのか」という大命題にはいまだ誰もきちんとした答えを出せていない。これが如何ともし難い壁になっている。
端的に言えば、人工知能がぼくら人間のレベルに追いつけるかということは、つまり人が人を作り出せるのかとほぼ同義だということ。こう言えばその難しさが分かってもらえるのではないだろうか。
「知能」というものはそれくらいぼくら人間のコアになっているものだ。広義的には知能というのは自分の頭の中そっくりそのまま全てを指し、ぼくらは自分の思考こそが自分、つまりぼくらの脳みそ≒ぼくら自身という図式すら成り立つような感じすら持っている。
「いや知能っていうのはその中のこうこうこう言う部分のことで……」という感じで範囲を狭めることはできるが、それはつまり人間をそのままは作れそうにないから2本足歩行ができる者を人間ということしてしまおうという話である。単純に基準を下げてしまおうという話である。電卓を知能と呼ぼうという話である。
だからそれはあまり意味が無い。と個人的には思う。
半ばぼくら人間そのものを作ろうという試みになるからこそ、必然的に最初に紹介したような多分野の知見が必要になってきてしまう。壮大で困難な道だ。
ただそこまで絶望的というわけではないらしい。哲学的な問題はさておき、工学的な見方からは今後20年～30年程度で人間と同じレベルの人工知能が誕生するのではという見方が強い。硬派な本書でも(正確には本書に登場する硬派な研究者の方々も)その見方におおかた同意している。
脳そのものを(生理学的に)コピーしちゃえばいんじゃね？脳の動きを100％真似れば、人工知能作れんじゃね？的な全脳エミュレーション一派や知能とは何か心とは何かということを突き詰めて知能の本質に迫り、それが分かった後に作ろうとする一派、既にある人工知能のようにそのシステムのロジカルな能力を伸ばしていった先に人と同じレベルに達する派など様々あるが、どれも一定の成果をあげており、(主観的な感情はともかくとして客観的な観察結果としては)人間の行動や認識をすでにある程度操作できることができているのが「もうちょいで……」という自信になっているのだと思う。
これらは全て相互補完的になっているので、互いの分野で得た知見を交換し活かし合うことができるのもポイントだ。(悲しいことに現状は従来の学問同様タコツボ化してしまっているようだが)
そして人レベルの人工知能の誕生とほぼ同時にそれを超えるスーパー人工知能も誕生するのはまず間違いない。マレーシャナハンの言葉を借りれば、生産されるものが生産を行う知性そのものであれば、知性は自らの改善にとりかかれるからだ。
ちなみに本書内では13名の先生方が「知能とは何か？」「人工知能とは何か？」について答えを出そうとしているので代表的なものを参考までに載せておく。
松原仁先生：未知の状況に対して(死なない程度に)適切に対応する能力
松尾豊先生：相手に勝ち、生き残る能力(外界の予測能力を上げるためにある)
西田豊明先生：問題をうまく解く能力、あるいは、そのような能力を身につける学習能力
山川宏先生：(広義)構造を存続させるために負エントロピーを獲得するサイクル (狭義)直接観測できない未来の状態、隠されている状態、知識を組み合わせないと到達できない状態や結論を推定する仕組み
武田英明先生：生物としての知能と社会的な営みに必要な知能
ちなみに個人的にはどれもあまりしっくりきていない。まだアリストテレスやカントの方が的を得ているように思う。特に山川宏先生のなんかはそんな言葉使わなくても「自己を保つために秩序立たせるサイクル」でいいんじゃないかとか思ってしまう……単にぼくが未熟なだけという可能性ももちろん捨てきれないが
個人的には西田豊明先生の章の説明が一番分かりやすかった。たぶん多くの読者にとってもそうだと思う。あまり難しい表現や一般的に知られていない単語が使われていないからだ。他の先生方が何を言っているか分かんなかったらとりあえず西田先生の章を先に見るといいかもしれない。
倫理、価値観の設定について
今後どうなるかは分からないが、個人的には「倫理」と「価値観」の設定というのも大きな問題になりそうだと思う。
いずれも論理的帰結では決まらない。ぼくらが”勝手に”決めていることだ。
だがこの2つが実社会を構成する大きな要素である以上、人工知能にも設定する必要があるだろう。
倫理コード、価値観コードを設定するということは倫理を、価値観を定義するということだ。
今まであやふやだったことをきちんと明文化する必要に迫られている。でなければ人工知能にはたぶんそれを教えることができない。(明文化しなくても教え込む方法はあるが、ぼくらはそれを嫌うだろう。機械には曖昧であってほしくない人が大半だろうから)
フレーム問題について
本書中でもフレーム問題に触れているが、これに関しては将棋ソフトやねうら王製作者の磯崎元洋さんの書いたブログ記事が非常に分かりやすいので、参考として載せておく。
参考リンクフレーム問題はコンピュータ将棋では解決できているんですか？
ES(エキスパートシステム)、単純な条件設定の限界
知識には、暗黙的で主観的な知識も多く含まれており、KBの開発維持コストはかなり大きいことが明らかになってきたために、ESは衰退していきました。人の持つ知識は、幅広く、奥深いものです。知識のある断片をとらえたif-thenルールだけで動作するESは、さまざまな場面で対応できない脆弱なシステムであり、状況変化に弱いという批判が出たこともありました。
（中略）
if-thenルールは、知識のある断面をとらえたものであり、多くの常識や事例知識などがその背後にあり、有機的に関わっています。
引用元：「人工知能とは」 人工知能学会監修 近代科学社出版 205,206pより
ここらへんは単純な条件、動作設定の限界がよく分かる。
スーパー知能と技術的特異点(シンギュラリティ)について
ここも西田さんの主張が興味深い。そしてこの本で登場する研究者のなかでは唯一簡単な言葉を使ってくれるのでこの記事でも紹介しやすい
技術的特異点が迫ってきていると主張する論者の中には、スーパー知能が人類を滅ぼそうとしたらそれを食い止められるかといった問題提起をする人がいますが、私は技術的特異点のもたらす本質的問題はもう少し別のところにあると思いっています。我々が最初に目撃するであろう技術的特異点は、スーパー人工知能が人をさげすむとか、憎むとか、滅ぼそうとするのではなく、人間が描いた理想郷の中に人間が住む(ないしは住まわされる)という形で訪れるのでないかと思っています。
-どうしてそうなるのですか？
スーパー知能の進歩の過程を創造してみてください。はじめのうちは、スーパー知能は人間からいろいろなことを教えてもらって、人間のためのサービスを提供する、人間のしもべとして位置づけられます。スーパー知能が教えられたことを集積し、一般化していくと、少しずつ人間の知力を凌駕するようになっていき、ついには、あらゆる面で人間を超え、その後は、人間との差を急速に広げていく、というのが技術的特異点のシナリオです。技術的特異点の前後で、スーパー知能は人間が世界を滅ぼしかねない危険な存在だと気づくかもしれません。
-それではスーパー知能は人間を滅ぼしてしまうことになりませんか？
いいえ。現在の人類が、多様な種の生命が自由に――ただし一定の秩序の下で――行動することを保障することが地球の繁栄に不可欠なものであると考えるのと同様に、スーパー知能も、人類を含む多様な知的生命体が自由に――ただし一定の秩序の下で――知を探求することを知の発展に不可欠ものと考えるでしょう。スーパー知能は人間は、人間が世界や自分を破滅させないよう目を光らせるものの、人間を敵対視することもなければ、自由を奪うこともないでしょう。そして、人間が法律を順守し、互いを尊重しつつ、健康に生きていくよう仕向けるでしょう。
-そうであれば、人間の側にとってもそう悪い話ではないのでは？
(中略)
そうした理想郷が人類が自ら選択して自律的に決定した結果であればいいかもしれませんが、強制されたり気づかないままそうなってしまい、人間が自ら作り出した理性で隅々まで縛られて生きることを強いられて、もう引き返せなくなってしまった、ということになれば、ヒューマニティーはひどく損なわれたことになります。
(中略)
日常生活においても保険の掛け金のコントロールにより、生活習慣病などのリスクを最小限にするように運動をし、食生活をし、健全な毎日を送る以外の選択肢がなくなります。公共の場所では、他者に危害を加えるどころか、ハラスメントとなる行為をするだけでも記録に残るようにもなるでしょう。アウトローがいなくなるのはいいのですが、我々の自立性は必要限度をはるかに超えて一挙手一投足まで制約されたものになってしまうかもしれません。
-(中略)私たち自身が作り出した理想がスーパー知能となって、私たちの行動の隅々まで監視するようになるということですか？
そのとおりです。
(中略)
しかも、「理想」といっても、純粋な思弁上の産物であり、実際の経験を経ずに思い描いただけの不完全なものであるかもしれません。
引用元：「人工知能とは」 人工知能学会監修 近代科学社出版 30,31,32pより
少々飛躍もあるが、けっこう起こり得そうなシナリオだと思う。
ここらへんの問題は人工知能をテーマにした最近の映画を見るとまたイメージしやすくなるかもしれない。
本書でたびたび薦められている「エクスマキナ
ぼくも先日観て記事を書いた。
自由意志はあるのか？
人に自由意志はあるのでしょうか？
運転中に人が飛び出してきた。ブレーキを踏み、車を止めた。このとき、人は「人が出てきたのでブレーキを踏んだ」と言いますが、実際は、人が飛び出してきて危ないと意識したときには、すでにブレーキを踏んでいるのです。つまり危ないと意識するより前に脳はブレーキうを踏むという司令を出しているのです。それにもかかわらず、我々の脳は、この時間順序を逆転させ、危ないと認識したのでブレーキを踏んだと錯覚させているのです。このときの意識は顕在意識であり、顕在意識は氷山の一角と考えられており、この下の膨大かつざまざまな潜在意識が並列に機能しています。ブレーキを動作させたのは潜在意識なのです。とすれば、人の顕在意識レベルにおいての自由意志はありませんが、潜在意識のレベルであれば自由意志はあるということになります。
引用元：「人工知能とは」 人工知能学会監修 近代科学社出版 233pより
物事を決定づけたのは潜在意識で、なんの決定もできないただのモニターの役割になっているのが顕在意識という話。
一方、顕在意識においての自由意志はないとされますが、ある行動を開始し、それを遅れて顕在意識として認識できてから、その行動を停止したり修正することは可能という意見もあります。ただし、これは脳の機能的な面からの見方です。人という単位で見れば、脳としては顕在意識はモニターのようなものですが、そうであっても、「自由意志で行動している」と錯覚する仕組みが進化により獲得されたものである以上、自由意志はあるという回答が自然でしょう。
引用元：「人工知能とは」 人工知能学会監修 近代科学社出版 233,234pより
個人的にはこの2つの栗原さんの説明が一番分かりやすい……というか的を得ている気がした。最後の一文だけは飛躍があるとは思うけど。
「まぁこういう見方をすればあるって言える……よね？」という淡い感じだ。個人的にはすごく大事なところだと思っているのだが、悲しいかな旗色は悪い。
スーパー知能の危険性
人工知能や認知科学はこのような、「心」の働きを解明しようとしているわけです。両者の違いは、人工知能が「作る」ことに重点を置くのに対し、認知科学は「知る」ことに重点を置いていることでしょうか。（中略）
説明原理とは、ある現象がなぜ起こるのか？どういう仕組みになっているのか？という疑問に答えてくれるものです。科学は（したがって、ある意味で認知科学も部分的には）この良いお手本です。ニュートンの万有引力の法則を例に考えてみましょう。この法則を用いて惑星の軌道やロケットの弾道などを計算し予測することができます。しかし、この法則を用いても引力を生み出すことはできません。動作原理とはそのような引力を生み出すことのできる仕組み（まだない）のことで、これは工学に属するわけです。もちろん、両者の境界は厳密ではありません。引力にしても、重い物体を持ってくれば生み出せるという程度なら科学で分かります。
引用元：「人工知能とは」 人工知能学会監修 近代科学社出版 4,5pより
この話はもともと危険性をうんぬんする話ではなく説明原理と動作原理、認知科学と工学の違いを教えてくれる非常に分かりやすい説明なのだが、個人的には人工知能で危惧される問題はここにあるのではないかと感じた。
重力とは違い、生み出すのが知能そのものなので生み出してからではそれをうまく検証することができないかもしれない。作った瞬間、検証する間もなく自分たちの手からすり抜け、逆に自分たちを手中に納めるかもしれないという不安が残るからだ。そこが普通の工学とは決定的に違うように思う。
そういったことから個人的に人工知能のセーフティーネットの有効性はだいぶ懐疑的だったが、以下の文とかを読んでからはけっこう肯定派になった。
人間のよる制御が不可能になるようなインテリジェンスがスーパーインテリジェンスなのだから、スーパーインテリジェンスの制御を考えるというのは自己矛盾であるという考え方もあるでしょう。それに対して筆者が考えるのは、スーパーインテリジェンスも人間が作り出すものである以上、あらかじめ制御可能とするための仕組みをできるだけたくさん作り込んでおくことが研究者の責任であるということです。
どんな制御可能なように作っておいても、全体が非線形の複雑系なので予期せぬ現象が出現するということはあるでしょう。そうではあっても、問題が起きたときに対処しやすいように作っておくか、対処しやすさを考えずに作っておくかでは、大きく違うはずです。我々は技術者ですらから、そのことをよく知っています。
引用元：「人工知能とは」 人工知能学会監修 近代科学社出版 108,109pより
どうなるかは断定できないが、やっておいた方がいいのは確かだと感じた。人間がパンドラの箱を開けなかったことはこれまで一度もないのでシンギュラリティは避けられないとは思うが、可能な限り開けた後に希望が残るような準備をするべきか。
以上、例の質問の答えをざっくりと簡単に端的に乱暴にまとめて、私見を適当に加えてみた。
長くなったが、これでも詳細はとても収めきれない。(特に技術的な部分に関しては全く触れなかった)
ここまで閉じずに読んでくださった方のなかにはまだ物足りない方もいるかもしれない。
ただやはりこの記事では(ボリューム的な意味でも著作権的な意味でも)網羅することはできそうにないので、興味がある方は本書をご一読してみることをおすすめする。
今のところ日本国内書籍ではこの本が人工知能が何かをきちんと知るのに最も良い本のはずだ。
