マレー・シャナハン「シンギュラリティ」の書評
マレー・シャナハン(Murray Shanahan)の「シンギュラリティ―人工知能から超知能へ(The Technological Singularity)」。
人工知能の(ある程度信頼性の高い)最先端の情報や考えを知りたくて購入した。
で、さきほど読み終わったので書評というか読んだ感想を。
概要
簡単にまとめてしまえば、この本に書かれている内容は以下の3つに分けられる。
1.(2015年時点の)人工知能関連の最先端技術の現状とその可能性
2.人間と同じもしくはそれを超える知的レベルの人工知能は誕生させることができるのか
3.人間レベルもしくはそれを超える知的レベルの人工知能が誕生したときに社会、世界、宇宙はどう変わっていくのか
感想、書評
書評でこんなことを最初に言うのはどうかと思ったが、まずこの本の「ダメ」な点を列挙していきたいと思う。
読みにくい。恐ろしく読みにくい。
話の順序が良くない
「知能とはそもそもどういったものなのか」という大前提の話、大枠の話を脇に置いたまま技術的な話が展開されていく。なので序盤から中盤の間「こうすれば知能はコピーできる」「知能がコピーされるとこうなる」「知能はこうやれば作れる」的な話が展開される度に「いやそもそも知能の正体について触れないでその話できないでしょ。なんでこの大事な問題に触れないんだ……」という絶えず疑問が浮かんできて、読んでてけっこうストレス。(終盤になってようやく触れられるのだがそれもちょっとだけで、明言はしていない)
言葉が分かりにくい
言葉そのものがだいぶ分かりにくい。原文を翻訳サイトにかけて直訳したのではと疑ってしまうくらい分かりにくい。
誤植すら見受けられる。(例.p201の「もし、意識があリ、したがって権利と責任を」等)
翻訳が2人(ヨーズン・チェン、パトリック・チェン)に監訳が1人(ドミニク・チェン)いるのに、これはないだろうと思った。翻訳者3人が人工知能や機械学習についての専門家ではないとのことだったし、日本人ではないので少し不自然な日本語になってしまうのは10000000000歩ゆずって良いとしても、1回でもちゃんと読めば見逃すはずのないレベルの誤植があるのはどうかと思う。※ぼくが読んだのは初版なので、重版出来の際には修正されるかもしれない。
説明の仕方が良くない
まえがきで筆者自身が断ってはいる。重要な問題に少しずつしか触れないし細かい部分はスキップする、と。
だが本筋ではない部分の説明がいちいち大げさで助長的にする必要はないと思う。肝心のコア部分の内容は薄いのに、他の部分をレトリック(文章の表現技法)的に間延びさせてそれっぽく見せている。事実に基づいた記述も詩的表現も全部悪い意味で中途半端な印象。ぼくが言える立場ではないが詩的表現は正直言ってあまり上手くない
論理の飛躍も多い。
序章で断ってはいるものの、それにしても曖昧な仮定が多すぎる。「だろう」「らしい」「はずだ」「おそらく」という言葉がここまで堂々と繰り返えされているテクノロジー関連諸説にはお目にかかったことはない。それなのに根拠が薄い(or明示されていない)変なところで強く断言したりするからよけいに混乱する。
数行読む度に根拠がほぼない仮定が新たに追加されていく。仮定の仮定、仮定の仮定の仮定の仮定、という感じで話が進行。いろんな主張をするのだが、その根拠(Reason Why)があまり語られない。風呂敷を広げるだけ広げて、閉じずに別の風呂敷を広げて閉じずにまた別の風呂敷広げて……を繰り返しているような感じだ。
(まえがきにあるように)筆者は人工知能の可能性を示すためだったり、議論の種としてあえてこういった書き方になっているのだろうが、ここまで散らかっていては読者にはその話がどこまで信頼性があってどこがそうでないのかがもはや判別できない。
「こういうこともあるよね。いや知らんけど」という論調がひたすら繰り返される感じだ。なので矛盾もよく見受けられる。前章で人間レベルのAIには報酬関数などを再現する必要があると言っておきながら、動作時間の最大化の話になると報酬関数は調整できるので問題ないと言ったりするところとか。
こんな感じでとりあえず読みにくい。
読者のためになりにくい
これまでぼくが愚痴ってきたような言及してきたような理由で厳密性やまとまりを欠いてしまっているというのもそうだが、本の内容そのものが(一般的に)あまり読者のためにならなそうだというのが大きい。
端的に言ってしまえば、この本を読んでて新しい発見が見つかりにくい。
既存の研究成果、哲学書や専門的な論文等多くの書物から非常に広範囲な知見をついばむように援用してはいるが、それを発展させているものがほぼゼロなのだ。
既にその知識がある人にとっては「うんそうだね」の一言で終わってしまうし、逆に知識がない人にとっては説明がなさすぎてなんのことかよく分からない。(原典を読んだほうがマシ)
ニッチな分野での常識だけをさらっと言われても、その分野に精通していない人にとっては意味が分からない。ヒントっぽいものすらないので読み解けもしない。精通している人にとっては当たり前のことだけが言われているので発見がない。(そういう意味では哲学書と対極かもしれない)
これは「本」としては致命的じゃないだろうか。
もちろん人によっては役立つとは思うが、一般的にはそうではないと思う。
本の方向性
そもそも論になるが、この本の方向性が良くないのかもしれない。
あとがきで監訳を行ったドミニク・チェンが言っているようにこの本は「読者に人工知能の将来や可能性についていろーんな視点を与えるための本」として書かれたとのことだ。(マレーシャナハンもまえがきで同じことを分かりにくい表現で言っている)
これが良くなかったんじゃないかな、と個人的には思う。繰り返しになるが人によってはいい本になる可能性はある。ただその可能性がけっこう低めなんじゃないかという話。
余談だが、このドミニク・チェンのあとがきは分かりやすかった。むしろこれを前書きとしてのせるべきだったのかもしれない
人工知能という言葉は二重の問題を投げかけている。知能を人工的に再構築できるのか、という問いと、そもそも知能とは一体何なのか、という問いである。
個人的にはこの監訳者あとがきの一行がこの本のなかで一番情報がつまっていたように思う。
勉強になった点
こんなに酷評したのは初めてだが、当然学びになったこともある。
主に人間と同等レベルの人工知能や人間を超越した知能レベルの人工知能が実現した時にどれだけ危ういのかということと、哲学的(形而上学的)な問題がいかに大きいかということだ。
結局のところこの人工知能の問題は2つに集約される。(さきほどのドミニク・チェンの言葉を参照のこと)
まず一つ目、意識や知能とはどういったものなのか。
これはもうアリストテレスやカントですら骨を折りまくっていた部分なので、ぼくは詳細を語らない語れない。
ざっくりとした進捗だけであれば、人類の碩学たる大天才たちの結論は今のところ一致している。「よく分からない」である。
で、もし仮にその正体が分かったとしたら次の段階だ。
意識や知能はデジタルに分解した際に切り捨てられる部分はないのか。もしあるならその差異は許容できる程度なのか。
この本、シンギュラリティではマレー・シャナハン本人の思想をそのまま語っているところはない。ただ本人がまえがきで
私の個人見解の一部が中立のヴェールを通り越して表れてしまうのは避けられないだろう。
と語っているように、いたるところに筆者の思想は現れている。特にこの哲学的な思想に関しては、中立のヴェールはどこいったのかと言いたくなるほど色濃く表れているように感じる。(その根幹の思想部分について全く語られていないのはだいぶ残念だった。筆者のその部分の考えこそ聞いてみたかったのに)
ただ直接は語られなかったものの、読んでてこの部分の思想をとても強く感じた。
おそらくマレー・シャナハンは少し前からすでに主流になっている「意識や知能はデジタルで完全に再構築できる。もし差異が発生してしまうとしても無視できるレベルだ。」という思想だろう。
ぼくはどちらかというと「意識や知能は(デジタルでは)完全に再現できない。もし再現できたとしてもその差異はとても無視できないレベルだ。」よりの思想だ。
どちらが正しいかは分からない。(現代の専門家の多くは前者の思想なのでぼくのほうが間違っている可能性が高い気はしている)
ちなみに今回のぼくの場合、技術的なところは期待していたほどは学びにつながらなかった。
人間レベルの汎用人工知能を構成する(だろうと思われている)3つの要素、「そのAIの報酬関数は何か？」「そのAIは何をどのように学習するのか？」「そのAIはどのようにして期待報酬を最大化するのか？」も真新しさはない。
研究が遅れていると言われている将棋AI(将棋ソフト)でも枠組みとしては全く同じだ。(報酬関数のことを評価関数と呼んでいるくらいの違いはあるが) やはり大枠では違いがないのかという印象を受けた。Alpha碁の画像評価システムくらいのレベルだと多少違いと言えるが、それも大枠では変わりない。
というかすごく乱暴に言ってしまえば、技術的な問題には注目していない。
聞いたことがないテクノロジーは1つもなかったし(ブレインマッピングやQDCA等の本に書かれているほとんどの技術的な内容は既にあったし)、結局のところ人工知能の問題というのは全てさっきの哲学的な問いにいきつくと思われるからだ。
なにせ取り扱おうとしているのが「意識」、「知能」である。
これまで科学はこういったものを扱ってはこなかった。というより扱えなかった。これらは客観的に観測できない、定量化(数値化)できないからである。どこまでも主観的で概念的である「意識」「知能」を具体的な事物を客観的に捉えようとする科学の枠組みでアプローチしようというのはかなり無理筋ではあると思う。
だがぼくらはその具体的でないものを扱おうとしている。当然これまでのやり方は通用しない。残念ながらこの本でも言及していない。
もちろん実験科学的な力技で脳の全容が解明され、アナログを全てデジタル的に再構築できるテクノロジーが開発される可能性はある。
今不可能ということと将来的にも不可能ということは全くつながらない。むしろ人間はそれを覆し続けてきた歴史がある。
さて、今回のはどちらだろうか。
神よ
変えることのできるものについて、
それを変えるだけの勇気をわれらに与えたまえ。
変えることのできないものについては、
それを受けいれるだけの冷静さを与えたまえ。
そして、
変えることのできるものと、変えることのできないものとを、
識別する知恵を与えたまえ。
ニーバーの祈りより