NHKスペシャル「天使か悪魔か 羽生善治 人工知能を探る」を見て
2018/06/13
これは誇り それとも驕り
これは誓い それとも呪い
これは境目 それとも諦め
これは勇気 それとも放棄
これは悟り それとも終り
昨日NHKで放送された「天使か悪魔か 羽生善治 人工知能を探る」という番組を見たので、ちょっと感想というか所感を。
AlphaGo開発者デミス・ハサビスと羽生との対談
まず少し前に話題になったGoogleの囲碁ソフトAI、AlphaGo(アルファ碁)開発者のデミス・ハサビスさんと羽生さんとの対談があった。
AlphaGoはBonanzaに代表される全幅探索手法(アタリをつけずに片っ端から検討していく方法)ではなく、選択探索(アタリをつけて検討していく方法)を使っているみたいだ。
(余談だけどAlphaGoは1202CPUほど使っている。GPUは176基。単純に数を増やせば能力そのものが比例で伸びるとは言い切れないけど、演算能力は間違いなく比例で伸びる。対局の際にCPU数に制限をかけなかったのは正直どうかと思った。CPUが増えるっていうのは人間で言えば、他の棋士と一緒に検討しながら協力して指せるようなもんだし。まぁ興行だったから関係ないといえば関係ないけど)
とりあえず番組冒頭の「人間も機械も突き詰めれば、物質。機械に心が持てない理由は、ない」っていうナレーション、いろんな有識者のセリフ、そしてデミス・ハサビスさんの「脳の仕組みはひとつの物理的なシステムです。だとすればコンピューターでもまねできるはずです。」っていう言動から
人間の思考は複雑なだけの計算式で、感覚は、感情は、心は論理(ロジック)の一種である
という考えはビシビシ伝わってきた。
全ては論理(ロジック)で分解、構成できる
っていう思想にも言い換えてもOK。アナログは存在しない。第四のパラドックスは愚問。みたいにアリストテレスの「全体は部分の総和以上の何かである」と対峙する考え。
この是非を判断する能力はぼくには到底ないけど、とりあえず彼らはそう思っているようだ。
人工知能の普及
次に医療現場や自動運転や不正監視、生活全般の情報収集と管理、国のあらゆる業務への関与といろんなところで現在広く使われている人工知能を紹介していくシーン。
現在の普及状況を見てると、PSYCHO-PASS
ふたたびAlphaGoとの対局シーンへ
AlphaGo悪手で第4局目敗退のシーン。
印象的なのは第4局終了後に記者が言った
今日の対局は専門家の分析ではアルファ碁の誤動作だったようですね。しかしこれがたとえば医療の現場だったら、こういった誤動作で済むのでしょうか？
という質問だ。(プログラムにエラーが起きたわけではなく指示通りの動作しただけにすぎないので、ここでの誤動作というのは本来の意味での誤動作ではなく、正確には未熟さというべきだろう)
これは的外れかな。
それを言えば人間も”誤動作”する。投与する薬を間違って患者を死亡させてしまうこともあるし、手術で使ったメスをお腹の中に置き忘れてしまったりもする。
何かについて決めるとき一方の良い点や悪い点だけを見て決めるのはナンセンスで、ぼくらは必ず”比較”で考えなければいけない。
人工知能はぼくら人間と比べてどれくらいミスをしないのか、そしてそのミスはぼくら人間と比べてどれくらい致命的なのかを。ヒューマンエラーとマシーンエラーのどっちがマシなのかを。
人工知能の脅威
今のうちに人工知能を管理する方法を考えておくべきです
このオックスフォード大学の教授の主張はちょっと無理筋な感はある。
AIはそのうち自分達人間を超えた存在になるから今のうちに準備して管理できる方法を探しとこうって話なんだけど、はたして自分達を超えるものを管理することなんてそもそもできるんだろうか。
いや部分的に超えるとかだったら、ふつうは大丈夫なんだけどさ。熊とかライオンとかにはぼくら部分的に負けてるわけだし。でも物事の判断っていう一番根本の部分を任せるってなると管理とかは難しいんじゃないかなぁ。構造的に。
でも管理しないっていうのもかなり致命的だし………あれ詰み筋かな。
現在の人工知能の”心”
でました。Pepper君。「心を持っている、感情を生んでいる」的に扱われるけどこれはミスリードでしょう。
人間の感情を数値上で全て分析、再現できてるんだったらその数値を計測、出力するシステムを感情って呼んでいいと思う。
でも現状はそれとはほど遠い。遠すぎる。その画面上に並んでいる数十個のブロックの点滅を感情、心って言ってしまっていいのだろうか。ジャンプして0.5秒くらい宙に浮くことができたからって「空が飛べた。ぼくは鳥だ。」って言うくらい乖離している気がするんだけど。
見て思ったこと
人工知能が人間を超えれるのかって話は前にしてるから今回はとりあえず置いておいて、どっちに転んでも「人類には過ぎた道具である」的な話は今後どんどん増えてくると思う。
最後の羽生さんの
「どうあれ人工知能の進化はもう止まらないでしょう。わたしたちは社会で人工知能をどのように使っていくのか、考えるべき時のように思えます。」
という言葉はまさにそうだなぁと思った。
追伸：
あ、ちなみに冒頭の痛いポエムは気にしないで。思いついたらつぶやかずにはいられなかった。後悔はしてない