人工知能と心 - 対話空間＿失われた他者を求めて

人工知能の未来

　最近の人工知能の開発は驚異的だ。今年の3月、囲碁でスーパーコンピュータのアルファ碁が世界のトッププロに勝ったというニュースは、囲碁愛好家の私にとって衝撃的であった。10年程前に将棋のプロがコンピュータと対戦して破れたことが話題になったが、囲碁の場合は盤面が広く手数が長いために、コンピュータがプロ棋士と対等に戦えるのは、どんなに早くても10年以上は先になるだろうと考えられていた。毎年コンピュータ同士による囲碁の世界大会があり、それに優勝したコンピュータがプロ棋士と対戦する場合、今でもコンピュータの方が3子か4子先に置いてちょうどいい勝負であり、プロと対等ではとても歯が立たないくらいの棋力である。だから私は、アルファ碁がトッププロを負かしたと新聞で読んだとき、何子のハンディで勝ったのだろうと思ったくらいだ。このニュースはプロを含む囲碁愛好家の中で話題になったばかりでなく、広く一般にも注目された。その後NHKではアルファ碁や人工知能に関する特集番組を二回ほど放映し、新聞等でも人工知能の注目すべき働きが取り上げられたりした。もともと数年前から人工知能の急速な開発が話題になっていたが、このアルファ碁をきっかけにさらに人工知能による車の無人運転、介護ロボット、肺がんなどの画像診断、絵画や作曲、小説を書くなど、今まででは考えられなかった様々な分野に人工知能が利用されることになるだろう。そしてこのような中、以下のような可能性についても言及されるようになった。

「人工知能の開発がさらに進むと、やがて人間と同じような心を持ったロボットができるのではないか。いくらなんでもそこまではありえないと言うかもしれないが、少し前まではコンピュータが将棋や囲碁のプロをこんなに早く負かすことになるとは、誰も思っていなかったはずだ。だから今の技術の進歩から考えると、人工知能を内蔵する心を持ったロボットが作られるのも夢ではないはずだ。しかしそうなると、逆にロボットが人間を追い抜き、人間を支配するようになることもありうるのではないか。」

　以前まで私は、こんなことを考えるのは余程SFにかぶれた一部の人間だけだと思っていた。ところが哲学者や大脳生理学者、人工知能やロボットの開発を専門に研究している研究者の中にも、心を持ったロボットがやがて作られるということを本気で信じている人たちがいることを知った。いや最近では、本気で信じている人の方が多くなっているのではないか。私はコンピュータについては理論的にも技術的にも全くの門外漢だ。そのためこうした問題を取り上げるのは少々気が引けるが、こうした言説がまかり通る現状を見るにつけ、どうしても黙っていられなくなり、このブログで今思っていることを述べたくなった。

　SFの小説や漫画、映画やテレビドラマなどでタイムとラベルとかタイムスリップをテーマにした作品が時々取り上げられることがある。自分が突然過去にタイムスリップするというファンタジーを想像するのは、わくわくするぐらい楽しいことだ。しかし本当にそんなことが起こるとは誰も考えていないだろう。自分が過去の世界へ行くというのは、いくら技術が進歩しても、理論的にありえないことだと思っている人がほとんどだと思う。私は人工知能を内蔵したロボットが心を持つということは、これと同じくらいありえないことだと思っている。そこでまず、「心を持ったロボット」という場合の「心」とは何か、ということを考えてみたい。

心とは何か

　ここで私が「心を持ったロボット」と言っていて「意識を持ったロボット」と表現していないのは、意識は心と言う言葉以上にその意味が曖昧で、人によって捉え方に違いがあると思うからだ。「意識とは何か」と考え、説明するだけで一冊の哲学書になると思う。サルトルは大著『存在と無』の中で、意識を対自存在として規定し、「意識とはそれがあるところのものであらず、あらぬところのものである」と述べ、即自存在と比較しながらこのことを数百ページに渡って説明している。意識はそれぐらい難しくて明確に定義しにくい言葉だと思う。

　尤も心という言葉も曖昧ではっきりしないところがある。一例を挙げよう。石黒浩氏というロボット研究を専攻している大阪大学の教授が、『生きるってなんやろか？』という本の中で哲学者の鷲田清一氏と対談している。その対談の中で石黒氏の発言の一部をここで引用したい。

…僕は、ロボットにも「心」を持たせることができると信じてるんですね。逆に言うと、なんで人間が「心」を持っていると言い切れるのか。それはどうやって確かめられるのか。僕にはとても不思議でならない。

　仮に肉体が絶対的なものではないとすると、人間を人間たらしめるものは、やっぱり心だろうと思うわけですが、それさえも作り出せるかもしれないと僕は感じてるんです。これまでの開発からわかったのは、ロボットは豊かな表情、人間らしい死でもって人間よりも人間らしくなれる可能性があるということでした。

たとえば、文楽で要所要所を動かすだけで人形の喜・怒・哀・楽の心の動きが表現でき、観客はその人形の心に感情移入して鑑賞することができるだろう。このような文脈で心というものをとらえるのであれば、ロボットにも心を持たせることは十分にできるであろう。上記の石黒氏の発言もこうした文脈で考えるべきだと思う。しかしこうした心的なものも含めて心と呼ぶのであれば、花や月など森羅万象にも心が宿っていると言えるだろう。このように言うと「いや、心というものは実在せずはっきりしないものなので、人間が心を持っているとも言い切れないだろう。だから逆にロボットにも心があると信じても差し支えないはずだ。」と言われそうに思う。実際、哲学者の河野哲也氏は『心はからだの外にある』という本を書いている。心を広くそのようにとらえるのも面白いと思う。しかしこうした心的なものをも広く心とみなしてしまうと、心というものの概念があまりにも曖昧になり広がりすぎるのではないか。少なくとも「ロボットは心を持つか」という問題を考える場合は、心の意味をもっと限定して用いたほうがよいと思う。

　上述したように心という言葉も、その用い方によってその意味が曖昧になるが、しかし日常の会話で使われる場合は、常識的な共通理解がある程度得られているように思う。そこで私は心を常識的心理学的な意味で定義し、「知・情・意」の三つの働きを行っているものと考えたい。「知・情・意」のうち「情」は感情を指し、「意」は意志とか欲求、欲望などを指している。また「知」は知覚や感覚、さらには知性による認識や判断、記憶なども含んだ広い領域を指すものとする。人間の脳の働きをモデルにした人工知能によって実現しようとしているのは、上記の心の「知」の部分の働きだと言ってよいだろう。実際、この分野での人工知能の開発は、人間の脳の働きを超えていくところがあるだろう。アルファ碁はプロ棋士を超えつつあり、人工知能による肺がんなどの画像診断は、ベテランの名医よりも正確に行えるようになっていくと思う。しかし人工知能のこうした優れた働きは、心の働きの「知」の一側面でしかない。心とは「知・情・意」の働きの統合された全体である。したがってどれだけ優れた人工知能を内蔵するロボットができたとしても、そのロボットが心を持つということにはならない。また感情について言えば、表情やしぐさによって喜怒哀楽の感情を表現できるようなロボットを作ることはある程度可能だと思う。しかしそれはあくまで、人間の表情やしぐさを真似たものでしかない。喜怒哀楽以外にも様々な感情があるが、それらの感情は生きているから生じるのであり、生きているというプロセスと密接に関連して発生するのである。例えば恐怖は生きている個体に危険が差し迫っているときに発生する感情であり、同時に逃走や闘争といった行動へと駆り立てる生理的変化を伴っている。生きてもいないロボットが恐怖の表情やしぐさを表現したとして何の意味があるだろう。感情とは少し違うが、痛みについても同様のことが言える。痛みとは身体のどこかが傷ついているサインであり、生存に必要なサインだと言える。幼児が「痛い、痛い」と泣いて訴えてくれるから親はその幼児の身体を守ることができるのだ。ところが生きてもいないロボットが、痛みの表情やしぐさを表現したとして、何になるのだろう。もっとも「人間そっくりのロボットコンクール」でもあれば、そこでは意味があるかもしれないが。

　「知・情・意」のうちの意の働き、すなわち種々の生理的・心理的欲求、あるいは様々な欲望といったものをロボットに持たせることができるだろうか。「ロボットは心を持つことができるのか」という問題を考えている研究者や科学者や哲学者が、こうしたことを話題にしているのを私はあまり聞いたことがない。このような側面を最初から無視して、「知・情・意」の知ばかりを主題にして議論しているような気がする。しかしこの意の働きこそ心にとって大切な働きなのではないか。ここでは詳しく論じないが、行動の動機を引き起こす力も意の働きにあると思う。特に人間が何を欲望するかというのは、時代や国の違いによって様々に異なり、文化の変遷と共に欲望の対象も様々に変化するだろう。人工知能に予め、このような状況ではこんな欲望が生じると入力しておいてもすぐに役に立たなくなるだろう。「人工知能の開発が進めば心を持ったロボットを作ることができる」と信じている研究者や科学者や哲学者に最も欠けているのは、「脳の働きばかりに注目して、人間が生きて生活しているということ―希望したり、失望したり、様々なものを求めたり、逆に避けたりしながら生活していることを見ていないこと」だと思う。

個体維持と種族維持

　私は大阪市立大学の理学部の生物学科を卒業した。4回生の時、生物学科の動物社会学を専攻した。この研究室は当時、通称「サル研」と呼ばれ、その数年前まで今西錦司を筆頭に梅棹忠夫や河合雅雄などニホンザルの研究グループが活躍していたところだ。戦後京都の嵐山のニホンザルを餌付けして個体識別をし、ニホンザルの社会構造を研究して動物社会学を立ち上げ、世界的に注目を浴びたのもこの研究グループであった。私がその研究室に入って先生方から「生物、特に動物を観察する時、個体維持と種族維持という視点から見ていくことが大切だ」と言われたことは今も印象に残っている。個体維持・種族維持という概念は、生態学の分野や生命の問題を考えるときには欠かせないと思う。個体維持とは自分の生命を守るための働きであり、食物やねぐらの確保、危険や敵から身を守ることなどを指す。種族維持とは、例えば人間であればヒトという種が絶えないように代々子孫を残していく働きであり、生殖や子育てなどがこれに当たる。したがって個体維持・種族維持という視点から動物を観察するとは、「その動物はどんなところをねぐらにしてどのようにして食物を確保するのか。敵からはどのようにして身を守るのか。雌雄はどのようにして出会い生殖行為を行い、子供をどのようにして育てるのか。雄は子育てにどのように協力するのか。また個体維持や種族維持の働きを遂行していくために同じ種がどのような集団を作り、どのような役割を持ち、どのように協力していくのか」といった視点で見ていくことである。だから動物園の動物をいくら調べても個体維持や種族維持のしくみは分からない。なぜならどれも人間によってコントロールされているのだから。牛や豚など家畜化された動物の場合も同様である。個体維持と種族維持の働きが備わっていることが生物が生物であるための最低限の条件である。限りなく無生物に近いヴィールスが生物であるのも、この二つのしくみが備わっているからである。また種が絶滅するのは、個体維持や種族維持の働きが何らかの理由で衰退するからである。

　ところで、生物の身体を構成する各器官は、個体維持・種族維持という働きを遂行するために長い時間をかけて進化していったものだと言えよう。人間の脳についても同様である。大脳といえども個体維持・種族維持のために発達した器官なのだ。心を考える時、多くの者は大脳の働きばかりに注目しがちであるが、こうした背景を無視して大脳の働きだけを切り取って考えても心の働きは決して見えてこないと思う。このことについてさらに具体的に述べることにしよう。

人工知能は道具でしかない

　人工知能を内蔵したロボットは生物ではない。したがって当然ながら個体維持や種族維持の必要は全くない。その点ではロボットやコンピュータはアメーバにも追いつけない。ところが人工知能の研究者は人間の脳の働きを細かく研究し、人工知能にそれを応用して開発を進めていけば、人間の脳の働きに匹敵するような人工知能を作り出すことも可能であり、そうなれば人間と同じような心を持つようになることもあるのではないかと考える。まるで脳が全てのような考え方である。しかし身体を持った人間がこの世界と関わりながら個体維持と種族維持を行うために脳は働くのである。日々色々な人やものと関わりながら生活していくために脳は働くのである。そして心はこうした生活の中に現れてくるのだ。脳の様々な働きを物理・化学的に研究することは意義のあることだろう。しかしこうした生活を無視して脳だけを切り取り、その働きを人工知能に応用しても人間と同じような心はできるはずがない。切り取った抽象的な脳の働きと、論理や思考実験だけをもとにして心の働きを考えようとする科学者や哲学者の言説に私はもううんざりしている。彼らはちょうど動物園の動物や標本の中の昆虫を研究してその動物のことが分かった気になっている人と同じだと思う。もう一度先に引用した鷲田清一氏との対談での石黒氏の発言の一部を引用する。

　僕は今、言語でのやり取りができないとき、人は身振りや視線、表情でお互いをどう理解しあうのかという社会関係をシミュレーションできるロボットを作っていて、これは僕にとって、非常に大事な研究項目になってますね。

　こうした人間の関係性をきちんとモデル化できれば、仲間意識を持つロボットも作れることになるからです。さらに社会性を持つことに人間らしさがあるとすれば、ロボットだって人間の社会の輪の中、つまり人間の社会関係の中に入っていくことができるようになって、それによりロボットも人間になれる可能性が出てくると思ってるんです。

　人間のようなロボットを作ってみたいという石黒氏のロマンは分かる。また人間のようなロボットを作ることで、改めて人間とは何かを考えてみたいというのも分かる。人形を製作する職人は、人々を魅了するようなものを作りたいと思っていることだろう。それと同じように色々な人が関わってみたくなるようなロボットを作ってみたいのであろう。しかしここに述べている「仲間意識を持つロボットも作れることになる…。ロボットだって人間の社会の輪の中つまり、人間の社会関係の中に入っていくことができるようになって、それによりロボットも人間になれる可能性が出てくると思ってるんです。」というのはいくらなんでも言い過ぎだ。仮に言語のやり取りのできるロボットを作っても、人間の社会関係の中に入っていくことはできないと思う。

　人間には衣・食・住の基本的欲求があり、飲食して排泄し、寒さから身を守り、夜は眠るといった欲求は最も基本的なものであり、そうした欲求を満たすために（これらの欲求は全て先述した個体維持の一種）、人間同士が協力し合いながら共同で生活している。例えば震災にあって仮設住宅で生活している人々は、まずはこうした欲求を満たすことに必死の思いであろう。また震災にあった人々は特に死の不安や恐怖に怯え続けている人も多いと思う。しかしロボットの場合、どれだけ人間そっくりに作られて人間的なコミュニケーションができたとしても、何一つこうした欲求を満たす必要がない。人間と同じロボットであるために、食べるふりをして、トイレに行くふりをして、眠るふりをして、死の危険に怯えるふりをするとでもいうのだろうか。当然のことではあるが、ロボットであれば実際に食べ物を食べることはできないし、トイレで排泄することもできないし、死ぬこともできない。お互いが同じ生活欲求を持ち、それを認め合うことを前提にして共同体が作られるのではないか。ここに述べたことは私にとってはあまりにも当然のことでしかない。しかし石黒氏をはじめ人工知能を開発している研究者やこうした問題を考えている哲学者には、このことが分かっているのだろうか。

　高度な人工知能を内蔵したロボットであっても、それはあくまでハイデガーの言う道具的存在者であって、現存在にはなれない。このことは技術的な問題というよりも理論的な問題なのだ。道具は人間が利用するものであって、どれだけ高度な人工知能であっても人間が利用する道具でしかない。しかし人間は高度な道具を開発しながら、逆に人間が道具に使われるようになっていく。人間が機械の普及によって機械化され、その歯車の中に組み込まれていくところは、チャップリンの『モダン・タイムス』の中で巧みに表現されている。最近ではパソコンが普及して会社や学校の中で仕事に利用されている。パソコンのような便利な道具が普及されたら事務的な仕事が楽になるはずなのに、かえって仕事の量が増えてまるで各個人がパソコンに使われているような状況になっているように思う。道具の普及により人間が道具連関の中に組み込まれ、道具的な存在者のようになっていく。

　人工知能は人間の脳の働きをモデルにしてその開発が進められてきた。しかし逆に、人間の脳の働きを人工知能の働きとして理解しようとする面が生じてきているのではないか。つまり人間の思考や行動を人工知能的にとらえようとする。その結果、人工知能を開発している研究者や哲学者は、人間が世界と関わりながら生活しているその現場を見ないで、人工知能と同じように人間を脳の働きという面だけで考えてしまうことになるのではないか。そして人間を人工知能化してとらえると同時に、人工知能を人間化してとらえる結果「人工知能も人間と同じように心を持つようになる」と考えてしまうのだと思う。

　「人工知能はヒトラーの行動を肯定的に評価した。将来人工知能が発達してヒトラーのように人間をコントロールする危険性もあるのではないか。」こんな馬鹿げたことを本気で心配しているのか。もっとも「人工知能を内蔵したロボットがある特定の人物を暗殺する」とか「人工知能が操縦する飛行機が、核兵器を積んでどこかの国に行きそれを落とす」といったことなら十分可能だと思う。もう既に軍事兵器として極秘で研究・開発されているかもしれない。しかしそれは人工知能が自分でするのではない。人工知能を開発している人間のしていることなのだ。そうした人間のあり方こそ、今後考えるべき深刻な問題だと思う。人工知能の研究者や哲学者は、人工知能に関して能天気な心配をしないで、こうした問題こそ真剣に心配すべきだと思う。

＜筆者　史章＞