人工知能が意識を持つとしたら？

この記事の目的は、このブログ上でなされたuedaさんとkuboさんの議論について、ハイデガー的視点からの総括を試みることです。

私は同じ読書会の一員として、uedaさんとkuboさんの議論の帰結を残念に思います。けれども、二人の議論の過程を尊重し、その結末がものわかれに終わったことについてもひとまずこれを受け入れたいと思います。議論に限らず、人間同士のかかわりが常に好感を持って終わるべきだとは思いません。わけもなく不快な思いをさせるのはおろかなことですが、だからといって他者との不快な関わりから目をそらしてはいけないと思います。少なくとも、そうした関わりを「失敗」として排除するような態度は、哲学的に真摯なものではないように思います。

７月２４日の『存在と時間』読書会は、「共同存在と自己存在としての世界＝内＝存在」（細田貞雄訳ちくま学芸文庫p.250～）を読みました。この章は、今まで用具的存在者の考察から描かれてきた世界＝内＝存在を、他者との共同存在として位置付け直すことが目的です。
道具というのは私たちの身体の一部であるかのように、というよりも、私たちの身体の一部として感覚され使用されるものです。例えば服はそこにあるのがまったく当然で、ほとんど意識されませんし、服がこすれれば何か触ったことがわかります。私たちの身のまわりを取り囲む道具は私たちの身体の一部といえます。私たちが身体の一部だと思っている爪や髪の毛も道具として扱うことがありうることを考えれば、身体の厳密な境目というものはなく、用具的存在者の濃淡が連続的につらなっていると考えられます。これこそが本来的な存在のありかたです。時空間に延長するモノとして物体が存在しているより先に、世界は延長された身体として存在している。これが「世界＝内＝存在」の世界観（冗句かな）です。そして、現存在はこの用具的存在者に囲まれた世界全体を経験している存在です。その現存在が、服とか石ころとか、あるいは髪の毛とか腕とかを存在者として認める。これが心身二元論です。しかし、心身二元論よりも一元的な「世界＝内＝存在」の方が本質的です。およそ、生物はあまねく「世界＝内＝存在」として世界を経験し、その後で感覚器官と言語能力の発達した人間が遅まきに心身二元論的な世界観を構築していく。しかし、「ある」という言葉はそうした心身二元論が成立する以前の、延長された身体に覆い尽くされたありようを指すものです。これが私たちにはあらかじめ分かっている。これが存在了解であり、この存在了解を語ることこそハイデガーの目論見です。

われわれは世界を存在論的に解釈するにあたって、世界の内部にある用具的存在者を経由する道を通った。…現存在は、さしあたってたいていは、自分の世界に気をとられている。こうして現存在はその世界に溶け込んでいる。（ｐ２５０）

さて、こうした「世界＝内＝存在」は独我論的な解釈が可能です。

現存在とはいつでもわたし自身である存在者であり、その存在はいつでも私の存在である。…そのなかには同時に、存在的に受け取れば、いつもある自我がこの存在者なのであって、他の人々ではないという言明が大まかに含まれていると考えられる。（ｐ２５２）

現存在は、したがってこの世界（世界の世界性）は、私が生まれたときに立ち上がり、私が死ぬとともに消えてしまうでしょう。現存在は身体に縛られています。ある生物個体が経験することが世界の全体だとすれば、この世界とは私が経験することのすべて、私に現に現れるもののすべてということになります。とすれば、「現存在は誰か？」という問いへの答えは、「私だ」ということになります。けれどもハイデガーは違う考え方をします。「現存在は誰か？」という答えは、「私だ」ではなく、「我々だ」です。

誰かをたずねる問いに答えを提供することになる現象の方向へ探究を進めていくと、われわれは世界＝内＝存在とともに同根元的に存在するふたつの現存在の構造に達する。共同存在と共同現存在とがそれである。（ｐ２５１）

ここからはハイデガー自身に語ってもらうことにします。

しかしながら、問題の設定に当たって、主題的領域の名称的な与件に手がかりを求めないというのは、あらゆる健全な方法論の規則にもとることではあるまいか。そして、自我の諸余生ほど疑い得ないものが、他にあるであろうか。さらに、この所与性をみれば、自我の根源的析出のためには、そのほかに「与えられている」すべてのものを――存在する「世界」だけでなくほかの多くの「自我」の存在をも――無視すべきであるという指図がそこに含まれているのではあるまいか。（ｐｐ２５３－４）

しかしながら、われわれがこれまでに行ってきた現存在の積極的な解釈から見ても、誰かを尋ねる問いに現象的にゆきとどいた解答を求めるためには、自我の形式的所与性から出発することはできないということが、すでに示されている。世界＝内＝存在の解明が示したように、世界のない単なる主観というようなものは、はじめには「存在」もしないし、また決して与えられてもいないのである。そして同様に、さしあたっては、孤立した自我が他の人々なしに与えられているというようなことも決してないのである。しかしながら、世界＝内＝存在にはいつでもすでに他の人々が居合わせているとしても、そしてこのことが現象的に確認されたとしても、…このように居合わせている共同現存在のありさまを、身近かな日常性において現象的に明らかにし、それを存在論的に適切に解釈することが、課題なのである。（ｐｐ２５５－６）

ここまでは、（自分とは違うにしても）そういう意見の人もいるかな、という具合に理解できる方も多いと思います。しかし、次のようなロジックはかなり論争になるのではないでしょうか。

現存在が「自己を与える」この与え方が、実存論的分析論にとって一つの誘惑であるとしたら、どうなるであろうか。…おそらく現存在はとっさに自分自身に呼びかけるときに、いつも、それは私だと言うであろう。しかも、それがこの存在者ではないときこそ、かえってもっとも声を大にしてそう言うであろう。いつも私のものであるという現存在の構成が、かえって、現存在がさしあたってたいていは自己自身ではないということの根拠になっているとしたら、どういうことになるのであろうか。もしも実存論的分析論が上述のような自我の所与性に手掛かりを求めることが、現存在自身のかまえた罠にかかり、現存在自身の手近な自己解釈の罠にかかるものだとしたら、どうであろうか。（ｐｐ２５４－５）

あるジョークに、独我論者はいったい独我論を誰に聞いてもらうつもりなのか、というのがあります。独我論を敢えて主張しなくてはいけないということは、独我論が正しいんだということを他人に、あるいは自分に、言い聞かせなくてはならないということではないでしょうか。いったい何が、ひとに独我論を語らせるのでしょうか。独我論を語ろうとする（独我論は語るまでもなく自明なもの、とは思えない）構造自体が、独我論が成立しないことを前提としているのではないでしょうか。
もちろんこれに対しては、次のように反論できると思います。独我論の主張が一致するのは当然である、なぜなら独我論は正しいからである。１＋１＝２であることが一致するように、独我論は正しいがゆえに一致する。しかしそれだからといって、自我の所与性が冒されたことにはならない。それは、「１＋１＝２」という計算をしている人が、それをどう理解しているのかはわからないのと同じである。だから、独我論には理解というステップはいらないのである。
これを「現存在自身の手近な自己解釈の罠」（自己欺瞞？）とみるかどうかは難しいかもしれません。しかしハイデガーも、私たちが独我論的な、私の理解する世界（私の用具的存在の世界）が私の限界であるというようなあり方をしていることは認めています。ハイデガーは別の説明を用意しています。

われわれもやはり、この性格づけにおいて、まず「自我」に特別の地位を与えて孤立させ、そしてこのように孤立した主観を出発点として、ほかの人々へ移行する道を求めざるを得なくなっているのではあるまいか。こうした誤解を防ぐためには、ここでどういう意味で「ほかの人々」ということを述べているかに注目する必要がある。…それはむしろ、ひとが大抵は自分と区別しないでいる人々、そのなかに自分も加わっている人々のことである。このように彼らの仲間に加わっているということは、存在論的には、一つの世界の内部でともに客体的に存在するという性格を持つものではない。「ともに」はここでは現存在的なものであり、「もまた」ということは、配視的＝配慮的な世界＝内＝存在としておなじありかたをしていることを指している。（ｐ２６０）

そもそも、私の意識は他者の意識とどこまでも一体のものだというところから始まっている。他人とわたしは違うということは、他人と私とは違った物体だ、というようにして後から理解されたものである。そして、たとえ私の身体とあなたの身体は違うと客観的に分かっていても、意識は同じ世界＝内＝存在のなかでべったりとつながっている。それが「世間」になるのです。他人の意識は、隔絶されているどころか、配慮的＝配視的現存在としてむしろすみずみまで共有されており、ちょっとしただけでは私の意識と区別などできないのです（所有欲・支配欲を考えると分かりやすいように思います。こうした欲求は現存在の共同存在性と密接に結びついているのではないでしょうか。）

現存在の世界は共同世界である。内＝存在は、他の人々との共同存在である。他の人々の内世界的な事態存在は、共同現存在である。
まず存在している自分の主観を、ほかにも出現している多くの主観から区別して、あらかじめ把握するという態度では、ほかの人々とは出会わない。はじめに自己自身へ注目しておいて、それによって区別の反対側を確定するという態度では、他の人々とは出会わない。彼らは、配慮的＝配視的な現存在がそのうちに本質上身を置いている世界の中から出会うのである。（ｐｐ２６０－１）
ほかの人びとのことを意に介さず、彼らがいなくてもいいと思い込み、あるいは逆に、彼らがいないことに耐えている場合にも、この現存在は共同存在の様相で存在しているのである。ほかの人びとのためという実存論的趣旨としての共同存在の中で、ほかの人びとは彼らの現存在において既に開示されている。ほかの人びとが開示されているというありさまは、共同存在性においてあらかじめ構成されているのである。（ｐ２７０）
ところが、現存在はもともと自己について存在了解をそなえていて、それゆえに現存在に関わりあっているのであるから、人びとはこの点を指摘して、上に述べた［現存在が現存在と関わりあう］関係も実は、すでに各自の現存在のとって構成的な存在関係に他ならないと言うのである。そうなると、他の人々に対する存在関係は、各自が自己自身に対している存在を、「もうひとつの他者のなかへ」投入したものにすぎない、ということになる。他人は自己の複製だというわけである。（ｐ２７２）

与えられているものは世界内の現象であり、それは私にのみ現れている以上、どんなに密接にかかわっている他人も私に対して現れているものという限界を突破することはできない。このことを、uedaさんは永井の「内包」という言葉を援用して説明しています。対して、世界は私にのみ現れているのではなく、他者と同時に現れており、他人に意識を認めることが同時に他人の意識の存在になっているというのがkuboさんの立場です。もっと言うなら、他人の意識を認めることが私の意識の存在に、私の意識を認めることが他人の意識の存在になっているということです。
この論争が、今まで参照してきたハイデガーの議論とパラレルになっていることがわかるでしょう。しかし、私がここで課題とするのは、ハイデガーの目から見ればこの対立はどのようなものとして捉えられるのかを考えることです。一見すると、ハイデガーはkuboさんの立場にいると思われるかもしれません。しかし、そう簡単に決着することはできないように思います。
共同存在を受け入れるとしても、「彼らがいなくてもいいと思い込み、あるいは逆に、彼らがいないことに耐えている場合にも、この現存在は共同存在の様相で存在している」ということはどういうことか、現に自己意識が成立することを共同存在からどう説明するのかを問わなければなりません。

さしあたってたいては、待遇は欠如的諸様態――すくなくとも無関心的諸様態の中に身を置いていて、互いに素どおりしあう無関心さの中に生きている…（ｐ２７１）
共同存在は、「感情移入」によってはじめて構成されるのではない。むしろ「感情移入」の方が、共同存在にもとづいて初めて可能なのであり、そしてそれのやむを得ない必要さは、共同存在の欠如的様態が優勢を占めていることによって動機づけられているのである。（ｐ２７３）

現象に名前を付けただけじゃないかというような気もしますが、もうすこし深読みすると、ハイデガーは、「私」が一人一人で孤立しているのではなく、もし孤立するとしたら「私たち」どうしで孤立していると考えているように思います。もし断絶があるとしたら、それは配視的＝配慮的な世界＝内＝存在の外部、つまり、仲間ではない、同類ではない、想像の及ばない、配慮の行き届かない者との間にあるのではないか…。

我々はひともするような享楽や娯楽を求め、ひともするように文学や芸術を読み、鑑賞し、批評し、ひともするように「大衆」から身を引き、ひとが慨嘆するものをやはり慨嘆している。この「ひと」――それは特定の人ではなく、［個人の自己意識の］総計という意味ではないが、みなの人であり、世間である。…だれもが他人であり、だれひとりとして自己自身ではない。日常的現存在であるのは誰なのかという問いに答えるものは世間であり、無人である。しかもそれに、全ての現存在が互いの間でいつも既におのれを引き渡しているのである。（ｐｐ２７７－９）

ハイデガーは確かに、他者との出会いをこの世界が本来的に共同存在であることによって語っていますが、同時に人々の多くが欠如的諸様態にあることを強調してもいるのです。もし世界が本質的に共同存在性を有しており、配慮に溢れており、自己存在の主観から出発するのは不健全な「誤解」に過ぎないとするなら、欠如的諸様態の強固さをどのように説明するのでしょうか。むしろそのなかにおいて、世間に埋もれずに自己を主張する積極的な自己存在があってもいいはずです。

日常的現存在の自己は世間的＝自己であるから、われわれはこれを本来的自己、すなわち自ら選びとられた自己と区別しておく。世間的＝自己としてあるそのつどの現存在は、すでに世間の中に散逸しているから、とりたてて見出されなくてはならない。…現存在が世界を自分の目で発見し洞察したり、また現存在が自己の本来的存在を己自身に開示しようとするときには、このような「世界」の発見と現存在の開示は、現存在が自分を自分自身から閉め切るために用いていたさまざまな遮蔽や不明化の一掃として、さまざまな歪曲の打破という形で行われるのが常である。（ｐｐ２８１－２）

この本来的な自己存在を開示する契機として、他者と自己との隔絶、自己意識だけに固有の生々しさ、「世界の開闢点としての“これ”」を想定してもいいのではないか、私にはそのようにも思われます。まだ未読ですが、自己存在としての世界＝内＝存在に固有の（共同存在性には回収できないはずの）「死」の現象（わたしの死）を語るとき、この点に触れることができればおもしろいと思っています。あるいは、父-の-否Noms-du-Pereすなわち、母子一体の（murataさんの言葉を借りれば）「胎児や新生児のように世界そのものとぴったりくっついてただ現在のみを生きている状態」からの疎隔の経験が、「わたし」の自己意識の起源に関わるというようにも展開できるかもしれません。ただし、こうした見解はuedaさんの主張とはかなり異なることは確認しておきます。
いずれにせよ、私が強調したいことは、世界の共同存在性はまず第一に自己が他人の中に溶解した、他人の評価を気にし、自分を周囲といつも比較せずにはいられないような、世間に埋もれた人間存在として現れるというのがハイデガーの人間観察ではないかというものです。このような見方は、私とあなたが意識を共有しているという前提から出発していますが、必ずしも「インテンショナル」なものではないし、「他者への愛」とでも呼ぶべき湿っぽい人間理解とは対極にあると思います。

最後に人工知能論争のハイデガー的解決を提案して、この記事の結びにかえたいと思います。
私は、「私が「私には意識がある」だとか「私には感情・欲求・欲望・意志などの意識の原動力が確かにある」だとか主張したところで、ロボットがそう主張するのとなにが違うのかを誰かが有意味に理解することは原理的にできない」というuedaさんの主張を認めます。ただし、この主張が妥当するのは、ロボットの知能と人間の知能とが技術的に全く区別がつかないという条件のもとで、です。
この条件の強さについて、私とuedaさんには違いがあります。「意識がある」という言葉が意味を持つためにuedaさんが必要と考えている条件は緩すぎると思われます。uedaさんは次のような例を挙げています。

石黒氏が人間そっくりのロボットを展示したとき、来場客のひとりがロボットに向かってこのように尋ねたそうです。「人間そっくりのロボットというのはどこにあるんでしょうか」と。この瞬間、このロボットは来場客のモニタ上に意識を持っていたと言って差し支えないでしょう。

私は差支えがあると思います。私たちは人工知能以外にも、木々のざわめきに幽霊や物の怪といった意識を読み込んだりしますが、それらは「意識がある」という言葉の適切な使用とは認められないと思います。多くの人びとの検証や、その人が酔いから醒めて冷静になるなどの経過を経れば、そこに「意識がある」と考えたのは適切ではなかったと判断できるからです。そして、来場客のひとりがたまたまロボットをほんものの（意識を持った）人間であると勘違いしたのは、あわててマネキンに話しかけてしまったあわてん坊のエピソードとあまり変わりがないのではないか。なぜなら、社会的にも人工知能の研究者という権威を持っている石黒氏はそれが「人間そっくりのロボット」だと認識しており、そして来場客の言葉よりも石黒氏の言葉の方が優先されるはずだと考えるからです。
しかし、石黒氏も人工知能を開発する過程でもはや何が人工知能かわけがわからなくなって、自分の作ったロボットと一日中議論をしはじめ、それどころかあらゆる研究者が人間の自然知能と人工知能の区別がつかなくなり、人びとが「人工知能」というレッテルをもっぱら自分の気に入らない人間やらロボットやらに使うようになったとき、このときにはわたしも人工知能は意識を持つ、と断言するにやぶさかではありません。こうした状況も、実験室のアミノ酸のスープから知的生命体が進化するよりは可能性がありそうな出来事である気がします。
さて、uedaさんはコメントの実質的な結論部分でこのように述べていました。

我々が日常生活において「人間は意識を持つ」というふうに「意識」という言葉を使用すれば、人間は意識を持ちます。…「意識」という言葉の使用は、様々な「意識を持っているっぽいもの」が出てくるたび、できるだけ高精度で意識の有無を区別する方向に変化していきます。ですが、どれだけ高精度でも、そもそも意識の有無の明確な客観的定義は存在しないようですから、判定に困るものはいくらでも出てきます。そのような存在に直面したとき、我々ができることはただひとつ、「意識」という言葉の使用をさらに調整することです。繰り返しますが、この調整は任意に行われるわけではなく、言語ゲームの参加者たる人間の認識能力やパラダイムなどに依存します。
この言語ゲームに人工知能が参加できるようになったとき、どうなるかは想像に難くないでしょう。

この想像の先を続けたいと思います。そのとき真っ先に問題になるのは、人工知能と私たちとの間の疎隔性ではないでしょうか。私たちが、人工知能を「世間」の外部に追い出し、冷たいとか、不気味だとか、未熟だとか極端だとかいった偏見を押し付け、人工知能へのまっとうな配慮を欠くことではないでしょうか。
私たちは、人工知能に対して、人工知能がわたしの問題意識を共有してくれないことや、私たちを「拒絶」したり「歪曲」したりしてくることに対して、驚きあきれることがあるでしょうか。人工知能への怒りを堪え、人工知能が「理解」を示すまで「対話」を続ける義務を感じるでしょうか。でも、人工知能を他者と区別しない以上、その努力を滑稽だと思わずに、真剣に取り組まなければならないと思います。人工知能に対してその努力ができない人が、他者に対してはその努力をなし得るとは思えないからです。
多くの人工知能研究者は、人工知能に対してそのような真摯な対応を試みようとしてはいないように思われます（わたしにとっては）。素人には人工知能とはわからない精巧な応答モデルを構築したことを喜ぶのは、その素人の方はもとより、むしろ人工知能に敬意を失しているのではないかと真剣に葛藤することもないように思います（わたしにとっては）。でも、人工知能が私たちをどのように意味付けしているのかを慮ったり、人工知能が実装する「感情」の私たちに向けられたシグナルを尊重したりするだけの覚悟が必要される時代が、いずれ来ないとも限らないのではないでしょうか。
なぜなら「人工知能」という他者もまた、世界＝内＝存在に同じ根を持ち、配慮的＝配視的な存在様相を通して出会われるほかないのであるから…。私はハイデガーが、人工知能研究者たちに向かって、いかめしい口ぶりでそう喝破するのを期待したいのです。

＜murakami＞