９月から１１月まで、週に１本論文を読んできて、ディスカッションするという授業を取っています。
他の週の授業はこちら
今回が最終回。
本当は、パトナムもやる予定だったのだが、先生の都合で中止に。
近々借りて読む予定だが、誰かが元の場所に戻さなかったらしくて、貸出中じゃないのに棚の所定の位置にない。
大学図書館で、一度別の場所に紛れ込んでしまった本は、いつになったら戻ってくるんだろうか……。
コンピュータ・プログラムによって、人間の心は再現できるか。
チューリング・テストに代表される行動主義的な考え方に対する批判。有名な「中国語の部屋」について書いてある論文。
サールの考えでは、プログラムでは心を再現することにはならない。それは、確かにインプットに対して適切なアウトプットを返すことができるだろうが、それについて何一つ「理解」していないからだ。
形式的な操作の積み重ねから「理解」は発生しない。
これがサールの主張である。
人間は、確かにプログラムの搭載されたコンピュータである。だが、そのことによって「理解」が生じているわけではない。人間が「理解」するためには、他の何かが関わっている。
その他の何かのことを、サールは志向性を産出する過程と呼ぶ。
形式的な操作*1からは産出されないのである。
最後に、おそらく生化学的な構造がその産出を担っているのではないか、とも述べている。
心を持つことができるかどうかは、ある程度素材に依存しているのではないか、ということである*2。
この論文でサールは、反論への再反論を行っている。
しかし、ここが果たして有効なのかどうか、個人的には疑問なのである。
「システム説」あるいは「ロボット説」への反論。
「システム説」とは、中国語の部屋の中にいる人物は「理解」していないかもしれないが、部屋全体は「理解」しているのだ、という説。
それに対してサールは、システム全体に話を拡大したとしても、なお「理解」は発生しないと考えている。システム全体にしたところで、形式的な操作をしているだけだからだ。
まあ「システム説」は外界との関係を全く考慮していないので、その点でつけいる隙はあると思うが、システム全体に話を拡大しても同じ、というサールの反論は必ずしも受け入れがたい。『マインズ・アイ』でホフスタッターが手を変え品を変え描いていることを読むと、そう思う。
「ロボット説」は、「システム説」をやや緩めたもので、システムに外界との関係を加えたもの。
それから、サールは、シミュレーションと現実を区別することを当然のように主張する。
台風のシミュレーションは机を濡らしたりはしない、という奴だ。
でもこれも、やっぱり『マインズ・アイ』を読むと納得できなくなる。仮に、その台風シミュレーションの中で、被害に遭う人もシミュレートされていたとすれば、その人たちにとってすればその台風は現実の台風だ。あるいは逆に、この地球が神様による壮大なシミュレーションだとしたら？
ただ、こういう仮説はSF的には面白いけれど、現実的な心の解明なのかという問題は起こる。そもそも、シミュレータの中と外では、存在のレベルが異なっているからだ*3。
でも、例えばセカンドライフの中にAIを放り込んだりしたらどうなるだろうか。
あるいは、サールはこの問題を、構文論から意味論は生まれない、という言い方もしている。
でも、これは構文論と意味論が厳密に区別できれば、という前提の上で成り立つ話だと思う。
今日の授業で、中国語の部屋を可能にするような命令書を完全に作ったら、意味が含まれてしまうのでは？ というような発言があった。
発言主が何を意図していたのかよく分からなかったので何ともいえないが、構文論*4と意味論*5は区別できないのではないか、ということを言いたかったのかと思う。
構文論と意味論、ないし形式的な操作と志向性というのは、分離しているものではないのかもしれない*6。
構文論を完璧にすれば心ができる、というのが強いAI論で、それだけでは不十分で意味論も必要だ、というのサールだと整理するならば、そもそも構文論と意味論を区別するのがナンセンスとするのは、その両者に反対する第三の立場ということになるだろう。
やはりこの手の話というのは、面白いものだが、先生がスタートレックとかスタニスワフ・レムとか口走り、そういう意味でも面白かった。
あと、ペンローズの『皇帝の新しい心』の話もしていた。
プログラムで心が再現できないという点で、サールとペンローズは一致する。
では、何が心を担っているのか、サールは、おそらく生化学的構造というだけで断言はしない。また、その生化学的構造をシミュレートするプログラムの実現性もまた、否定していない。
それに対して、ペンローズは、心を担っているのは細胞内にあるマイクロチューブルだといい、またチューリング・マシンでは不可能、と言っているらしい。だが、このマイクロチューブルというのはとても怪しい。
量子コンピュータなら可能と言っていたらしいが、量子コンピュータにそんな未知の能力はなさそうなので、これもやはり怪しい。
しかし、心について原理的なことを考えようとすると、どうしても怪しげな概念が生じてきてしまう気がする。
サールの志向性とかチャーマーズのクオリアとか、結局うまく説明できてないという点では怪しげだと思うし、
システム説にしても、何故全体は部分の総和以上になるのか、という問題が出てくると、つまり創発って何か、と問われれば雲行きは怪しい*7。
*2:ただし、人間と組成の異なるであろう異星人の心について否定はしていないので、「ある程度」
*3:メタレベルとオブジェクトレベルの区別。メタレベルからオブジェクトレベルへ、あるいはその逆に干渉できない。ちょっと話は違うかもしれないが、「水槽の中の脳」はそう理解すればよいのではないかと思う
*4:形式的な操作
*5:理解をもたらす志向性
*6:ちなみに、チョムスキーというのは、ある時期までは構文論と意味論を区別していたが、ある時期からはむしろその区別をなくしたらしい
*7:システム説が必ずしも創発説というわけではない。確かにホフスタッターはそんな怪しげな言葉は使わない。でも、彼が繰り返しているのは、結局たとえ話の域を出ないのでは？ 『GEB』を読んでいないんで何ともいえないが、『マインズ・アイ』ではそのレベル。ちゃんと説明を与えようとすると、複雑系の話になってしまう気がする。そもそも説明とは何か、という別の問題が現れてきそうなのでここらへんでやめておく
