渡辺正峰『脳の意識機械の意識』

まず、脳神経科学、特に意識の科学の入門書として良書だと思う。
神経科学について、研究史という形でまとめられているのがよい。自分が既に知っていたものも知らなかったものも、流れの中でどの位置にあるのかが勉強になった。
また、最近甘利俊一『脳・心・人工知能』 - logical cypher scapeを読んでいたのも、その点では相乗効果があった気がする。実施には扱っているトピックはわりと異なるのだが、部分的に重なるので、別の文脈から脳と心の研究について概観できる(気がする)。
意識のハードプロブレムにもがっつり向き合っており、この難問に対して、様々なレベルから答える方策を示しているのが、すごく面白いし、また、かなり有力な仮説が提案されているように(少なくとも素人目には)見える。
そして、最終章において、「この人(いい意味で!)マッドサイエンティストだ!」ってなる展開が待っていて、とても楽しい。
意識というものが結局は主観的にしか確かめられないものならば、どうすれば意識の理論を証明することができるのか→理論上、意識が生じている(はずの)機械と自分の脳を接続して確かめてみればいい!
本当にその方法で確かめることができるのか思考実験的に検証している、のみならず、いずれ人間でもできるようになるはずなので、まずはマウスによる実験にとりかかっているという話がすごい。

第1章 意識の不思議
第2章 脳に意識の幻を追って
第3章 実験的意識研究の切り札 操作実験
第4章 意識の自然則とどう向き合うか
第5章 意識は情報か、アルゴリズム
終章 脳の意識と機械の意識

第1章 意識の不思議

前半で、意識経験について、後半で、ニューロンの働きについて研究の歴史から紹介し、意識経験という謎めいたものが、しかし、働きとしてはたかがしれているニューロンから生まれてくる不思議を、クリックの「あなたはニューロンの塊にすぎない」という言葉とともに紹介している。
ところで、まえがきにおいて、感覚意識体験こそが意識だと説明しても納得してもらえないことが多いというようなことが書いてあって、なるほど、そういうものかと思った。
あ、あと、この本では「感覚意識体験」という言葉が主に使われている(時に「クオリア」)。基本的にそれにならうが、自分は「現象的意識」という言葉の方が使い慣れているので、以下、この記事ではそっちが混ざることがあるかもしれない。同義語として使っている。
意識について、盲視や両眼視野闘争、あるいは夢(感覚入力がなくても意識体験はある)などを例に出して説明されている。

ニューロンについて
  • ホジキンとハクスレイの研究

1939年、イカの軸索に電極を指して、電位変化を観測。「電気スパイク」を発見。
第二次大戦をはさみ、戦後、再会した彼らは研究を再開
電気スパイクが発生する仕組みとして、イオンチャンネルによる仮説を提唱した。この仮説の数式は、手では解けないが、当時ケンブリッジにあったコンピュータは機器更新中であったため、手回し計算機によってこれを解いた。
なお、このメカニズムについて実際に証明されたのは、1990年代のこと。

  • ゴルジとカーハルの論争

ニューロンはつながっているか否かの、ゴルジの「ネットワーク仮説」vsカーハルの「シナプス仮説」論争(19世紀末〜20世紀初頭)
そもそも、光学顕微鏡ではシナプス間隙を見ることはできないので、両者とも実は見えた気になっていただけ。
ちなみに、二人は1906年に同時にノーベル生理学・医学賞を受賞している

  • スープか火花か

同時期、ニューロン間の伝達は何が担っているのかが論争になった
レーヴィのカエルの心臓を使った研究によって、神経細胞間の情報伝達は、電気信号ではなく何らかの化学物質によるものだということがわかった

カハールは、伝達効率を変えることで学習することを予想
その50年後、ヘブによってヘブ則が提案される。
1966年、レモがウサギの脳によって、ヘブ則を実証している

第2章 脳に意識の幻を追って

筆者の師にあたるロゴセシスの研究から、NCCを探求する試みについて解説されるが、実験科学における考え方みたいなものも随所から伝わってくる。
ロゴセシスの実験内容に入る前に、脳の視覚処理の仕組みについて

脳の視覚処理の仕組みについて
  • ヒューベルとウィーゼル

第一次視覚野の計測により、網膜では「点」に反応していたのが、第一次視覚野では「線分」に反応していたことがわかる。網膜から第一次視覚野へ向かう間も情報処理が行われていることが分かった。
このヒューベルとウィーゼルの研究について、実験において幸運が働いたことが発見につながったという逸話が紹介されていたりする。

ニューロンの情報処理が、より高次にすすむについれて、より抽象的な情報(点から線分、線分から形へなど)へと情報処理がすすんでいく仕組み(ニューラルネットワーク)を、電話アンケートに喩えて説明している。

  • 視覚部位の網膜座標依存性

網膜の上下左右関係が、第一次視覚野でも保存されている=網膜座標依存性
サルのニューロンを染色して取り出す実験で確かめられている。
ある視覚部位から視覚部位への結線がどのようになされるのか、という仕組みについて、ここでは6行ほどで説明がすまされているが、甘利俊一『脳・心・人工知能』 - logical cypher scapeでは、レチノトピーという項目で2ページほど説明がさかれている。化学物質を使った自己組織化

  • 視覚における情報処理の複雑化と般化

網膜(点)→V1(直線)→V2(輪郭線)→V3・V4(角や曲線、線分の交わり)→IT(顔や手などの対象、図形)と、反応する対象が複雑化していく
ITには、顔や手などに反応するニューロンがあるがそれは少数派で、多くは形状に反応する。田中・程・藤田により「図形アルファベット仮説」として提唱されている。
複雑化とともに、応答が「ずぼら」になる=般化
脳の配線がどのように形成されるかについて、臨界期の話がコラムとして紹介されている。これは理化学研究所脳科学総合研究センター編『つながる脳科学』(一部) - logical cypher scapeの5章が詳しい。

ロゴセシスの研究

両眼視野闘争(やネッカーキューブなど)の視覚交代刺激は、意識にあがってくるものが変容する。
この知覚の交代と連動する神経系の活動を見つけられれば、それは意識の座ではないか、ということだ
実験動物として選ばれたのはサルで、まずは、サルが両眼視野闘争を経験するのかというところから始めなければならない。そもそもサルは知覚が変わったと口頭で報告できない。このあたり、どのようにサルを訓練し、実験デザインを考えたかということが書かれていて面白い。
86年にこの実験を思いつき、論文になったのは96年のようだ。
ITの活動が両眼視野闘争による知覚交代とよく連動していることが分かったが、ITすべてではなく、一部は全く無関係に活性化しており、ITという高次の視覚野でも、意識と無意識の両方の情報が扱われていることが分かった。ITを単純に意識の座とみなすことはできない。
より低次の視覚野において、意識と無意識がどうなっているかが争点となった。
完全に意識が入り込まないところがあれば、そこは意識の座からは外されることになる。
クリックとコッホは95年に、一次視覚野は意識を担わないと予想し、これが多くの科学者の反発を買った、らしい。
クリックとコッホによれば、一次視覚野は、意識にはのぼらない情報を多く保持しているため、これは意識を担っていないと考えたのだが、筆者は、意識がアクセスできない部分があるからといって、全部がアクセスできないとは限らないと指摘している。
そして、ロゴセシスの実験結果では、一次視覚野においても、10%のニューロンが知覚交代に反応していた。
その後、トングらによって、ヒトを対象にfMRIによって両眼視野闘争時の計測が行われた結果、よりはっきりと一次視覚野と意識が連動していたことがわかり、クリックとコッホの予想は追い込まれることとなった。
ところで、ここでfMRIは一体何を計測しているのか、ということについても解説がなされている。血流量を測っているわけだが、当初、何が血流量を増やしているのかわかっていなかった。これもまたロゴセシスにより、シナプスの出力ではなく入力の方がかかわっていることが分かったらしい(シナプスの発火ではなく、入力に伴ってグリア細胞が活動するからではないかと言われているらしい)

両眼視野闘争中の意識の有無が、第一次視覚野への入力を大きく変化させながらも、その出力にはほとんど影響を及ぼしていなかったことになる。第一次視覚野へのシナプス入力の大部分が、知覚交代にあわせて大きく活動を変化ささえる高次の視覚部位に由来すると考えればつじつまはあうが、いまのところ、その証拠は得られていない。(p.111)

と、本書には書かれているわけだが、これって予測コーディング理論的なものへの傍証になっているのでは、という感じがする。

NCC

クリックとコッホの、「一次視覚野は意識にかかわっていない」予想は支持されなかったが、同じくクリックとコッホが提案した「NCC」という概念は、科学者に受け入れられている。
NCCの定義は「固有の感覚意識体験を生じさせるのに十分な最小限の神経活動と神経メカニズム」となる。
筆者はここで、「連動すること」と「担うこと」「因果性」の区別を指摘したうえで、NCCは「相関correlate」で「連動すること」を意味するが、この「十分な最小限の」という文言により、「因果性」や「担うこと」に踏み込んだ定義になっているのだと指摘する。
例えば、網膜の活動は、意識と連動しているといえるわけだが(目をつむると意識経験が変化する)、夢を見るときなど、網膜の活動がなくても意識経験が生じることがある。その点で、網膜は「最小限」にあてはまらないので、NCCではない。
このようにして、NCCにあたらないものをつぶしていくことで、NCCを見つけ出す、というのが探求の方向性となる。
この章の最後で、筆者自身が行った、ヒトのfMRI実験が紹介される。
CFSという手法を使った両眼視野闘争なのだが、意識と連動した一次視覚野の活動が計測できなかった。そこで「視覚的注意」をコントロールしたところ、これと連動していることがわかった(このあたり、論文に書かれたことと実験した時の実際の事情との違いが説明されていたりする)。
一次的視覚野は、NCCではなかった……
ちなみに、CFSという手法は、土谷とコッホによって開発された手法(筆者の発表をうけて、土谷とコッホが祝杯をあげたというエピソードが紹介されている)

第3章 実験的意識研究の切り札 操作実験

消去法によるNCCの探求を行う上で、まずはTMSというツールと筆者の下條研究室での経験が紹介されている。
TMSで刺激をあたえると、何もないところに「白い閃光」が見える、とか。
次いで、意識と時間の関係が述べられている。

  • リベットの実験と主観的時間遡行

リベットの実験により、知覚が意識にあがってくるのに時間の遅れがあることが知られている。
ところで、これ単に知覚だけなら世界と経験が遅れているだけですむが、自分から行動する場合にズレが生じてくる。ここでは、野球のバッティングの例があげられている。バットをふってボールを打つという行動にかかる時間と、意識への遅れにかかる時間を考えると、そのままでは、塁へと走り出したタイミングでようやくバットがボールをとらえた感覚が伝わってくることになる。
しかし、そのような経験は生じていない。
知覚刺激が発生したタイミングで知覚したかのような「主観的時間遡行」が起きている、というのがリベットの提案である。
知覚が未来から影響を受けることについて、「触覚ラビット」という錯覚が紹介されている。
この錯覚については柴田和久「解説—神谷之康 ASCONE2006 講義 ベイズで読み解く知覚世界」でも取り上げられている。
また、リベットの実験というと、自由意志の否定という点で取り上げられることが多いが、現在の潮流は、やはり素直に自由意志はないと考える方向へすすんでいるのだ、とあっさり書かれている。
筆者は、ヨハンソンとホールによる選択盲の実験を紹介し、自由意志は錯覚であるということを説明している

この2人が行ったTMSによるNCC探求実験(2001)
この実験の結論は「感覚意識体験の成立には、トップダウンの視覚情報による第一次視覚野の活動が不可欠」というものだった
ところで、ではこれは「NCCに含まれる」と等価なのかというと、必ずしもそうではないと筆者は注意を促す。
ここではラジオの喩えで説明されている。ラジオから電池を抜いたとき、ラジオは音を発しなくなる。しかし、ラジオにとって必要な「最小限のメカニズム」に電池が含まれるか、といえばそうではない。
第一次視覚野の活動を阻害することでは、第一次視覚野がNCCであるかどうかはわからない。
消去法によってNCCを探求する方法としてはむしろ、ある部位の活動を阻害してもなお意識が生じているのであれば、その部位はNCCではない、という形で進める必要がある。

  • オプトジェネティクス

さて、そのような操作実験を可能とする画期的な手法として、ここでも(!)「オプトジェネティクス」が登場する
なんとこれ、亡くなる前のクリックが99年にこんな実験手法があったらいいなーと思っていった方法で、数年後、ゼーメルマンとミーゼンボックによって実現し、さらにその後、ダイセロスらによって手法が簡略化され、広まったとのこと。
時間精度と空間精度が高い、というのが最大の利点で
一方で、活用できる動物が限られる(ショウジョウバエ、マウスなど)のが欠点らしい

  • 実験動物を変える

筆者らは、両眼視野闘争実験を行うにあたって、上述の理由から、サルが使えず、ラットへと変えることになった
ところが、ラットは両眼視野闘争を経験しないことがわかる
そこで、次はビジュアルバックワードマスキングという刺激を使う手法に切り替えることになった。これは、ラビット錯覚に似ていて、時間を遡って知覚が変化する(70~80ミリ秒未満でマスク刺激を提示すると、その前に与えられていたターゲット刺激が意識から消失する)というもの。
ラットはこのビジュアルバックワードマスキングに反応することが分かったのだが、これを知ったコッホから共同研究をもちかけられ、アレン・インスティチュートへと移ることになった。このアレン・インスティチュートは創始者の意向で、実験動物はすべてマウスに限定されていたので、ラットでやっていた実験をすべてマウスに変える必要があった、と。
この時期に、後追いで同じ実験をやっているグループがいることが分かって、リークによる恐怖を味わったということが書かれている。どこからリークが生じたのかもほぼ特定できた、と書かれているのが生々しい。

  • 実験のロジック

(1)あるニューロン活動がNCCに含まれる⇒70~60ミリ秒にわたって持続し、その一部が欠けると、「見え」に影響が及ぶ。
(2)(1)の逆は成立しない。すなわち、「あるニューロン活動が70~60ミリ秒持続し、その一部が欠けて「見え」に影響が及ぶ⇒そのニューロン活動はNCCに含まれる」は成り立たない。
(3)ニューロン活動が70~60ミリ秒未満の場合、そのニューロン活動はNCCから除外
(4)ニューロン活動が70~60ミリ秒以上で、それをオプトジェネティクスによって潰しても「見え」に影響が及ばない場合、そのニューロン活動はNCCから除外
(5)ニューロン活動が70~60ミリ秒以上で、それをオプトジェネティクスによって潰しても「見え」に影響が及ぶ場合、そのニューロン活動がNCCかどうか判断不可能
実験結果として、第一次視覚野は(4)にあてはまるが、高次の視覚部位は(5)
本書によると、通常の神経科学でここまで厳密なロジックは求められないが、NCCの探求においては求められるのだ、ということである。
実験とか全くやったことない素人からみると、妥当なロジックというか厳しいとは思わないのだけど、実験の場合、これを満たす精度を出すのは大変なのだろう。

第4章 意識の自然則とどう向き合うか

さて、第3章まででも結構な情報量ではあるのだが、ここまでは、言うても、これまで行われてきた実験や研究の結果が入門書的にまとめられてきた、というものだ。
ここでちゃぶ台返しが始まるというか、NCCがわかったとしても、意識のハードプロブレムは解けてないじゃん! 認知神経科学はハードプロブレムを避けてるじゃん! という指摘から始まる。
NCCの探求は、脳神経系の仕組みの話でありそれは「客観」側の話。感覚意識体験は「主観」の話。客観と主観をつなぐものが、既存の科学ではまだわかっていない。
そこで、主観と客観を結ぶ自然則があるのではないか、と筆者は述べる
「自然則とは、他の法則から導くことのできない、科学の根幹をなす法則のこと(p.187)」
例えば、光速度不変の原理とか。
例えば、チャーマーズの「情報の二相理論」は、自然則の候補である(これについて、普通はイロモノ扱いされていて筆者も当初真に受けていなかったが、コッホの論評によって見方が変わったと述べられている)
しかし、自然則が科学であるためには、それは検証可能でなければならない。

  • 哲学と科学の違い

ここで筆者は、検証可能性を重視するかどうかに、哲学と科学の違いがあるのではないかと述べている。

哲学者からのお叱りを承知であえて言わせてもらうなら、科学と哲学の違いはそこにある。(中略)(心身二元論は)検証できないからこそ、哲学の聖域にいつまでもとどまり続けることができる。それはそれで哲学の世界では重宝されるのだろうが、自然科学の基盤となるべき自然則は、検証のまな板にのらなければ、その価値を失う。(p。190)

ここまあ、ある種の哲学disとも読めるのだけど、たぶんここ哲学者と科学者の感覚の違いがあって、「お叱りを承知で」とあるけど、たぶんこう書かれて怒る哲学者はいないのではないかと思う。
哲学で一方では「自然化」といって、哲学の探求は自然科学化していく、つまり検証可能な土台にのっていくという方向性を求める人もいる、つまり哲学者でありつつも哲学は最終的に消滅すべきという論があるのだけど、他方で、哲学には哲学の役割があって、それは自然化されないという考えもある。
後者の場合、検証不可能な領域があって、これを論証するのが哲学という考えとなる。
実験では確かめられないのだけど、その代わりに、論理を使って確かめるのが哲学なのだ、と。
心身二元論は、実験では検証できないかもしれないけど、そもそも論理的に成り立たないのではないか、ということを、物理主義の立場にたつ哲学者は考えていて、心身二元論をどうにかして潰そうとしている。
そういう意味では、「哲学の聖域にとどまる」「哲学の世界では重宝される」というより、心身二元論なるものをまかりまちがって科学者が真剣に検討しなくてもすむように、哲学の世界の中に閉じ込めて、そこで潰しておく、ということを哲学はやっているのだともいえるのではないか、と
いやもちろん、哲学の世界で二元論は消えずに残ってたりもするわけだけど。
で、「あーこっから先は実験とかで確かめないとわからないやつだなー」となったところで、科学者に渡す、と。
まあ、こういう役割分担は、あくまでも哲学者が考える理想の世界であって、実際にそんなことできてますのん? となるとわからないけども。

じゃあ、一体どうやって検証するのか
人工的に意識を創ってみればいいのでは、という提案がなされる。
で、その際にそういう方向性のことを「アナリシス・バイ・シンセシス(創成による解析)」と呼んでいる。
読んだときは、そういう言葉があるのかーふーんくらいにしか思っていなかったのだけど、
Whatever next? Predictive brains, situated agents, and the future of cognitive scienceをちらっとだけ見てみたら、「ヘルムホルツの考えは、一部が認知心理学において「アナリシス・バイ・シンセシス」として知られるようになった」的なことが書かれていて、「あれ?」となった。
ググっても、いまいちよくわからないんだけど、コンピュータグラフィクス関係の論文がヒットしたり、生成モデルがどうの学習がどうのという論文がヒットしたりする。
この本での使われ方だけ読むと、「構成論的アプローチ」みたいな、作って調べる的意味合いの言葉のようにとれるのだけど、ググった感じだとなんかちょっと違うような気がする。

人間のニューロンを、少しずつ、ニューロンと全く同じ働きをする人工ニューロンへと置き換えていく(ニューロン一つ一つの働きはわかっているので、理論的には可能)。人工物に置き換わっても、感覚意識体験は残るのでは、というやつ
さらに、人工ニューロンをコンピュータに肩代わりさせる「デジタル・フェーディングクオリア」という議論も持ち出し、コンピュータでも意識を持たせることができるのでは、と進む。
しかし、哲学的ゾンビの可能性があるので、完全に脳をシミュレートできるコンピュータができたとしても、なお意識が生じたかどうかはわからない。

  • 人工意識の機械・脳半球接続テスト

そこで、意識が生じたと思われる機械と、自分の脳をつなげて、感覚意識体験が生じれば、その機械にも意識があるといえるのではないか、という、かなりぶっ飛んだ(しかし、確かに考えられる)話が出てくるのである。
しかし、単純に機械を脳につなげて、感覚意識体験が生じたからといって、その機械に意識があるとはいえない(例えば、人工網膜を接続しても感覚意識体験は生じるが、かといって人工網膜に意識があるわけではない)
そこで出てくるのが分離脳の話である。
分離脳の知見から言えるのは、右脳と左脳とには独立した意識が生じていて、それが脳梁などによって接続されている、ということである。
逆に言えば、右脳と左脳を接続しているのと同じ方法で、脳半球と機械とをつなげれば、機械に意識が生じているかどうかのテストができるのではないか、と!!
ところで、分離脳によって意識が分断されている云々の話は『シリーズ新・心の哲学3意識篇』(佐藤論文・太田論文) - logical cypher scapeの太田論文でもなされていた。まあ、分離脳患者において意識の統一性は崩壊しているよねというのが普通の見解だが、現象的意識についての強い全体論を主張するベインは、分離脳患者においても意識の統一性は損なわれていないという主張をしているらしい。

第5章 意識は情報か、アルゴリズム

いよいよ、筆者の意識の自然則(候補)が提唱される。
意識の自然則は、第3章により、検証されうるものでなければならない。
そして、第4章により、その検証方法として「人工意識の機械・脳半球接続テスト」が提案された。
続く第5章では、提案される自然則候補が、このテストによって検証可能なものであるかが論じられる。
ここであげられる候補は、チャーマーズの「情報の二相理論」、トノーニの「統合情報理論」、そして筆者による「生成モデルの二相理論」である(ただし「生成モデル」自体は川人・マンフォードが提唱したもの)。

意識の情報理論
  • 情報の二相理論

そもそも、情報と意識の関係についての説明が少なすぎて、先のテストで検証可能かどうか以前の問題

統合された情報とは「全体としての情報量が、個々の情報量の総和よりも大きい状態」
ここから、統合された状態、独立した状態、冗長な状態、排他的な状態という4つの状態が考えられる。
左右の脳半球について、筆者は、中低次において、右脳と左脳の視覚情報は排他的であり、高次においては、冗長になっていると述べる。
つまり、統合情報理論では、左右半球の脳の意識の統一化が説明できない、と。
統合情報理論については→ジュリオ・トノーニ/マルチェッロ・マッスィミーニ『意識はいつ生まれるのか――脳の謎に挑む統合情報理論』 - logical cypher scape

そもそも筆者は、意識の自然則において「客観側」の対象は「情報」ではないのではないか、と
情報単体では情報は意味をもたない。解釈されて意味を持つ、と。
解釈してるのは「アルゴリズム」ではないか、と。
本書では特に言及されていないが、なるほど、脳科学におけるセントラルドグマみたいなのが必要なのかもな、と思った。
意識の問題だけでなく、結局、脳神経のどこが活動してるって話だけでなく、その神経の発火がどのように処理されているのか、という点が明らかにされなければ、脳が分かったとは言えないわけで。
で、予測コーディング理論はたぶんそれの有力候補

神経アルゴリズム説としての生成モデル説
  • 脳内の仮想現実と生成モデル

夢の体験、チェンジ・ブライドネス、ヒーリング・グリッド錯視(金井良太により開発された錯視)、幻肢などから、脳内には仮想現実システムがあることが論じられる
意識を「仮想現実」ととらえるのは、レヴォンスオによる仮説*1
そして、その仮想現実システムの実装であり、意識の担い手でもあると考えられるものとして「生成モデル」が取り上げられる。
生成モデルは、1990年代初頭に、川人光男とデイヴィッド・マンフォードによりそれぞれ独立に提唱された

生成モデルは、入力と出力の関係をひっくり返し、高次から低次への処理の流れを重視する。生成モデルの「生成」は、高次の活動をもとに、低次の活動を出力することを指す。(中略)「低次の活動を出力する」の意は、高次の活動をもとに、低次の活動の「推測値」を出力する、ということだ。そのうえで、この推測値と感覚入力由来の低次の活動とを比較し、その誤差を算出する。そして、その誤差を用いて、高次の活動を修正する。
pp.245-246

え、これって予測コーディング理論の説明そのままでは?
本書には、予測コーディング理論(予測誤差最小化理論)のよの字も出てこなければ、フリストンへの言及もないので、最初、どういう関係にあるのかわからなかったのだが、Whatever next? Predictive brains, situated agents, and the future of cognitive scienceを見ると、フリストンの研究の前段階として、川人、マンフォードの生成モデルの研究が位置付けられている。『シリーズ新・心の哲学3意識篇』(佐藤論文・太田論文) - logical cypher scapeの佐藤論文や『ワードマップ心の哲学』(一部) - logical cypher scapeの「予測誤差最小化理論」の項でも、生成モデルという言葉が出てくる。


多層ニューロンモデルで、生成モデルの説明がなされている。
さらに、三層以上のネットワークの学習則として、逆誤差伝播法が紹介されている。
このあたり甘利俊一『脳・心・人工知能』 - logical cypher scapeの方が当然詳しいが、本書でも、ヒントン、ラメルハート、ウィリアムズに先んじて甘利が発見していた歴史や、深層学習(ディープラーニング)についても触れられている
筆者らは、2006年に、生成モデルに逆誤差伝播法を適用した論文を書いたのだが、ディープラーニングブームが巻き起こる以前だったこの当時、逆誤差伝播法はすでに時代遅れの手法と考えられていて、査読でひっかかったというエピソードが披露されている。

  • 生成モデルによる脳の仮想現実について

視覚的な意識体験について
対象についての情報、位置についての情報、光源についての情報から、まず三次元の立体モデルを作り上げ、そこにバーチャルなカメラを想定して、映像を出力するのではないか、と。
そして実際、ディープラーニングによって、GAN(Generative Adversaria Network)というモデルがが登場しており、本物と見まがう画像を生成することが可能になっているらしい。
また、夢における意識体験が覚醒中と同じ神経メカニズムを共有しているというレヴォンスオの主張との相性のよさも指摘されている。
覚醒中は、生成誤差を計算することで外界と同期するが、夢を見ている間は、感覚入力がないので誤差の計算がされなくなる。しかし、生成過程は働くので、現実世界同様の仮想現実世界が作られるのではないか、と。

  • 隠れ層について

隠れ層がどういう特性をもっているかは、逆誤差伝播法のような学習則を使っていると、予想がつかない
1988年、ジプサーとアンダーソンは、サルの脳のニューロン特性と、逆誤差伝播法によって作られた「モデルニューロン」の特性を比較して、よく似ていることを示している。
ただし、逆誤差伝播法自体は、脳の中では生じない。神経細胞は逆誤差伝播が起きるような構造をしてないからだで、そのために、ディープラーニングブームが来る前は、鳴りを潜めていたらしい。

  • 生成モデルは一体化するか

生成モデル説は、先ほどのテストで検証可能かということについて
ここでは省略するが、このテストで試すことが可能のはずという結論となっている

  • 高次視覚部位から精細な視覚情報は生成可能なのか

高次視覚部位には高解像度の視覚情報は存在しない。しかし、意識経験における視覚はぼんやりとしていない
これについて、二つの可能性を筆者はあげている
(1)生成誤差の計算によって吸収している可能性
高次は般化されているが、低次になるにつれて般化されず解像度があがる。低次からの誤差情報によって精度があがる
夢においては、これがないので、わりとぼんやりとしてしまうことも説明できるのではないか
(2)実は、高次の視覚部位にも高精度の視覚情報が保持されている可能性
そういう実験結果もある
しかし、高次の視覚部位だけでは成立しないという可能性が高く、ゼキによる症例報告がある。
ここのところ、コラムとしてぱっと紹介されている話なのだけど、『シリーズ新・心の哲学3意識篇』(佐藤論文・太田論文) - logical cypher scapeの佐藤論文における、見かけの豊かさのパラドックスと対応している議論だと思う。

  • 生成モデルのメリット

生成モデルは、意識の時間遅れを説明可能
第2章で扱った意識と無意識の線引きについて、アルゴリズムの中の位置づけによって判定できる。第一次視覚野が意識にかかわらないこととの関係

ニューロンの発火がどのように感覚意識体験を生じさせるのか
生成モデルの生成過程に感覚モダリティごとの信号特性が反映されることによって、と論じられている。

感覚モダリティの特徴を色濃く反映する生成過程が意識を担っていると仮定することにより、ごく自然な形で、まったく異なったものとして感じられる多種多様なクオリアを説明することができる。p.280

またこれをうけて

「生成モデルの二相理論」を「生成モデルは、生成過程などを通して情報処理を進めるといった客観的な側面と、その生成過程に沿った感覚意識体験を生じさせるといった主観的な側面を併せもつ」とでもまとめておきたい。p.285

とまとめられている。

神経系をコンピュータ上で再現するとして、単に、発火パターンを再現するだけではおそらくだめで、ニューロン同士がネットワーク上でつながって、それぞれの発火が因果関係としてつながっていることが重要なのだろう、と述べている。
そして、その因果関係のつながりを生じさせるのが、決定論カオスなのではないか、という仮説が述べられている。
決定論カオスによって、神経回路上のすべてのニューロンが「因果性の網」にとらえられるという言い方をしている。
ところで、甘利俊一『脳・心・人工知能』 - logical cypher scapeでも、脳ではカオスが発生しているのでは、そしてそのカオスを何かに利用しているのでは、という話がなされている
また、本書によると、エーデルマンとトノーニの「ダイナミック・コア仮説」*2には、決定論カオスの要素が含まれていた、と。

終章 脳の意識と機械の意識

最後に、どうやって機械に人工意識を創るのか、どうやって脳とつなぐのか、という技術的な話がされている
前者として、IBMが開発中のニューロモーフィック・チップ
後者としては、いわゆるBMI技術として、DARPAが2017年に公表した研究計画として、マイクロワイヤというものがあることが紹介されている
DARPAの目標は百万個のニューロンと接続してその記録をとること
ところで、例のテストにおいて、前交連という部位をつなげる場合(ここがつながっていると脳梁が切断されていても、分離脳の症状が現れない)、2000万~3000万の神経線維で事足りる。
DARPAの目標が達成された時点で、必要な神経連絡数の20分の1に迫ったことになり、今後に十分期待がもてる(p.294)」
さらにさらに、筆者は、分離脳マウスを再接続する実験を進めている、とか。分離脳マウスの左右半球の再接続が可能になったら、次は、マウスと機械との接続である。
ひゃー、やばい!
ここらへんを読んで思わず、「こいつ、マッドサイエンティストだ!」と快哉を叫んでしまったw
脳と機械をつなぐっていうのは、昔からSFのネタであり、「そうなったら便利だねー」などと話にあがったりするし、また単純に脳で機械を操作するという意味でのBMI技術なら、すでに確立されてきているわけだが
脳の意識と機械の意識とを接続するということを考えた上に、さらにそれを実現するためのマイルストーンを考えていて、筆者は、自分が生きているあいだに実現できる可能性が高いと考えているのである。
「すげぇすげぇ」しか言えない
さらに最後には、もし機械の意識と接続できたら、次に考えるのは記憶の移植だけど、機械の意識と接続するのは可能でも、記憶を移植するのは、哲学的にはイージー・プロブレムだけど技術的には超ハードで、どうれやばいいかわからん、ということが書かれている。
コンピュータ上で意識を再現することと、記憶を移植することを、技術レベルで別問題として分割して論じているの初めて読んだので、なおさら、こいつはすごいなと思った。

  • 意識の自然則

意識の自然則が自然則であるからには、宇宙において普遍的であるはずで、地球型の中枢神経系に特化しているわけではない、はずと述べる。

神経アルゴリズムとしての生成モデルは、世界を取り込む鏡のようなものと考えられる。表面の見てくれだけではなく、その因果的関係性をも含めて取り込む鏡だ。その取り込みが生じたとききに、取り込んだなりの感覚意識体験が生じるのではないだろうか。(中略)意識の自然則の一般形は、この「取り込み」にあるのだろうと筆者は考えている。必ずしも、地球型の中枢神経系の形をとっていなくとも、何かが何かの因果的関係性を取り込んだとき、そこには、取り込んだものの感覚意識体験=クオリアが生じるのではないだろうか。
Pp.303-304

感想:意識のハードプロブレムは解決できるのか

意識のハードプロブレムについて、脳神経科学の観点から迫っているわけだが、いくつかのレベルで答えている。
以下、心の哲学の考えとの関係を色々と整理がてら、感想を書いているが、書いているうちに自分でも(心の哲学に対して)理解が曖昧なところがでてきて、途中からよくわからなくなっているが。
あと、本書では「感覚意識体験」という言葉が使われているが、以下では、(自分の好みの問題で)「現象的意識」とか「意識経験」とかいった言葉を使っている。
(1)NCCの探求について
(2)生成モデルについて
(3)自然則について
(4)機械と接続して確かめるという実証について

(1)NCCの探求について

NCC(意識の神経相関)を探すというのは、まずは脳神経科学から意識の問題に挑む際のアプローチだろう。クリックとコッホによって枠組が作られたことで、意識をどのように科学的に研究するかの方向性が出来たといえるのだろう。
ただし、NCCの特定は、ハードプロブレムの解明とイコールではない。
ハードプロブレムは、脳の仕組み(客観)がどうして意識経験(主観)となって現れるのか、という問題で、NCCというのは「相関」という言葉からも分かる通り、あくまでも、意識経験が生じているときに同時に想起している神経回路・活動ということでしかない。
まだ、そこも完全には特定できていないので、当然これについて研究するのは意義のあることなのだけど、NCCが特定できたとしても、これの次のステップとして、じゃあそのNCCがどうして意識経験を生じさせることになるのか、ということが問題となる。この点は本書で指摘されている通りである。

(2)生成モデルについて

NCCは、意識にまつわる場所はどこか、ということだったの対して、どのようにしてという理論が、まだ十分には研究されていない。
生成モデルは、これに対する有力な仮説と考えられる。
さて、生成モデル説は、心の哲学的に考えるとどうなるのだろうか。
本書では、チャーマーズはよく言及されるのだが、心の哲学全般についてはあまり触れられていない。
チャーマーズは二元論者のはずだし、最終的には、経験科学的な探求と相性があわなくなるのではという危惧がある(本書も必ずしもチャーマーズの立場に同意しているわけではないが)。
心の哲学側で現象的意識について物理主義的な立場としては、やはり表象説があるだろう。
脳の中に何か表象があって、志向性があって、その志向性はミリカンとかの生物学的目的論を使えば自然化できるだろう、というのが心の哲学側の議論だと思う。
とりあえず、現象的意識は表象だということまで言えれば、自然化できるのではないか、と。
ただ、自然化といっても、神経メカニズム的な話は哲学者はあまりしていない(そもそも専門ではないので)。
そうすると、生成モデルによって出力される脳内の仮想現実というのが表象の働きをしているのではないか、と考えれば、生成モデル説は神経メカニズム的な側面から表象の自然化をサポートできるのでは、という素朴な感想。誤表象の話とか、メカニズムの側面から説明できそうだし。
あと、概念の知覚とか、まさに知覚と判断の境界線的な話題についても、経験科学的な証拠をもたらしてくれる可能性がある。
で、やっぱり問題はハードプロブレムで、現象性って志向性で分析できるのかどうか、みたいな話だと思うんですけど。
例えば、鈴木貴之『ぼくらが原子の集まりなら、なぜ痛みや悲しみを感じるのだろう』 - logical cypher scapeで展開されている議論のポイントは、内容理論だと思う。鈴木説によれば、表象の志向的対象は、内容理論における質空間での位置価であって、それこそ現象性の正体なんだということになる。
一方、渡辺・生成モデル説では、現象性というのは、生成モデルの生成過程が持っている性質ということになる。
なので、この生成過程という奴が、内容理論と整合的なのかということを検証することで、表象説(というか鈴木説)と繋がるのではないか、という気がする。
感覚モダリティがもっている信号特性というのが、本書では視覚においては空間的な位置関係、聴覚においては時間的な前後関係という形で生成過程においても保持されているというようなことが書かれているのだけど、色みたいな感覚モダリティの場合、それはやはり質空間の位置価という性質になっているか?
どうやって検証すればいいのか分からないけど。
表象説には他には、フレーゲ的表象説という考えがあって(これはまさにチャーマーズなんだけど、チャーマーズの理論のどこに位置づけられているのか知らぬ)、この場合はおそらく、現象性というのは表象のmode of presentationということになるのだと思う。
で、生成過程がmode of presentationということなのか、という気がするのだけど、どうだろうか。ちょっとよくわからなくなってきた。


いやまあしかし、この説明も、理論上想定されている概念のどこに意識が位置づけられるのか、という「どこで」の議論であり、「どうやって」に本当に到達できているのだろうか。
というか、説明のギャップを越えているのか、という点はやはり気になるところである。

(3)自然則について
  • 根本的な事実・原理としての現象的性質

さて、この説明のギャップをどのように乗り越えるのか、なのだが
実はこれは本当にどうしようもないのではないか、というのが現時点での答えなのではないかと思う。
どうしようもないというか、自然の側でそうなっているからそうなっている、としか答えようがないということ。
『ワードマップ心の哲学』(一部) - logical cypher scapeにおいて、鈴木貴之が以下のように述べている。

その意味では、一人称的視点そのものが三人称的視点から説明可能な現象だとしても、両者は等価なものではない。ネーゲルが問題にしているのがこのような意味での一人称的視点の還元不可能性だとすれば、それは意識の自然化が可能だとしても解消不可能な現象だろう。そうだとすれば、一人称的視点と三人称的視点のあいだのギャップは、意識の自然化が不可能であることを示すものというよりは、世界に関する根本的な事実として受け入れるべきものであるのかもしれない。(pp.118-119)

意識のハードプロブレムというのは、被説明項(脳神経の仕組みという客観的・物理的なもの)と説明項(意識という主観的・現象的なもの)との間にギャップがあるというものである。そして、このギャップゆえに、意識は自然化できない(科学では説明できない)という立場がある一方で、このギャップは解消できるという立場もある。
だが、それ以外に、ギャップにも色々と種類があって、自然化できる程度にはギャップは解消可能だけど、それでもなお一部のギャップは残り続けるし、それは受け入れなければという話で、上で「どうしようもないのではないか」と述べたのは、受け入れなければならないギャップ「も」あるのだということ。
さて、世界に関する根本的な事実とは何か。
これが本書では「自然則」と呼ばれている。
例えば、アインシュタイン相対性理論によって光速不変の原理というのが、この宇宙にはあるということが分かっている。
光の速度は不変である、というのは自然の側でそのように定められている事実であって、それ以上は理由が問えないような基本法則である。
どうしてなのか問うても、これ以上どうしようもないので、世界に関する根本的な事実として受け入れなければならない(ただし、この事実が事実であるかどうかは検証可能で、無根拠に前提されているとかそういう意味ではない)。
意識についても、まず、現象的な性質=主観的な性質=経験される性質というものの存在は、この世界の事実として認める。その上で、しかしそれは物理的な世界の上でも存在を許される性質なのであり、それもまたこの世界における事実であるのだ、と。その共存の仕方は、なんらかの原理としてのみ言い表される、のかもしれない。

  • 他の考え・立場
    • ファインチューニング説

現象的意識を、光速不変のような世界の根本的な事実として捉える立場としては、例えば、三浦俊彦のファインチューニング説があるだろう。
『感情とクオリアの謎』 - logical cypher scape
自然定数みたいなものだ、という話。

    • 情報二相理論

本書でも紹介されている、チャーマーズの立場。
これは、情報は物理的な性質と現象的な性質との両方を持つというもので、情報があるとそこには必然的に現象的意識もあることになる。なので、かなり汎心論みたいな話になる。
チャーマーズって物心二元論のイメージのあるのだが、むしろ情報一元論みたいな立場らしい。

    • スーパーヴィーニエンス

それから、スーパーヴィーニエンスも、この類になってくるのではないか、と思われる。
スーパーヴィーニエンスというのは、ある種の物理的性質が実現しているとき、必然的に別の性質(この場合、現象的性質)も実現しているという考えであるが、で、結局、スーパーヴィーニエンスって何なのよ、というと、そういう必然的に別の性質が実現しているという関係のことを指しているだけで、わりと薄い記述だと思われる。
スーパーヴィーニエンス関係の具体的な形はおそらく色々なものがありうるのだろう。
ただ、普通は、どうしてスーパーヴィーンするのかというのは問われなくて、スーパーヴィーンするからスーパーヴィーンするんだ、としか言いようがないので、これも根本的な事実の一種のように思われる。
情報の二相理論は、情報という物理的でも現象的でもない何かが基盤となっているので、スーパーヴィーニエンスではないのだろう、多分。
情報の二相理論にせよ、スーパーヴィーニエンスにせよ、物理的な性質ではない性質がこの世界にはあるということは認めている点で、二元論的な部分を残しているようなところがないわけではないように見える。
もっとも、スーパーヴィーニエンスは、物理的な基盤がなければ心的なものは生じないし、物理的な性質が変われば心的な性質も変わる。つまり、心的な性質は完全に物理的な性質に依存しているという点で、物理主義ないし物的一元論なのである。とはいえ、心的な性質が物的な性質と同一であるとか、物的な性質に還元されるとかいった主張ではない。その点で、心的な性質の存在自体は認めている。
(と思ったんだけど、D.ルイスはスーパーヴィーニエンス使って、同一説の主張をしているっぽい)

    • 追記(20171212)

『感情とクオリアの謎』を再確認した。
スーパーヴィーニエンス説をとる柴田論文の結論部

このスーパーヴィーニエンス関係は、機能的性質を通して、またそれを通してのみ成立する、と言っていいのではないだろうか。つまり、機能的性質は様々な認知主体と物理的素材において多重実現されるが、あるクオリアが経験の主体に生ずるための必要十分条件はその当の機能的性質の出現であり、それを介して、そのクオリアはそれらの物理的素材の物理的性質にスーパーヴィーんするのである。(中略)しかし、第一人称の経験と第三人称の存在物、つまりクオリアと機能ほどに存在論的に乖離した現象を何がこのように法則的に結びつけるのか。しかし、それは私には、「なぜエネルギーは光速の2条に比例するのであって、3乗に反比例するのではないのか」という問いと同じようなものに聞こえる。pp.27-28

    • 生成モデルの二相理論

本書で主張されている「生成モデルの二相理論」だが、チャーマーズが情報には物理的な性質と現象的な性質の両面があると述べたのと類比的に、生成モデルには物理的な性質と現象的な性質の両面があるとする主張である。
先ほど、生成モデル説は表象説に位置づけられるのではないか、と述べた。もしそうであるならば、現象的な性質・側面というのは、まさに生成モデル=表象の機能的な性質や物理的な過程そのものなのであると考えることになる。
一方で、この二相理論的な言い方は、そこは必ずしも同一であるとはいえない、というようにもとれる。
つまり、生成過程には、情報処理という客観的な側面と、感覚意識体験という主観的な側面があるという言い方をしている。
生成モデルやその生成過程というのは、あくまでも物理的なものであると思うのだが、これにさらに現象的な性質が生じるというのであれば、これはむしろスーパーヴィーニエンス説的な立場なのかもしれない。
(生成モデルを、物理的なものでも現象的(心的)なものでもない中立的な何か(チャーマーズの場合、情報)と捉えるのであれば、二相理論となるのだろうが、生成モデルそのものはあくまでも物理的な範疇におさまっているものだと思われるので、二相理論よりはスーパーヴィーニエンスの方が近いような感じがする)

    • その他

以前、ジェラルド・M・エーデルマン『脳は空より広いか』 - logical cypher scapeを書いた時に、その時、自分の知っている様々な立場を整理したことがあった。
すなわち

  • エーデルマンのダイナミック・コア仮説
  • スーパーヴィーニエンス
  • ハンフリーの考え
  • 三浦俊彦のファイン・チューニング
  • 消去主義

エーデルマンのダイナミック・コア仮説は、ほとんどスーパーヴィーニエンスだと思うのだけど、エーデルマン自身は違うと言っている。神経メカニズムに意識が伴立すると言っていて、機械に意識が生じるとは考えていない。一方、スーパーヴィーニエンスは機械に意識が生じる可能性を否定しない。
また、ここでいう「ハンフリーの考え」というのはニコラス・ハンフリー『赤を見る』 - logical cypher scapeで論じられていたもので(新刊まだ読んでないので考え方が変わったのかどうか知らぬ)、感覚にはフィードバックループがあって、それが意識になるという説。あと、感覚と知覚は別とも述べられている。
しかし、この考えは脳神経科学の知見とはもはや整合的ではないのではないだろうかという感じがする。
ところで、エーデルマンの弟子がトノーニで、統合情報理論は、ダイナミック・コア仮説の後継理論っぽいのだが、統合情報理論は、ジュリオ・トノーニ/マルチェッロ・マッスィミーニ『意識はいつ生まれるのか――脳の謎に挑む統合情報理論』 - logical cypher scapeで書いたけど、NCCを見つけるための理論ではということで、自分の理解する限りでは、ハードプロブレムに対する回答になるようなタイプの理論ではない。現象性を統合性に還元してしまうという立場っぽいが、統合性は現象性にとって重要な要素の1つであるとは思うが、統一性で言い尽くせるものではないように思われる。
(統合情報量は、意識についての十分条件にはなっていないが必要条件くらいになっているのでは、と思ったのだが、本書だとその必要条件性に対しても疑義がでてくる)

  • 本書で提案されるより一般化された形での自然則

さて、本書は「生成モデルの二相理論」をとりあえずの自然則として提案しているのだが、これよりさらに一般化をすすめた自然則も提案している。
生成モデルは、現象的意識にまつわる自然則の、地球上の生物における実現例であって、実際は、より一般的な自然則があって、地球以外ではまた別の形で実現しているのではないか、ということだと思う。
(ところで、現象的意識はたまたま進化上、地球の生物にのみ生じていて、法則としてはそこまで一般化されないという可能性もあるのではないかという気もする)
これについて、本書では「因果関係の取り込み」を行っているシステムに現象的性質が生じる、というようなことが書かれているが、2ページほどのコラムで書かれているだけなので、いまいちどういうことなのかはよく分からない。
個人的な解釈としては、外界と何らかの意味で同型性を維持しているシステムは、外界の表象になっていて、そういうシステムは必然的に現象的性質をスーパーヴィーンする、という感じだろうか、と。
現象的意識を説明する際に面倒なことって、現象性を持っていることを説明しなければならない一方で、何らかの形で外界の事物の性質と関係しているだろうということも説明しなければならない点で、これを一挙に言おうとすると「因果関係の取り込み」は現象的性質を有するということになるのかなーと。
あと、このことから、自動運転車には現象的意識生じているのでは、とも述べている(これ、統合情報理論だとどうなるんだろうか)。自動運転車についてはともかく、オシツオサレツ表象を持つ動物にも現象的意識があると言えるのかな。
オシツオサレツ表象って、生成モデルないし予測コーディング理論の観点からいくとどうなるんだろう。

(4)機械と接続して確かめるという実証について

さて、本書は哲学者ではなく科学者が書いているので、そんな自然則がこの世界の根本的な事実だ、と述べたって、実際にその自然則が成立しているかどうか経験的に確かめられないとだめじゃないか、という話になる。光の速さが不変なのはどうしてか分からないとしても、不変であるということ自体は実験で確かめられる。
(哲学者は論理的に、もしくは既存の理論との間に矛盾がなければ一応それでokということになる)
で、ここから、この本のぶっ飛んでるところなのだが、結局、意識のあるなしは、自分自身で確かめてみないとわからんのであり、人間の脳とそっくりの機械を作り上げた上で、その機械と接続すれば、その機械に意識が生じているか確認することができるのでは、ということを言いだし、本当に確認出来るかの検証を始める。
ところでこれって、タイプB物理主義なのでは、という気がする。
タイプA物理主義ないし還元主義的な立場であれば、生成モデルが成立している=現象的意識が生じているということなので、前者の検証で後者の検証も尽きていると考えるのでは。
現象的性質は、一人称的視点からしか知ることができない、がゆえに、一人称的に知る方法を考えよう、という話になっているので。
メアリの部屋に対して新事実戦略あたりの立場をとるのと似たような立場な気がした。
で、このあたり、自分がスーパーヴィーニエンスと、タイプA・タイプBとの関係があまりよく理解出来ていないので、整理できてないところなんだけど、(3)の話とももちろん繋がっている

ぼんやりした感想

そもそも、これは生成モデルがどうの以前の話だけれど、自分が外界として知覚している経験って全て脳内で生起している一種の幻想であるというのは想像するとなんかすごいなあ
外界だと思ってるけど、脳内で生起している現象であるということが、脳は外界の中の一部分だと思っているけれど、この外界は全て脳の内部なんだ。
(生成モデルは、誤差の計算という形で外部からの入力を取り入れているので、観念論やセンスデータ説とはならないのだと思う)
じゃあ、本当の意味で(?)外界を見渡せる客観の視点からこの世界を見たらいったいどのように見えるのか……