意識の研究方法についての備忘録

意識はマジックワードのようだ。この単語を目の前にすると、たとえ聡明な人であったとしても、まるで魔法にかかってしまったように思考が乱れてしまい堂々巡りの議論を繰り返したりする。果たして意識はそこまで神聖な単語だろうか。

私はそうは考えない。意識は脳によって生み出されているのは明らかである。脳のユニットを構成する神経細胞の基本的な動作原理もすでに明らかにされている。ならば、神経細胞のネットワークを組み立てたその先に意識はあるに決まっている。理解まであと一息のところまで来ている。あとは一気に真実まで到達したいところだ。本備忘録では、考えうる方法論をできうる限り分かりやすく書き留めておく。

意識を議論するにあたって、意識の定義を明確にする。まだ実態が明らかではない対象を定義するのは困難ではあるが、それでも同じ対象を観察していないと議論はできない。一方の人が月を見ていて、一方の人が太陽が見ているようでは議論が噛み合うわけもない。

ここでは意識を視覚に限定する。あなたが目を開けた瞬間に目の前に広がるその情景だけに議論を絞る。多くの人が思い描く意識の全体像からすると部分的な定義にはなるだろうが、それでも意識には違いない。目の前に広がる情景が存在することに誰も疑問はないだろう。もっとも共有しやすい定義だと思う。これを意識映像と呼ぶことにしよう。

さて、意識映像は、目が見える方であれば誰もが日々リアルタイムで経験できる。それはあたかも外の世界にあるように感じられるが、これは脳が作り上げた意識の世界である。目から入力される光の情報は、空間的にも時間的にも断片的で歪みも激しく、時折入力が途絶えたりしており、さらには、エッジの情報など特徴だけが脳に伝えられている。意識映像で経験するような滑らかで綺麗な映像は脳のどこにも存在しない。ましてや、色の情報も明暗の情報も最初からバラバラである。脳が作り上げない限り、あなたの経験している意識映像の情報は現れることはない。このポイントは神経科学の基本知識なので再認識しておく必要がある。

意識映像には大きな特徴がいくつかある。そのひとつは他人の意識映像は体験できないということだ。この特徴があるがために、極端な話、人間全員に本当に意識はあるのだろうかとか、いや待てよ動物に意識はあるのだろうか、などの疑問が生じることになるし、意識をマジックワードにする原因にもなっている。意識の主観性である。

たとえ話をする。Ａさんが望遠鏡で月を観察していたとする。Ｂさんも望遠鏡で月を観察していたとする。月はひとつしかないので、観察している対象は同じである。しかし、望遠鏡には覗き口がひとつしかないため、ＢさんにはＡさんが見ている月がどんなものか知りようがない。逆も同じである。これが意識の主観性である。Ｂさんにとって、Ａさんが同じような映像をみているかどうかは、ひとつはＡさんとの会話から類推できる。もうひとつは望遠鏡というものが似たような原理で作られているので、まったく違う映像にはならないだろうという類推である。隣の人にも意識映像はあるだろうと考えるのは、おもにこの二点からの類推である。悲しいことに類推以上でも以下でもない。この強烈な壁が意識をマジックワードに追い込んでいく。哲学的ゾンビは、ここから生まれる。

もうひとつ大きな特徴がある。意識映像は滑らかで綺麗である。先ほども述べたが、神経細胞が行っている情報処理は複雑でノイズだらけの電気信号処理である。脳のなかを必死に探し回っても滑らかで綺麗な映像はどこにもない。このとんでもないギャップがさらに意識をマジックワードに追い込む。意識のハードプロブレムのひとつに分類される大問題である。

望遠鏡であれば筒の途中の部分的な光情報を観察しても何も分からないが、最後には覗き口のところで綺麗な月の映像が結像するので、Ａさんの替わりにカメラを取り付ければＡさんが見ていた映像を可視化することができるのでＢさんも見ることができる。望遠鏡なら、このようなカメラが用意できれば誰もが納得できる答えを得ることができるのだ。

さてここだ。脳にはこんな便利なツールは用意できないものだろうか。

意識映像は実在する。そこには体験している主体が取り出すことのできる情報があり、記憶することもできる情報もある。情報は神経細胞のような物質的な実態をもたないので分かりにくいが、実在もしているし機能もしている。意識映像が情報として実在しているなら、それを作り出している脳にはそれと等価の情報が実在していることになる。その情報を取り出すことができれば、意識映像に近づいたことになる。

たとえ話をする。先ほどの望遠鏡が電波望遠鏡だったとする。捉えているものが光ではなく電波なので、そのままの情報ではＡさんもＢさんも見ることはできない。しかし電波の情報を適切な翻訳をして光の情報に変換することはできる。もとは電波なので、光に変換した後の映像は観察対象の影のようなものではあるが、観察対象の理解は大いに進むことになるだろう。ＡさんもＢさんも同じ映像を観察することができる。意識映像もこのような類ではないだろうか。意識映像は暗号化されていると考えるのである。ならば、意識映像を理解するには適切な翻訳機を開発すればいいことになる。

ひとつの方法は、脳や神経細胞の活動をリアルタイムに、それもできるだけ全脳に近い記録をとり、それをそのまま意識映像に翻訳することである。脳の情報の翻訳ができれば、その翻訳機のアルゴリズムは意識映像の暗号キーそのものとなる。意識映像の理解は格段に進むだろう。最近、夢の可視化などが試みられているが、この路線の研究は極めて重要である。fMRIだけではなく、電気信号、光信号からの翻訳研究の発展を望みたいところだ。

もうひとつの方法は我田引水になるが、人工的な脳を作って意識映像を引っ張り出してみるという方法論である。人工脳を作り意識映像そっくりな可視化を抽出できれば、私たちは有望なアルゴリズムを得たことになる。私たちの意識映像は、外の世界そのものを再現してはいない。色、形、動きなど物理パラメータとは全く異なる独特な特徴を持つことが知られている。その性質を利用すれば、抽出した映像の正当性を判定することは不可能なことではない。

私たちが理解すべきは、情報という概念である。情報の本質は、情報処理を担うメディアに依存しない。ならば、脳から翻訳機を通じて可視化することも可能であるし、人工脳に意識の本質を作り出すことも可能であると考える。

たとえ話をする。電卓でもソロバンでも四則演算が可能である。かたや電子半導体上のデジタル論理演算が計算を担っているし、かたや木でできた玉の位置が計算を担っている。人が操作するという意味では同じ情報ツールであるが、メディアはまったく異なる。しかしながら、四則演算という情報処理においては、電卓とソロバンの本質は等価である。ソロバンが理解できれば電卓の本質は理解できる。電卓を脳、ソロバンを人工脳あるいは翻訳機と置き換えればいい。電卓と比べてソロバンを原始的で拙いと笑い飛ばすのは簡単だ。しかし私たちが理解すべきは、情報という概念であるならば真剣に考えるべき方法論ではないだろうか。

最近、ALifeという分野を知った。生命を作ることで生命を知ろうとする学問だ。ALifeでは直接生命を研究しない。生命っぽいものを追いかける。その意味では哲学だ。しかし再現性がとれる方法論を採用する。その意味では科学だ。作ることを重んじるので、その意味では工学だ。そして、完成したものが人の心を動かせば、それは芸術だ。それはまさしくソロバンの世界。

もし、ドラえもんのような汎用人工知能が街に現れたとき、そしてそれらが人の心を動かした時、人は生命を真に理解するだろうとALifeは期待している。私も同じ立場だ。

ALifeに興味がある方は、下記の入門記事を参照してくださいませ。入門書でありながらオリジナリティに溢れています。

Introduction to Artificial Life for People who Like AI, Lana Sinapayen (2019)

https://thegradient.pub/an-introduction-to-artificial-life-for-people-who-like-ai/

追記（2019/12/10）：意識という言葉を一度捨て去ってもいいか、とも思う。ひとによって捉え方があまりにも違いすぎる言葉。無用な混乱が生じる元ではないかしら。脳の研究、あるいは、人工知能の研究を突き詰めたときに「あ、これが意識と呼んでいたものか、」と後から気づくようなものかもしれない、とも思う。

追記（2019/12/11-12）：ハード・プロブレムの議論のところは「きめの問題（grain argument）」のほうに近いとのご指摘を、基礎生物学研究所の鈴木大地さんから受けました。思案して微修正を加えさていただきました。思案はもうすこし続けます。

追記（2019/12/12）：本文微修正。

脳は作って使えばわかる（実装主義）

先日投稿した記事【脳は作ればわかる】の続きです。

https://eijikiwako.blogspot.com/2019/01/blog-post_31.html

先日の記事では、『LSI（大規模半導体集積回路）が、これまでの神経科学の手法では理解できないだろう』という批判に対して、「作ればわかる」という主張をしました。

この主張には、大事な続きがあります。

これまでの神経科学の主要な流れは、神経細胞を見ることにありました。形態を見たり、活動を見たりの、データ観測（実験）です。これに対して、近年別の潮流として「作る」が重要視されています。いわゆるモデル研究（理論）です。「見る」と「作る」のキャッチボールがなされたときに、神経科学は大いに進むことに違いありません。

でも、まだ不足しているポイントがあります。それは「使う」という概念です。

例えば、LSIを完全に復元できたとしても、実際に使って見なければ、その機能や性能はわかりません。LSI上で動いているOSやアプリを復元する必要がありますし、なによりも、そこに何が入力され、何が出力されるのかを再現しないといけません。つまりハードウェア上を流れる「情報」を再現する必要があるのです。

脳は孤独なハードウェアではありません。常に環境から感覚情報が入力されており、独特な主観的世界を作り出し、身体を通じて運動としての出力を行い、さらにその出力は感覚情報に影響を与えています。これまで心理学が取り扱ってきたような、情報の中身までを、現実に即した形で再現する必要があるのです。

昨年発表した論文では、「作る」だけではなく「使う」をかなり意識しました。

「Illusory Motion Reproduced by Deep Neural Networks Trained for Prediction」

https://doi.org/10.3389/fpsyg.2018.00345

この論文では人工的に作り上げたモデル脳に、実際にヒトが見るであろう「景色」を入力しています（下の動画参照：First-Person Social Interactions Datasetからの引用）。頭の上にカメラを付けて、ただただディズニーランドをうろうろ歩いて撮った動画ですが、これこそがヒトの脳にとって自然に近い入力情報となります。

その上で、ネットワークが作り出すアウトプットと、ヒトが実際に経験している「知覚体験」と一致するかどうかを検証します。この論文では「錯視」を使いました。あくまでもヒトがリファレンスです。

もちろんまだまだ穴だらけの研究です。本当に現実に即した情報のやりとりを再現するには、やるべきことが山積みです。それでも、この先「見る」「作る」「使う」の三位一体がなされていくなら、神経科学は飛躍的に発展すると信じています。

公共事業でいうところの「箱モノ」を考えていただければよいかとおもいます。どれだけ立派な建物を建てたところで、使わなければ意味がありません。コンサートホールの価値は、そこで何が演奏されるかにかかっているのです。

脳は作ればわかる（実装主義）

この記事
https://rmaruy.hatenablog.com/entry/2019/01/29/225106
とてもよく議論されてます。

ただ、
一点足りないのは【作ればわかる】という観点です。

この記事の『LSI（Large Scale Integration、大規模半導体集積回路）が、これまでの神経科学的方法では理解できないだろう』は至極真っ当な意見です。LSIを顕微鏡で観察してもLSIの動作原理は理解しがたいことでしょうし、LSIに電極を刺して電気特性を観察したとしても、理解への道筋が困難を極まるのは容易に想像できます。

この意見に対しての反論として「作ればわかる」を推しておきます。LSIがどれだけ複雑怪奇な代物であったとしても作ることができれば理解したことになります。これまで神経科学が「作る」という手法を主流にしてこなかっただけです。時代はかわりました。「作る」という方法論を従来の観察に加えることで、「見る」と「作る」の間で相互循環が始まっています。

最近おもうのですが、これまで多くの脳科学を研究する者に欠けていたのは「当事者意識」のような気がします。自分たち自身が観察対象になっているという事実です。人間とは面白いもので、今目の前で観察対象としている脳と、観察している自分の脳を切り離して考えることができます。脳を本気で知ろうとするとき、この安全装置が邪魔になります。いまのいままで「作る」を妨害していたのは、技術的問題だけではありません。

ディズニーランドは極めて精巧に世界が閉じています。入場者はディズニーランドにいるあいだ外界と遮断され、ディズニーランドが奏でる物語に浸りきって暮らすことができます。だからこそ楽しいのです。人は皆それぞれの物語を大切にしているディズニーランドの住人といえます。科学者といえど人間です。自分の大切な物語に傷をつけようとする行為には、どのような理屈をつけてでも反抗します（僕はディズニーランド効果と呼んでいます）。

本来、科学者というものは、ディズニーランドの外にいて「そこはディズニーランドですよー！」と呼びかける無粋な人たちです。科学者は人間が作り上げたディズニーランドが偽物の世界であることに気づいてしまった人たちです。

科学者は真実の世界を知るために施設の外に出てしまったのです。そこには共通のルールも倫理すらもないのでとても孤独な世界です。でも、その代償として無限の自由を手に入れることができます。なんの足かせもない世界で、ディズニーランドでは気が付くことのできない真実を発見することができます。だからこそ、科学が突き付ける真実はいつも無粋です。

しかしそうは言っても、科学者も人の子。大なり小なりディズニーランドの住人を脱することはできていません。時には、ディズニーランド効果という言葉にピンとこない可能性すらあります。

川端康成がノーベル賞受賞記念講演で一休和尚の言葉として引用した「仏界入り易く、魔界入り難し」。仏の道に入り、仮に仏の教えを知ったところで悟りきれない、その先にはさらに正体不明の闇である魔界が待つとされています（本来の魔界の意味とは異なります）。真の文学者はそこまで踏み込んでいかねばならない、すべての世界を描ききることを文学の使命とした川端の重い言葉であり、川端文学の神髄を現しています。魔界とは、ディズニーランドの外の世界のことかもしれません。

はたと、一部の科学者がこの事実に気がつき、本気で脳を作り始めたとき、神経科学や脳科学は急激な進歩を始めるのかもしれません。

Yasunari Kawabata (Wikipedia)

この記事には続きがあります。

【脳は作って使えばわかる】
https://eijikiwako.blogspot.com/2019/02/blog-post_28.html

シンギュラリティ

　シンギュラリティとは、人工知能がヒトの脳を超える瞬間のことを意味します。分野を限れば、すでに人工知能はヒトの脳の能力を遥かに超えていますが、シンギュラリティではヒトの脳が関わるあらゆる分野を対象としています。ヒトと同じような意識をもつことも想定されています。このような万能型の人工知能のことを、汎用人工知能、あるいは「強い人工知能」と呼びます。

　いま世界中で、シンギュラリティは来るのか来ないのか、白熱した議論が戦わされています。産業革命よりも遥かに強力なインパクトを社会にもたらす事件です。強い人工知能は、有機体ではありませんので生物としての制約を受けません。人工知能内の全データをコピーすることが可能なので、その増殖速度はとんでもないことになるでしょう。その時なにが起こるのか想像がつきません。議論が白熱して当然です。

　本稿では、この巷で噂のシンギュラリティについて、個人的な見解を述べておきます。私たちの片割れである渡辺は、人工知能を使って脳の仕組みを探る研究を進めています。その必然としてシンギュラリティについても考える機会がおおく、自分なりの意見をもっております。人工知能に関わる脳の研究者として、いつまでも自分の意見を潜めておくのは潔くないので、立場を明確にしたいとおもいます。もちろん、これは現時点での一科学者の考えですので、新しい科学的発見がなされることによって、意見をコロリと変える可能性は大いにあります。科学者とはそういう生きものです。

　さて、強い人工知能なんてSF世界の絵空事ではないかとお考えの方に、ひとつ単純な算術をお示ししましょう。ゼブラフィッシュという熱帯魚がいます。この魚はとても小さくて、ちょうど日本のメダカと似たような大きさです。体は小さくても脊椎動物ですから、脊髄から終脳まで脳の構成はヒトと同じであり、脊椎動物のモデル動物として学問の世界では広く深く研究されています。このゼブラフィッシュの脳にある神経細胞を数えた研究者がおり、だいたい１０００万個と算定されました。神経細胞同士はシナプスという構造で結合されており、その結合数は細胞の１０００倍程度、すなわち１００憶個くらいと推定できます。人工知能で脳を模倣するには、シナプス結合数をカバーできるだけのメモリー容量が最低必要になります。１００憶個という数字をコンピュータの言葉に直すと、１０ギガバイトです。現在個人向けに普及している人工知能用計算機のメモリー容量が１１ギガバイトですから、スケールとしてはゼブラフィッシュのシナプス結合数とほぼ同等になります。

　もちろんメモリー容量のスケールが同等だからといって、すぐにゼブラフィッシュの脳が模倣できるわけではありません。魚の脳がどのように動作しているかが皆目わかっていませんので、あくまでもスケールだけの問題です。ヒトの脳はゼブラフィッシュの１０００倍ほどのスケールになります。上のゼブラフィッシュの例は「普通に市販されている計算機」の話です。現在のスパコンの性能を考えますと１０００倍というのはとるに足らない数字です。スケールだけならヒトの脳はすでに射程距離に入ったと考えるべきでしょう。

　つまり、強い人工知能を実現するためのハードウエアは整いつつあると考えてもいいのです。となると、あとは脳がどのように動作しているかが明らかになれば、強い人工知能への道筋は開かれることになります。現実の問題として、私達の脳は現に「動作している」のは間違いないわけですから、そこにはなんらかの動作するための原理原則があるはずです。それを人間が今知らないだけとすれば、それが明らかになった暁には強い人工知能の実現は自明のことのように思えます。

　となると、「シンギュラリティが来ない」派にとって、まだ幾ばくかでも主張を裏付ける論拠は残っているのでしょうか。考えに考え、私なりに思いついた論拠の一つは、そもそも脳の構成要素が神経細胞やシナプス結合ではない場合です。レゴブロックで作られたお城の構成要素は、ひとつひとつのブロックになります。ひとつのブロックの性質を知れば、お城がどのようにできているかを知ることができます。もし、神経細胞やシナプス結合が脳のブロックでなかったとしたら、大前提が間違っていますから強い人工知能はできないことになります。しかし、これまでの神経科学の知見、人工ニューラルネットの研究から、この大前提は崩れそうにありません。

　二つ目の論拠は、脳の動作原理が解明できなかった場合です。この可能性はまったくないとは言えません。例えば、物理学はとんでもなく発展したように見えますが、まだ量子力学と相対性理論を統合できるような究極の理論はみつかっていません。超弦理論やM理論のような可能性を秘めた素晴らしいモデルも現れてはいますが、実験で証明することはかなり困難です。脳の動作原理もその類でしょうか。答えは、おそらく「否」でしょう。量子力学はあくまでも量子一個一個で記述しないといけない超ミクロ世界のルールであって、それに比べて神経細胞が発生させる電気信号は超マクロな世界での出来事です。巨大な神経細胞やシナプスが量子の振る舞いを制御しているとはとても思えません。そのような神経細胞を構成要素にする脳の動作原理は、困難であるにしても解明されるのは時間の問題ではないでしょうか。意識による自身への保護作用はあるにしても、解明を逃れることは不可能に思えます。

　三つ目の論拠は、強い人工知能が危険な技術と判断されて法律的に、あるいは政治的に規制される場合です。可能性が全然ないとは言えませんが、極めて魅惑的な技術を目の前にして、果たして欲深い人間がじっと我慢をすることができるのでしょうか。

　文頭で「白熱して当然」と指摘しながら、今私は「来るか来ないか」の議論は不毛のような気がしています。なぜなら、待っていれば自然と答えがでるからです。だとしたら、黙って待てばいいことになります。議論をしなくても近い将来結論がでることに血道をあげることにどれほど意味があるのでしょう。もし本当に来ないと信じているのなら「来ない来ない」と声高に叫ぶのは、むしろ奇妙な行為におもえます。放置しておいても「来ない」だけです。

　「来る」と信じている人工知能研究者は、淡々と実現に向けて研究を続けていくことでしょう。そういう研究者へ向けて「来ないのだから、そんなことをしても不毛です」という忠告でしたら、それこそ不毛です。人はそれぞれ趣味をもっていますが、ある人から見て不毛にみえる趣味でも本人にとってはかけがえのないものです。真実を探求する行為、新しいものを創造しようとしている行為は、誰にも止めることはできません。それは自由意志の賜物であり、たとえ一人になってもでもやり続けることでしょう。

　では「来ない」という主張は「来るという主張は社会不安を煽る妄想だからやめなさい」という気持ちの表れでしょうか。それは一番ダメなパターンです。もし「来る」のであれば、それに対して社会基盤を整備しておかないといけません。地震と同じです。地震なんていつどこに来るのか来ないのかわかりません。それでも、来た時のための対策は入念に考えておくべきでしょう。来なかったとしても、来るとして考え抜いた議論は人類の知恵の宝になるはずです。この世を去る直前に、人工知能研究に対して真摯な警告を残したスティーブン・ホーキング博士の末期の眼は極めて真っ当であり、科学者としての責任感に溢れた態度です。

　最後に、もうひとつの可能性を提示しておきます。「来たけど超えなかった」という可能性です。上のレゴブロックの例では、ひとつのレゴブロックの原理がわかれば、大きなお城を作ることも、またそれ以上大きなお城を作ることも可能です。しかし、神経細胞やシナプス結合ブロックの場合は、果たしてそれが可能でしょうか。例えば囲碁のような特別な技能に関しては超えることができたとしても、汎用性を付与したときに同じ方式が通用するでしょうか。恐ろしく長い時間をかけた生物の進化の過程で培われたヒトの脳が、わりとギリギリまで性能を高めた成果物であるという可能性はないでしょうか。意識には容量があるというのが定説です。この意識の容量がボトルネックにならないでしょうか。抽象的な言い方をすると、これ以上ヒトの脳を拡張した末に精神のバランスがとれるか否かです。これについては、私は５０％５０％と考えています。しかし、この可能性に対しても、きっとそのときに答えがでることでしょう。

　このような議論は、私が学生だった８０年代、９０年代にはまったく成立しませんでした。アイデア自体はあったのですが、それこそ絵空事でした。それが現実のものとして議論され始めたことに、ただただ感動と人類への畏敬の念を感じます。私はずっと待っていたのです。私は学生のころから絵空事を絵空事と考えていませんでした。この先の人工知能研究、神経科学研究の展開にゾワゾワしています。生きている間に意識が生まれる瞬間に立ち会えるかもしれません。実装するべし、JUST DO IT.

　人類が叡智の先に何を見るのかな？