【計算と哲学】意識と計算 / 後書き

計算と哲学というテーマを語るなら、絶対に避けられないのは意識の議論です。
意識・主観的経験・現象的意識など様々に呼ばれるそれを自信をもって語れる人など存在しやしませんが、しかし語れることは語るべきでしょう。
私自身結論を出せているとも言えませんが、いくつか個別の関連テーマを取り上げます。
つまり今回はトピック集のような記事です。
これで本アドベントカレンダー「計算と哲学」私担当分の一応の締めくくりとします。

# 意識のハード・プロブレム
意識に対する問題の一つに[意識のハード・プロブレム](https://ja.wikipedia.org/wiki/%E6%84%8F%E8%AD%98%E3%81%AE%E3%83%8F%E3%83%BC%E3%83%89%E3%83%BB%E3%83%97%E3%83%AD%E3%83%96%E3%83%AC%E3%83%A0)です。
有名な問題ですし記事として新規性もないので、WikipediaなりGoogleなりを参照してください。

しかし、「人間の様な振る舞い」の話と、「主観的経験を持つ」という話を区別しない議論は時折見かけるので注意が必要です。
「意識」と言うのは多義的で、一方では人間的な意識、脳に問題がない人が覚醒している状態のようなものを意味します。
他方では質や種類に寄らない主観的経験を意味します。
植物状態・睡眠中と覚醒中の人間をMRI検査して見比べたところで、意識の本質的な問題を解明したとは言えません。前進はし得ますが。
それはあくまで物理としてアルゴリズムとして、あるいは計算機として見た脳の振る舞いの話です。
そもそもなぜ物理的なプロセスあるいは計算から主観的な経験が産まれるかというのは別次元の話です。

あるいは主観的経験の一種として人間的のような意識が存在すると考えることもできます。
そうであるならどういう場合に「人間的意識」を持つかという議論は有効です。
その場合も「意識」と言う言葉の多義性に注意しなければいけません。

補足：
これについては意識のハードプロブレムと言うより、哲学者Ned Blockによる「アクセス意識」と「現象的意識」の違いと言った方が適切に思えます。
脳を計算機として捉えている私としては「アルゴリズムとしての意識」「意識報告」と「主観的経験」のような言葉の方がしっくりきます。
以下の記事が参考になります。私自身読んでいて気付いたので補足します。

* 土谷尚嗣 意識 脳科学辞典 https://bsd.neuroinf.jp/wiki/%E6%84%8F%E8%AD%98


# 最低限の仮定
意識の問題は分かっていないことだらけです。
ですから、基本的な議論を始めるのにも一々但し書きなり議論なりが必要な場合があります。
学者ならそれで良いかもしれませんが、話を進めたいときには正直不便です。

ですからこの分野で議論をする際には大胆な仮定から始めるのが良いと考えます。
あんまり未証明の前提から議論を始めるのは非科学的ですし、いざ否定されれば破綻しますし、矛盾があればとんでもない結論がでます(爆発律)。
しかしまぁまず否定されることはないでしょう。否定されたらその時です。

私が妥当と考える仮定は以下です。

* 独我論は正しくない。他人にも意識はある。
    * 正しくなければ他人に語る意味がほぼない(少しはある)。
* 人間相当の人工知能は理論的には構成可能。そしてそれは意識を持つ。
* 人間は計算機で概ねシミュレートできる。
    * 「心はシミュレートできないから挙動が変わる」みたいなことは起きない。
* シミュレートされた人間は意識を持つ。
* 物理学は人間にも当然に適用できる。脳だけに特別な法則は適用されないし、物理学の拡張も必要ない。
    * ただし既存の観測や既知の物理法則に矛盾しない拡張はその限りではない。例えば「計算は主観的経験を必ず伴う」とか。
    * また未発見の物理法則の存在も否定はしない。

# チューリングテストの延長
独我論と言う哲学の立場が存在します。
それは自分の意識のみが存在すると考え、他者の意識は存在しないか疑わしいとするものです。
これは極端な考えで素朴に信じる人は少ないですが、一方で否定しがたいのも事実です。

より現実的な立場は「他の人間にも意識がある」とするものでしょう。
事実はどうあれ、そうでなければ語る必要もほとんどありません。
「他の人間」の定義は難しいですが、概ね人間のような形をしていて言語的による会話ができれば人間でしょう。現状では。

しかし意識の存在を人間に限るのも不合理です。
特に人工的なアルゴリズムを評価する際には、哺乳類の意識について論じる場合に様に人間(より正確には明白な意識者にとしての「私」)との類似性で議論することもできません。
この際よく使われる基準が[チューリング・テスト](https://ja.wikipedia.org/wiki/%E3%83%81%E3%83%A5%E3%83%BC%E3%83%AA%E3%83%B3%E3%82%B0%E3%83%BB%E3%83%86%E3%82%B9%E3%83%88)です。
これは要するにチャットの相手が人間だと判断したら「知的だ」とするものです。
客観的に十分な根拠を持つわけではありませんが、認知科学の話では大抵言及され概ね受け入れられていると言えます。
飽くまで知的かどうかで意識の存在を判断するものではありませんが、知的であれば意識を持つんじゃないかと考えるのも自然です。

チューリングテストは一見知的ではないアルゴリズムがパスしてしまうこともあり、よく挙げられる例は[ELIZA](https://ja.wikipedia.org/wiki/ELIZA)というプログラムと[中国語の部屋](https://ja.wikipedia.org/wiki/%E4%B8%AD%E5%9B%BD%E8%AA%9E%E3%81%AE%E9%83%A8%E5%B1%8B)や[ブロックヘッド](https://ja.wikipedia.org/wiki/%E3%83%96%E3%83%AD%E3%83%83%E3%82%AF%E3%83%98%E3%83%83%E3%83%89)という思考実験です。
今回はそういう話は無視して、チューリングテストをさらに緩めて考えてみます。
知的な存在なら人間的対話が可能であると考える理由もないので、チューリングテストが必要条件と考えるのも実際おかしな話です。
大雑把に考えて「その生成物を観測した際に知的であるように思える」程度でどうでしょうか。判定手法としては到底使えませんが。

## 「生物の進化」全体
生成物と言う意味では、地球上の生物は知的な存在による生成物であると言えなくもありません。
我々自体が知的な存在で、直感的にはそれを産みだしたなら知的であると考えられます。
神が人間を作ったというのは多くの神話に見られますし、その現代版ともいえる[インテリジェント・デザイン](https://ja.wikipedia.org/wiki/%E3%82%A4%E3%83%B3%E3%83%86%E3%83%AA%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88%E3%83%BB%E3%83%87%E3%82%B6%E3%82%A4%E3%83%B3)という主張もあります。

もちろん我々は生物がどのように進化したのか知っています。
自然に「進化」と書いてしまう程に当たり前で、概ねの仕組みを我々は理解しています。
それ故に生物が知的な何かによって生み出されたという発想は、もはや宗教的な迷信にしか思えません。

しかし機構の最小要素を解明することは、その全てを理解することとは全く別です。
神経細胞を理解することは人の営みを理解することと、論理回路の理解とコンピューターの理解することと別です。
生成物から判断するなら、「生物の進化」全体、あるいは種のような単位で見た一部としては知的であり、意識を持っているではないかと考える余地はあります。

ある系で条件を満たす計算が実行されていないと証明するのは容易ではありません。
計算資源が不足している、あるいはそれが実行される理由がない場合は容易ですが今回は当てはまりません。
地球上の生物達の営みと進化に費やす時間は計算資源として莫大であり、動物種間の競争と言う意味で種全体の振る舞いとして知的であることは優位です。
ですから「生物の進化」全体が知的であるということはあり得ないとは言えません。

## フィクションの登場人物
良い小説を読んでいると、その登場人物が実在するかのようにリアルに感じられ、その行動が感情が発言がとても自然に思われます。
場合によっては彼らがこういう場合にどう反応するか、と自分で想像して会話を組み立てることも出来たりします。
だからフィクションの人物も存在する、と主張するのは余りに早計ですが考慮の余地はあります。

まずチューリングテストにおいて観測者自身が対話するのを、二者の対話を観測者が眺めるというのは自然な拡張です。
さらに自分でその架空の人物が行う受け答えを構成できるなら、チューリングテストをパスしているというのも言い過ぎでしょうか。
別にチューリングテストはフィクションとノンフィクションを見分けるというテストではないですが、似たようなものです。

次にフィクションには作者がいますから、辿って行けばどこかに意識を持つ知的存在、というか人間が存在するのは確かです。
ですからチューリングテスト的なものにパスするのは当たり前だとも言えます。
しかしフィクションの登場人物自体が、ある種の意識を持つという可能性は興味深いものです。

有能な小説家が数億年くらい小説を書き続ければ、いつかあらゆる状況あらゆる文脈あらゆる問いに対応できる全ての応答が出揃います。
これを辞書形式にしたのが、いわゆるブロックヘッドと呼ばれるものです。
ブロックヘッドはごく普通の人間の様に会話をできますし、チューリングテストもパスします。
そこに意識があるとすればどういう形態だと言えるでしょうか？
小説家一人の意識だけなのか、あるいは何らかの形でそれ以外の意識が産まれていると言えるのか？

そう考えればフィクションの登場人物ももしかすると意識が存在するのではと言う気になりませんか？
なりませんか。そうですか。

## 人間の社会
同じようなことが人間の社会だとか集団・組織などにも言えます。
社会を観察すると個人では到底把握していないことを集団があたかもそれを理解したかのように振る舞い、社会学者あたりがそれを複雑な理論で定義する、と言うことが起きます。
構造主義で有名なレヴィ・ストロースの平行いとこと交叉いとこだとか、戦略的な権力闘争のようなマスメディアや法学者の振る舞いだとか、そういう類です。
それもまた全体として意識を持つということはないでしょうか？

なさそうですね。流石に無理がある気がします。
結局ここでいくつか挙げた例の何が問題かと言えば、動物の脳内で起きているような活発な情報交換が見受けられないということにあるでしょう。
それが「離断脳は二人の人間だと言えるのか？」みたいな話に繋がるわけです。
そう考えるとチューリングテストにはいくつか条件を加えるべきかもしれませんね。
実際「シンプルなアルゴリズムは除く」みたいな条件は既に加えられているようなものです。
とはいえ、人間的なタイムスケールを超えた意識というものが普通に存在する可能性を否定したくはありません。

# 意識の存在を否定する人はいない
物理法則に変更の余地がないとすれば、私が「自分に意識が存在する」「クオリアがある」などと書いたときそれは純粋に物理的な振る舞いであり、広義の計算によって出力された文章に過ぎません。
そうでないなら脳と「心の世界」のようなものがどこかで接続されているということになるでしょうが、その世界だって法則と計算で成り立っているんじゃないでしょうか？
意識に麻酔や脳手術で物理的な介入ができることから考えても無理があります。
一方で私は本当にそう思って感じて主観的な体験を証言しているにも関わらず、それがおおよそ機械的な手続きによって出力された文章に過ぎないというのも感覚に反します。

気になるのは主観的経験を持つにも関わらず「私には意識が存在しない」と主張する場合が存在するかという問題です。
存在しないとすれば意識判定アルゴリズムのようなものを定義でき、それが主観的経験の有無と一致することになります。

精神疾患や脳の障害で「私には意識がない」と真摯に証言するような例は聞きません。
「私には意識がない」と出力するプログラムや、人間が嘘を吐くことは可能です。
しかし検証を経て意味があり嘘ではない証言としてのそれは別です。
現状で未確認はないということではありませんが、なさそうではあります。

私としては人間的な意識の存在に対する常に真を返すアルゴリズムがあるのではないかと考えます。
そのアルゴリズムを実行した場合には意識を持つのでしょう。
そしてそのアルゴリズムを持つ条件は、なんというかまとまった意味のある一貫した思考です。それ以上のことは私は何とも言えません。
しかし主観的経験はそれに限るものではなく、いい加減で混乱した意識があると言えない主観的な経験もあるはずです。
それは限度を超えた飲酒の先、一部の昏睡状態や睡眠中などで想像されるものではないかと考えます。

まだまだ途上ですが、今のところこんなところではないかと考えています。

# 計算機ごとの意識
世界は一つの計算機としてみなすべきだという記事を書きました。
シミュレーション内の世界はまさに実際の世界のように振る舞います。
入出力のない閉じた計算はまさに世界と呼べるようなものです。
では「細い」入出力を持つ場合はどうでしょう。あるいはスクランブルされた観測は？
例えば標準入力を受け付けるプログラムは世界を観測すると言えるでしょうか。

とりあえず粗雑ですがある程度細い繋がりは無視するとします。
その場合、この世界にはそれと世界そのものと同様に入力を持たないプログラムがあり、あるいは個別の動物もまた一つの世界と呼ぶべきでしょう。
この世界は様々な部分世界で構成されています。
名前を忘れ検索もできませんでしたが、そういう「動物ごとで一つの世界」との主張は既にあるそうです。
そうした世界に対して一つの意識が伴うのかもしれません。
ただこの考え方は様々な問題点があります。判定者や曖昧さなどです。

閉じた計算と観測は連続的です。
実際には外部と繋がっている場合も閉じた計算だとみなせることもあります。
世界を分割するというイメージでの議論は問題があります。
世界と言う計算機と、移動する(意識は連続的なので)始点/観測者として考えるべきなのでしょう。
結局意識の統合情報理論みたいな結論になってしまいましたね。私もこの問題に関してはまだまだよく分かりません。

実際には緩く繋がっているとするならば、「私」は私の身体に限られるのでなく、脳を中心とした宇宙全体であるとも言えます。
他人の痛みや感覚は感じられないのではなく実際には私と接続しているけれど、その結合は余りに緩く曖昧でもはや理解できません。
その結合が緩くなるあたりがおおよその「私」の境界と定義しうるでしょうし、要するに概ね自分の身体までが自分でしょう。

<details><summary>ミラーニューロン</summary><div>

関係ないので折りたたみますが、実は他人の痛みを観測すると実際に痛みを感じていたりします。
それは[ミラーニューロン](https://ja.wikipedia.org/wiki/%E3%83%9F%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%A5%E3%83%BC%E3%83%AD%E3%83%B3)と呼ばれていて…詳しくはWikipediaでも参照してください。
1996年という割と最近の発見です。
fMRIとかを使った脳の研究はここ10年20年くらいで進んだものが多くて結構興味深いです。

このミラーニューロンという言葉、割とネットで流行る気がしてるんですよね。
「ミラーニューロンがフル稼働する」みたいな感じで結構使い勝手が良い。
テレビやアニメで取り上げられるみたいなきっかけさえあれば割と見るようになるんじゃないでしょうか？

</div></details>

# 後書き
アドベントカレンダーで一週間分。かなり疲れました。
Qiitaってシリーズ記事を書く方法ないですよね。
だからアドベントカレンダーで書きたいなぁと思ってたのが去年C#の記事を書いた頃で、それを11月の告知で思い出しました。
そこから一ヶ月程度、4日に1記事程度のペースで書きました。

別に論文を書くわけじゃない、たかがQiita記事なのでかなり気楽に書きました。
自信のなさか意図的か、結構投げやりな口調が多いですね。
内容の正しさはともかく新規性があって興味深い記事に…なりましたよね？

基本的に私の哲学で、他人の意見を紹介したようなパートはほとんどありません。
逆に言えばだいぶ危ういです。

もちろんQiita記事の為に一から全部考えたわけではありません。
古い内容だと10年以上前に思いついたネタもありますし、書きながら色々考えたものもあります。
趣味とかライフワークと言っても良いかもしれないですね。

一方できちんと論文で調べて云々という怠い作業はしたくないです。
だからちょくちょく危うい内容があるのは仕方がないことです。
というかそうでもなけりゃこんなにいろんなネタを思いつかないでしょう。

この記事を読んででも、そうでなくても、書きたくなった人はアドベントカレンダーにどんどん追加して欲しいです。
私の記事へのレスポンスとか感想とかでも良いですし、全く別ジャンルの話でも良いし、ポエムでも良いでしょう。
このシリーズ自体ポエムみたいなもんですし。

## 参考文献
* [Wikipedia](https://ja.wikipedia.org/)

この一連の記事に限らず、私の哲学や倫理の話は結構Wikipediaから得られた知識に依拠しています。
Wikipediaを批判する学者も最近では珍しくなりましたが、まぁ実際分野によっては酷いです。
しかし哲学や倫理学のような政治的対立のようなものがない分野、そして誰に聞いても同じ話を繰り返す分野だとかなりマトモです。
できれば確実な情報源でダブルチェックした方が良いですが、概ね内容は同じです。
ですから興味がある方は偏見を持たずWikipediaから入るのがおすすめです。

ただWikipediaはみんなが参照するので、同じ言い回しを繰り返し見るようになります。
意見の多様性云々というより陳腐です。本を読む気力があれば本で読むか、引用元を本にするかした方が良いです。
その方がかっこよく見えます。その程度ですけど。

* 野谷茂樹 1994年『論理学』東京大学出版会

記号論理学の講義は受けましたが、記憶がかなり薄れていたので色々確認するために手元にあった本を読みました。
野谷茂樹さんは哲学系の入門書を分かりやすい言葉でたくさん書いている人で、この本も専門家向けのきちんとした本ではなくて入りやすい入門書です。高校生向けくらい。
他にも「ウィトゲンシュタイン『論理哲学論考』を読む」とかおすすめです。

記号論理学で実際に手作業推論をすることは今後一生ないので飛ばして読むとあっという間です。
だいぶ前から手元にはあったのですが読んだ記憶がなく、数時間で読める程度だったのでもっと早く読むべきでした。
ちょくちょく記事で致命的なミスをしてたのに気付けたので大恥をかく前に良かったです。

* ゲーデル『不完全性定理』岩波文庫

作者がゲーデルになってますけど、ゲーデルが書いた部分は最初の方だけです。解説が本体。
現代人からしたら数式や証明文が自然数に還元できるなんて常識なので、ゲーデル数化とかなにまだるっこしいことやってるんだという感じです。
そもそも停止性問題から証明した方が手っ取り早いですが。
証明は意外や意外、めちゃくちゃ読みやすいです。
有名な証明、例えばポアンカレ予想なんか絶対読めないという感覚からすると驚きます。

これを読んだのはだいぶ前ですけど、今回のシリーズに若干影響してそうだったので参考文献に挙げておきました。

* 木原貴行 [2018年](https://www.math.mi.i.nagoya-u.ac.jp/~kihara/pdf/teach/computability2017fall-final.pdf)『計算可能性理論特論・講義ノート』

計算可能性理論とかチューリングマシンの話とかが結構あやふやだったので、確認のためにネットで見つけたPDFです。
さすがにこの辺りを全部Wikipedia任せにするのは不安だったのでちょうど良かったです。

講義を受けた記憶がなかったですし、こんな講義があれば絶対受けたですのでおかしいと思いましたが、これ大学院の講義ノートですね。
計算可能性理論って大学院レベルなんでしょうか。情報系なら普通に習うイメージでしたけど。
これもまぁ読みやすいですけどところどころ私の嫌いな大学数学の知識が前提になっています。
全文読むのは時間が掛かるので要点だけ読みました。

* Bjorn Poonen, Undecidable problems: a sampler, available at https://arxiv.org/abs/1204.0299

上の本で参照されていた計算可能問題ではない例です。
今回読む気がしませんでしたが、興味がある場合は良さそうです。

* 宮野 健次郎/古澤 明 2008年『量子コンピュータ入門』

量子コンピューターについては余り触れませんでしたが、いくつかの議論は量子コンピューターの知識が背景にあります。
イメージし難い量子力学の話も量子コンピューターというモデルで考えれば少し分かりやすくなった記憶があります。
量子力学の非決定論性も全パターン網羅で記述可能という話も、この本にあるような量子コンピューターの書き方という背景があります。
まぁ別にそれは当たり前の話ですけど。シュレディンガーの猫だって両方記述してますし。ただ127ビットとかになるとさすがに無理です。

ちなみにその時にレポートで手計算をサボった時のツールが[qc2tex](https://github.com/kurema/qc2tex)です。
Perlで無理やり自前実装数式処理をしてるので、場合によっては破綻します。宣伝。

なお冒頭の「Pのクラスに変換できる」という記述は誤りです。
「量子コンピュータで多項式時間で解ける」という話で、BQPのような量子コンピュータを用いた場合のクラスが存在します。

この本には新しい版があります。
紹介されていないアルゴリズムとして面白いものに「グローバーのアルゴリズム」というものがあります。

* ジュリオ・トノーニ/マルチェッロ・マッスィミーニ 2015年『意識はいつ生まれるのか －脳の謎に挑む統合情報理論－』花本知子訳 亜紀書房

この本は…うーんですね。
途中で触れましたが、読みやすくて楽しい本です。統合情報理論で検索して出てくるほぼ唯一の本です。
ただ「統合情報理論」に期待して読むとがっかりします。

* クリストフ・コッホ 2014年『意識をめぐる冒険』岩波書店

今手元にないので別の本と勘違いしてたらすみません。

意識の話をする場合にはこの手の本は触れておいた方が良いです。
意識に関するいろんな科学的な知見が触れられていて、確か読みやすく分かりやすかったです。
「統合情報理論」を初めて聞いたのもこの本です。

我々が当たり前に感じる自由意志と言うのは結構危ういものです。
この辺はいろんな実験があって、実際は自分が決定したわけでないのに割と勘違いしたりします。
ただこれも自由意志を否定しているとは言えず、自由意志の話では触れませんでした。でも知っておいた方が良い話です。

他にも、何か意識について色々と興味深い話があったような…気がします。
図書館で借りたんですけど、記事を書く機会にまた借りるなり買うなりすべきだったかもしれないです。
あ、確か脳が巨視的な、古典物理的なプロセスだって書いてあったのがこの本です。