脳の中のカオス1
津田一郎 （北海道大学電子科学研究所）

はじめに

1

みなさん，こんにちわ．ただいまご紹介いただきました北大数学の津田です．実は私は岡山県出身でして．
．県北の津山から少し南に入った中央町（現美咲町）の出身です．岡山大学で数学会が開かれ，その市民講演会で岡山のみなさんにお話できることをとてもうれしく思っています．清原先生，山田先生はじめ岡大数学のスタッフの方々に対しまして，また数学会理事会に対しまして，ご招待いただいたことに感謝いたします．
はじめにアメリカ数学会（AMS）の数学分野の分類表をお目にかけます (表１参照）．３分の２は誰もがそれとわかる数学の分野が書いてあります．面白いのは，皆さんが必ずしも数学だとは認識していない分野が３分の１もあることです．理論物理全般，計算機科学，OR，統計学，生物学，経済学，行動科学とゲーム理論，数値解析，情報工学，数学教育などです．数学では，さまざまな分野で国際会議が活発に行われて数学研究の質を高め，優秀な若手数学者の発掘，育成が大変盛んです．その中で，４年に１度大きな国際会議が開かれています．主に純粋数学中心の「世界数学者会議」（ICM）と応用数学中心の「産業・応用数学に関する国際会議」（ICIAM）です．さて，ここに今回数学会が行われる岡山大学の数学教室の分野構成を書きました．代数・計算数理科学，空間数理科学，解析・汎用数理科学となっております．また，本日の私の講演と深い関係のある研究テーマが何人かの岡大数学教室の数学者によって行われています．カオスとの関連で言えば，エ1

この文章は２００５年秋の日本数学会市民講演会での講演を後に思い出してまとめたものである．当日は市民講演会の性格上多くの図表を使用したが，版権の問題もあり，ここではほとんど採録しなかった．
「この図は」などという表現はそのまま残したが，図を載せていないことによって本文の理解の妨げにはならないと思う．

ルゴード理論，酔歩の理論，カオスとの対極の理論として可積分測地流の理論，脳科学との関係で言えば，逆問題などです．しかし，実は数学全般が複雑に関係していると言うのがほんとうのところです．本日の講演で私の言いたいことを最初に言っておきます．私の講演は脳とカオスに関するものですが，実はこの講演を通して私が強調したいことは，次の二点に集約されます．特に若いみなさんに，今のうちに数学，特に純粋数学（AMS の表にある初めの３分の２）をしっかりと勉強してください，と申し上げたいと思います．次に「科学技術のための数学」（AMS の表の後半の３分の１）の重要性です．

2

脳の概観

ここからが本論です．脳のモデルはその時代時代でもっとも複雑な機械でした．つまり，機械が脳のモデルだったわけです．具体的には次のような変遷を経てきました．時計 → 自動人形（オートマトン）→計算機械（そろばんからコンピューターへ）．逆の見方が可能です．つまり，それらの機械は脳の働きをひとつの方向に特化させたものである，と言うことです．脳から機械が生まれたわけです．
これは現存する最古の機械じかけの時計です．１３００年頃と言われています．次は，楽器を演奏することに特化した自動人形，次は文
字を書くことに特化したもの，次は絵を描くことに特化したものです．
次はさまざまな国の算盤です．計算機械の始まりですね．次のスライドはチャールズ・バベッジの考案した解析機関です．これは，バベッジの肖像画をかたどった記念切手です．バベッジの頭部に数字がいっぱい書いてありますね．彼自身が “計算する人 = computer” だとでも言いたげですね．さて，これが神経系の図です．ラモニ・カハールという解剖学者がこういう神経の集合体の図を初めて書きました．網膜の神経細胞です．次は視覚野の神経細胞をゴルジ染色と言う染色法で染め出したものです．全ての細胞が染め出されてはおりませんが，神経細胞が整然と規則的に並んでいるのがよく分かります．脳の中ではこのように神経細胞の構築が規則的であるものや，ランダムであるものなどさまざまです．次の図は脳全体の荒いスケッチです．みなさん
一人一人がこういうものを持っているのです．少々乱暴な言い方をすれば，この中から数学も生み出されるということです．次の図はホモンクルスと言って，体性感覚情報を処理する脳の神経細胞の数の多さに比例して人の体を描き直したものです．手と下唇からの情報を処理する細胞が他と比べて異常に多いということがすぐに分かります．

3

カオス入門

さて，次にカオスについて少し解説します．カオスが脳の中でどのような働きをしているだろうかと想像したいからです．科学的な意味
でのカオスはアンリ・ポアンカレによって天体力学の三体問題の研究を通じて最初に発見されました．二つの天体が万有引力による相互作用を通じて運動するときの軌道の研究はケプラー問題として知られており，その解軌道は楕円，双曲線，放物線のいずれかによって表現される運動であることが分かっています．これは，二体の中心力のもとでは物体は平面運動をすることから導かれます．しかし三体になると，それぞれ二体が万有引力による相互作用のもとで運動をしても状況は飛躍的に複雑になるであろうことが容易に想像されますが，ポアンカ
レは新しい数学の方法を発見してその複雑さの内容を明らかにしました．ポアンカレはこの問題には一価解析的な解が存在しないことを証明し，「微分方程式の定性的解法」，すなわち今日の「力学系理論」につながる方法の発見によって，非常に複雑な運動の解が存在することを示しました．三体問題の特解はたくさんあるようで，数年前にも三体が８の字型の軌道上に存在するという解の存在が証明されています．
ポアンカレは周期的でない軌道に対応する解が三体問題に存在することを示したのですが，これが今日多くの数学者，物理学者が研究している力学系のカオスと本質的に同じ数学的な構造をもつものであることが分かっています．
その後カオスの研究は，１９６０年代初頭のロレンツの大気運動の不安定性の研究におけるカオス解の発見や上田，川上の電気回路のカオスの発見を皮切りに（実際には，ロレンツや上田らの仕事は当初まったく顧みられず，１９７０年代半ばにともに再発見されたのですが），
１９７０年代のリーとヨークの定理，ルエルとターケンスの乱流理論，実験物理学者による流体実験での初期乱流とそれにいたる分岐の発見

などを経て，その機構が本質的には１９６０年代に出されたスメイルの馬蹄形写像に還元される，という地点に到達しました．ポアンカレの発見した二重漸近解はまさに馬蹄形写像の持つ構造を生み出すのです．これらのほかにも重要な研究が多くの国でなされました．日本でも古くから重要な研究がなされてきました．低自由度（低次元）系の研究においては，保存力学系のカオス，化学反応系のカオス，強制振動系のカオス，カオスの統計力学に関する研究，カオスの指標であるリアプノフ指数に関する研究，数値計算に伴うカオスの研究，確率論やエルゴード理論からの測度論的な研究，非双曲型力学系の研究，など，数学と物理学から（日本においても）多くの寄与がありました．最
近では化学からの寄与もあります．欧米の人たちの基準や評価のみを鵜呑みにした日本のカオス研究に対する必ずしも高くない評価は的外れであると私は思います．もう少し，自分たちできちんとした評価を行う習慣を日本人もしなければならないのではないでしょうか．高次
元力学系においても日本からの先駆的な研究が知られています．
物理学におけるカオスの概念は，ミクロな分子運動を扱う統計力学の基礎として２０世紀前半には意識されていました．分子運動にはボルツマンの平衡分布を保証する機構があるはずで，そこにカオスの存在が仮定されました．これを分子的混沌（ミクロカオス）の仮説と言います．これからエルゴード仮説という統計力学を支える大事な仮説が導かれます．この問題はやがて数学者のバーコフによって定式化され，エルゴード定理に発展しました．エルゴード問題は古典統計力学だけではなく量子統計力学の基礎でもあります．今日では，C ∗ 環などの現代数学と密接に関係して発展しています．平衡統計力学の基礎としてミクロカオスの存在が認識されたのですが，他方，平衡からはずれた非平衡状態ではどのような構造が生まれどのような運動が現れるのかと言う問題は，巨視的秩序の生成機構を問う問題として１９６０
年代後半からイリア・プリゴジンや彼に影響を受けた人たちによって研究されてきました．実はこの非平衡の巨視的秩序の一つとして巨視的なカオス（マクロカオス) の存在が認識され研究されてきたのです．
巨視的カオスの存在が認識されると，複雑な現象を見る見方が変わりました．それ以前は，複雑で予測不可能に思える現象を見ると人々は，まず変数の統計分布をもとめ，平均値やそれからのずれを，例えば二次の統計量である分散や標準偏差（これを「ゆらぎ」と呼びます）を求め，統計的に処理しようとしてきました．これは複雑な現象をひき起こす原因も複雑で我々人間には確率的な扱いしかできない，という認識に基づいた研究方法です．しかし，カオスの発見以後は，仮に複雑な現象が現れてもその原因はもしかしたら単純かもしれない，もしかしたら単純な力学系で説明できるのではなかろうか，と人々は考えるようになりました．この認識の変化は大変重要だと私は思っています．このことを例証するために，次の表をご覧ください．ここには0 から 1 までの実数が順番に並んでいます．いわば，実数の数列が与えられています．この数列を眺めて，皆さんは規則を発見できるでしょうか．数列は非常にランダムに並んでいるように見えます．むろん，有限個のデータから規則を一意に決定することは不可能ですから，この数列を生み出す規則の中で最も単純で美しいものを選択しましょう．
試しに，n 番目の値を横軸に，n + 1 番目の値を縦軸に再帰的にプロットして見ると，放物線上に点が敷き詰められていくようすが見て取れます．とすると，これがこの実数列を生み出す規則を与えているに違いありません．実際，この数列は xn+1 = 4xn (1 − xn ) という方程式に初期値を与えて再帰的に生成したものなのです．“数の運動” は非常に複雑で予測不可能に見えますが，この運動の本質は統計分布や平均値，またはそれからのずれをいくら計算しても見えてきません．放物線上に点が敷き詰められるという幾何学的な情報や，上の方程式（力学則）を抜き出すことのほうがはるかに本質的なのです．

4

脳におけるカオス

カオス現象は物理系に限らず，B-Z 反応のような化学反応系や生体内のさまざまな反応系，神経細胞や神経細胞の集団的活動などにも見られます．ここでは神経細胞集団に見られるカオスの紹介をしましょう．ウォルター・フリーマンという神経科学者が４０年かけて行った脳の研究の大きな成果は，脳は外界の情報には直接的に反応していない，むしろ内的に情報を生成し外界の内的イメージに反応している，ということです．私は，脳の数理的な研究を始めたときからまさにこのことを強調し，「脳の解釈学的研究」というものを始めました．脳は単純な刺激・反応の機械ではなく，すなわち刺激に直接反応するのではな
く，内部イメージを作り出し，そのイメージに反応するのです．このことをフリーマンは数々の実験によって証明してきました．みなさんは奇異に聞こえるかもしれませんが，自然科学ではほとんどの理論は仮説であり，実験によってそれが正しいか間違っているかが “証明” されるのです．自然科学の多くの理論は数学のように自己完結的ではありません．だからこそ，数学を武器にすることで厳密性を確保してきたわけです．
さて，この脳の解釈過程にカオスが現れて，おそらく何かの働きに関与している，ということが見えてきました．フリーマンの実験もそのことを示しているように見えます．なぜなら，例えば動物が臭いをかいで行動決定しようとするときのみ脳の中にカオス的な神経活動が現れたからです．また，カオスは記憶に対するアトラクターとして働いているかもしれません．最近，動物実験において “アトラクター” と思しき活動状態が見つかりました．フリーマンの実験もアトラクターがにおいの記憶状態を表現することを示唆しています．さらには，アトラクター間を遷移する過程も発見され，私たちが「カオス的遍歴」と呼んで研究してきた大自由度力学系の遷移過程に近い過程が実験でも見つかっています．
脳の中の活動でさらに興味深いことは同期と非同期が不確定な持続時間の後交互に繰り返されるというものです．特に，この現象は視覚皮質で見つかっていて，その機能に注目が集まっています．この現象も神経細胞集団のカオス的遍歴で説明できるのではないかという仮説
を数学モデルの研究を通して私たちは提案しています．この研究成果をムービーにしましたので，それをお目にかけます．

5

脳の数学研究脳神経活動とその意味 (心の様相）の数学的な研究方法の一つを紹介しましょう．まず，脳の神経回路の最新のデータをもとに，数学モデルをつくります．それを計算機実験にかけて，さらに力学系や確率論などの分野で発展した手法による解析を行います．その結果を脳の実験データと比較しモデルを再検討します．この段階で，脳神経活動によって表現される心の様相を数学モデルの解析に使った数学言語が表現しているか否かを考察します．これによって，脳の研究を通して心の適切な言語としての数学の可能性を広げていきます．
このような方法による最近の研究結果をまとめましょう．
１．イカニューロンの数学モデルは実際のイカニューロンの現象を再現する．さらに，これが以下の行動と対応する．
２．哺乳類ニューロンの数学モデルは脳内の集合的電位変化を再現する．しかし，これが脳の機能とどのように対応するかは分かっていない．
３．ニューラルネットのカオス的遍歴的変化で記憶の貯蔵・維持・再生が表現できる．
４．同期・非同期現象はニューラルネットのカオス的遍歴で表現できる．
私たちは，さらにエピソード記憶形成過程に関する海馬神経回路網の数学モデルをつくり，そこにカオス的遍歴とカントル集合が現れることを見出しました．カントル集合は，ここでは時系列を階層的に符号化していることが分かりました．そこで，経験の時系列であるエピソードの記憶もこのようなものではないかと考えてきました．実際，カナダでの臨床実験で海馬がエピソード記憶形成に必要な場所であることが分かっていますので，この仮説は魅力的であるように思われます．玉川大学脳研究施設と玉川大学工学部の施設を使って現在実験が行われています．予備的な実験では，カントル集合に見えるような階層的な神経活動が見つかっています．これからの実験との共同作業が楽しみなところです．

6

もっと数学を本日は，カオス理論を通して数学が脳研究に寄与しうるという話をしました．これは数学が科学技術に寄与できる可能性のほんの一例に過ぎません．数学の科学技術への広がりはもっと広大なものでしょう．
北海道大学数学教室ではこういった数学の可能性を視野に入れてさまざまな活動を行っています．このような活動を通して，私たちは数学の裾野を広げて行きたいと考えています．最先端の純粋数学で使われる言語は素人が簡単に分かるような代物ではありません．しかし，他方で科学技術の数学は初めにお見せしたアメリカ数学会の分類表の右の三分の一の分野と深く関係して発展しています．表の左三分の二の数学が発展して初めて表の右三分の一が真に力を発揮するわけですし，またこれらの右三分の一の分野の数学研究が発展することで新しい数学の問題が発掘され，左三分の二の数学の発展が期待される，という関係があり，互いに切り離されたものではありません．このような観点も踏まえて数学全体を見ていただければ，若い人たちの可能性は数学という普遍的な学問をとおして無限に広がっていくのではないかと思っています．ご清聴ありがとうございました．