第 66 回定例仁科記念講演会

物理学とコンピューティング「深層学習と物理学」
大阪大学理学研究科物理学専攻 教授
橋本幸士「量子アニーリングによる量子コンピューティング」
東京工業大学科学技術創成研究院 特任教授
西森秀稔

2020 年 12 月

第 66 回定例仁科記念講演会

物理学とコンピューティング「深層学習と物理学」
大阪大学理学研究科物理学専攻 教授
橋本幸士「量子アニーリングによる量子コンピューティング」
東京工業大学科学技術創成研究院 特任教授
西森秀稔

2020 年 12 月

【司会:初田哲男 理化学研究所数理創造プログラムディレクター】
皆様こんにちは。多くの方にお集まりいただきありがとうございます。それでは時間になりましたので、2020 年度第 66 回の定例仁科記念講演会を開催したいと思います。
私は今日の司会を仰せつかりました、理化学研究所の初田哲男と申します。どうぞよろしくお願いします。今年は仁科芳雄博士の生誕 130 周年ということで、明日が仁科先生の生誕の日ということですが、今回はコロナのこともありオンライン講演会ということ
で、YouTube ライブで皆様方にお伝えするということになりました。
それではまず仁科記念財団理事長の小林誠先生から一言ご挨拶をいただきます。
では共有をよろしくお願いします。

【挨拶：小林誠 仁科記念財団理事長】
本日は仁科記念講演会にご参加いただきありがとうございます。主催者を代表しましてご挨拶を申し上げます。仁科記念講演会は日本の現代物理学の基礎を築かれた仁科芳雄博士の功績を記念して、仁科記念財団の主催で毎年開催しているものであります。本
年は先ほど初田さんからありましたように、新型コロナウィルス感染対策としてこのよ
うなオンラインによる開催といたしました。コミュニケーションに制約があるかと思いますが、その一方でどこからでもご参加いただけるというメリットもあるかと考えております。
なお、例年どおり日本アイソトープ協会より後援をいただいております。
本日は橋本幸士さんと西森秀稔さんを講師にお迎えして、物理学とコンピューティン
グというテーマでお話を伺うことになっております。講師のご紹介等はこのあとすぐ司会の初田さんからございますので、私からは少しだけ仁科先生と仁科記念財団についてお話をさせていただきます。
仁科先生は 1890 年に岡山県里庄町にお生まれになりました。今年が生誕 130 周年ということであります。お誕生日が 12 月 6 日でありますので、明日でちょうど 130 年であります。もちろんこの講演会の日取りも一日違いではありますが、これに合わせて設定したものであります。
さて、仁科先生は東京帝国大学を卒業後、1921 年にヨーロッパに渡られ、1923 年からはコペンハーゲンのニールス・ボーアの下で研究されました。当時ボーアの原子模型に基づいた研究が主に行われていましたが、1925 年には量子力学の成立に至ります。
仁科先生はこうした発展を目の当たりにされたわけであります。そして 1928 年に帰国

される前後に、有名なクライン-仁科の公式を発表される。帰国後、理化学研究所に仁科研究室を開き、ここが日本における原子物理の中心地になったことはよく知られたこと
かと思います。
ちなみに私の背景でありますが、背景の写真は日本アイソトープ協会の建物でありますが、仁科先生が活躍された頃の理研の建物で、今に残るものであります。
仁科記念財団は仁科先生の功績を記念して 1955 年に設立されました。仁科記念講演会と並んで財団創設以来続く事業として仁科記念賞の授与がございます。この場をお借りして本年度の仁科記念賞の受賞者をご紹介しておきたいと思います。

今年度の仁科記念賞は、有機伝導体における強相関量子液体の研究に対し鹿野田一司
さん（写真左：東京大学大学院工学研究科教授「有機半導体における強相関量子液体の研究」）に、原子核乾板を用いたダブルストレンジネス原子核の研究に対し仲澤和馬さん（写真右：東海国立大学機構岐阜大学教育学部大学院工学研究科シニア教授「原子核乾板を用いたダブルストレンジネス原子核の研究」）、のお二人に差し上げることになりました。本年は例年のような授賞式は行わないこととし、昨日オンラインで賞状の伝達とお祝いを申しあげる機会を持ちました。私からのご挨拶はここまでといたします。この後、講演会をごゆっくりお楽しみいただきたいと思います。それでは初田さんよろし
くお願いいたします。

【司会】どうもありがとうございました。
それでは講演会の方に移りたいと思います。まず私の方から簡単に講師のご紹介をさせていただくことになります。
その前に、仁科先生は戦前は理研において様々な新しい分野の開拓ということをされてこられて、理論物理学、宇宙線物理学、それからサイクロトロンの建設などに貢献され、理研の第 4 代の所長、それから科学研究所の社長ということで運営にもご活躍されました。
今回はそのような、仁科先生が新しい分野を開拓していくというところに繋がるという意味で、物理学における新しい潮流ということで、物理学とコンピューティングという題目で、お二人の方にお話を伺うことになります。一つは深層学習、もう一つは量子アニーリングという分野に焦点を当てて、それぞれ橋本さん、西森さんにお話をいただ
きます。
質問などは通常とは違いますので、YouTube ライブですので、直接お声を上げていただくわけにいきませんので、チャット欄に、講演の途中でも構いませんので、書き込んでいただいて、それを講演後に拾い上げて、ご質問に答えていくという、そういう形を採らせていただきたいと思います。
それではまず橋本幸士さんから。共有をまずはしていただけますでしょうか、経歴のご紹介をその間にさせていただきますので。
まず最初の講演者は橋本幸士さん、大阪大学教授です。それで橋本さんは 2000 年の3 月に京都大学で理学博士の学位を取得されまして、それで 2000 年の 4 月以降京都大学の基礎物理学研究所、それからカリフォルニア大学のサンタバーバラ校の理論物理学研究所などの研究員を経て、2001 年から東京大学の素粒子論研究室、駒場の素粒子論研究室で助教、それから 2007 年からは理化学研究所の専任研究員そして 2010 年から
は准主任研究員で理研におられ、それから 2012 年の 10 月から大阪大学の教授として移られておられます。橋本さんはご専門は超弦理論それから最近では深層学習と物理学ということで様々新しい分野の開拓をされておりますが、それと同時に様々なアウトリーチ活動、文章とか演劇とか、それから本を書かれたり、様々な活動もされておられます。それでは橋本先生よろしくお願いします。

スライド 1

今ご紹介に与かりました大阪大学の橋本です。よろしくお願いします。今日皆さんのお時間を 1 時間ぐらいいただきまして、私の研究とそれにまつわる様々な最近の発展についてお話しさせていただきたいと思います。
タイトルは深層学習と物理学ということで、ここにあります写真はですね、もちろん左側に見えますのは、先ほど私を紹介してくださった初田さんで、右側に渋い顔をしているのが私です。なぜこの写真をということなのですけれども、これは実は仁科芳雄先
生のお部屋なのですね、駒込に仁科記念財団がございまして、そこの当時の理研の建物の 2 階にこの仁科芳雄先生のお部屋が当時そのままに保存されておりまして、そこに初田さんと一緒に YouTube の撮影のために訪ねて、そこで仁科先生の机に座らせてもらったりとかですね、この後ろに黒板がありますけれども、これは仁科先生の黒板で、特に、よく見ますとこの辺りに水虫とか書いてあってですね、これ面白いですね、もちろん仁科先生は原子核物理学の開祖であるわけですけれども、その先生が水虫って書いていると、これは理研の研究の素晴らしさの一端を物語っていると僕は思っておりまして、
特にここで初田先生がパソコンの画面を私に見せてですね、仁科先生のこととか核力のこととか説明してくださるのですけれども、素粒子物理の方は特に超弦理論が専門の私

は、ここでよく分からんところには渋い顔をしておりますね。こういう自由な雰囲気が昔からだと聞いています。
私は 2007 年ぐらいから 2015 年ぐらいまでですね、理研の仁科センターに所属させていただいておりまして、そういうご縁でこういう部屋に入れていただけたりしました。
理研はそういう自由な雰囲気で。
今日のタイトルにあります「深層学習と物理学」というふうな題の講演をしますが、深層学習というと最近は AI と言われて、非常に発達している科学技術ですね、一方、私のやっているような超弦理論というのは、特に画像認識であるとかそういう直接の恩恵を受けるような学問ではないと。ちょっと離れた、科学でも端と端に離れたとこにあるというふうに考えられます。しかしですね、こういうものが繋がってき得るというそ
ういう発想し得るというのが、この仁科先生の教えであり、今理研に受け継がれていることだと思います。
この場を借りまして、先ほどの小林理事長そして家先生や藤川先生、理事の方々そして運営諮問委員の早野先生、初田先生に感謝させていただきます。機会をありがとうございます。
それでは早速この「深層学習と物理学」という話にまいります。
この研究はですね、この 3 年ぐらいに世界の各地で勃興していまして、それは非常に面白い形なのですね。機械学習、特にその中の深層学習は、もちろん例えば車の自動運
転とかですね、そういうものに実装されていて、非常にこの世の中を変えようとしています。一方でそういうものは科学技術の発展ということなのですけれども、一端技術が発展すると、それは基礎物理学の方にも大きな影響を与えまして、私のように実験をやっていない、理論物理学でしかも宇宙のこととか重力のこととかいう非常に基礎の分野
ですね、100 年先に応用がされるか分からない、そういう分野、そういう分野の研究者にも大きな影響を与えています。そういうふうな興奮みたいなものを、今日これを聞いている特に学生の皆さん、大学生の皆さんに伝えられたらなと思ってお引き受けしました。どんなふうに研究者が興奮しているかというと、今年は残念ながらコロナのせいで、
Zoom のオンラインミーティングが多いですが、世界各地でこの機械学習と物理学に関係する研究会、そういうものが非常に多数行われてます。私が関与したものだけでも非常に多くて、それはこの 3 年間ぐらいで勃興したものです。

スライド 2

まずその研究の状況をお伝えできたらと思うのですけれども、この Deep learning
and Physics 2020 オンラインセミナーシリーズ、これはコロナが始まってしまってから 4 月にこういう研究の機会をオンラインで持とうという有志の富谷昭夫さん（理研BNL）そして永井佑紀さん（原子力機構）、田中章詞さん（理研 iTHEMS）、理研 iTHEMSのセンター長は初田先生ですけれども、この 3 人の若い人が集まってこういうのをやったらどうかということで、私も入れさせていただいてこれを始めました。初めは我々4人だけだったのですけれども今はもう 800 人に膨れ上がっていてですね、隔週でやっているのですけれども、色々な物理と機械学習の関係者に登壇してもらって、今そこで何が起こっているのか、面白い発見がどのように続いているのかというのを分かり易く、全然違う分野の、物理でも広いですから、そういう人達に集まってもらって議論するという場を設けております。

スライド 3

これは日本だけのことではなくて、例えばアメリカでもですね、 Physics ∩ ML
(Physics Meets Machine Learning )というオンラインセミナーが、これも今年の 5 月からスタート(launch)して、登録者数はもう 1000 名を超えていてですね、アメリカとヨーロッパのタイムゾーンではこれが十分研究の新しい領域として機能しつつあると聞いています。深夜なので、日本からも聞けるのですけれども、夜中に起きないと聞けないのですけれどもね。

スライド 4

物理学会でも同様でして、去年（2019 年）の 3 月に開催しました、私が企画したシンポジウムでも、非常に多くの物理学者の方が押しかけて楽しく議論しました。そのプログラムを見てみますとこんなふうになっていますね。プログラム 2 番は物性物理のグ
ランドチャレンジについて、プログラム 3 番は中性子星の状態方程式、プログラム 4 番はデータ駆動手法の話で新物質の話ですね、5 番はモンテカルロの話、6 番は繰り込み群、7 番は宇宙の話ですね（あとでちょっと出てきますけれども）、8 番は量子力学の基本的なやつを機械学習にどう使うかという話のように、こういうふうに物理の非常に広い分野に渡って機械学習との関連を通じて領域が形成されつつあるという、そういう状況になっています。

スライド 5

学会だけでなく単発的な研究会も世界各地で行われていまして、これが去年の国際会議ですね。

スライド 6

スライド 7

3 年前の阪大でやったこの会議とかですね。

スライド 8

これはアメリカで行われたものですね。2017 年ですから大分初期の頃ですね。

スライド 9

これはドイツで行われたものですね。

スライド 10

これは中国で行われたものです。

スライド 11

こちらはイタリアですね。

スライド 12

これまた中国ですね。

スライド 13

これは Microsoft ですね。大学がこうやって主催したりして研究領域を持つということだけではなくて、機械学習ですからもちろんコンピューティングに関するものですから、コンピューティングの大手の企業等がそれをサポートして、そして実際そこで機械学習のツール等を開発されている研究者と物理学者が一緒に新しい方向性を探るという研究会も行われたりしています。

スライド 14

これはバークレーのものですね。
こんなふうに、これは今年だから Zoom になっていますけれども。
こんなふうに世界各地で機械学習と物理に関するものが、非常に多くの研究会が、3年前から行われ始めているわけですね。ですので、こういう新しい分野ですからもちろん教科書もないですし、そういうところに新しいものを求めてやってくる人というのは、
特に若い人が多いです。ですから大きなチャンスがあるということですね。私のような
ちょっと年が行ったような研究者でも、若い人と一緒になって、今の自分の領域にある基礎的な問題がこの機械学習という新しいテクノロジーによって、何か良いニュースがないか、もしくはそれを発展、あわよくば発展させることができないか、そんなふうな
モチベーションに基づいて各界の研究者が集まっている、という状況だと思います。ですからこの講演をお聴きになってもし興味を持たれた大学生の方は、是非ですね、こういう分野もこれから勃興しつつあるのだということを知っておいた上で参加していただければと思います。

スライド 15

前置きが長くなりましたけれども、今日私の話はこの 2 つに分けたいと思っております。
第 1 部は「物理学から見る深層学習」という、ちょっと大きなタイトルなのですけれ
ども、もちろん私は深層学習全部を分かっているわけではありませんで、僕が分かっている限りの、物理学者が見る偏見に満ちた機械学習ですね、それを、きっと物理学科の学生さんとかが見ている方が多いと思うので、そういう方々にちょっと共感を得られるかなと思って、非常に偏見に満ちた深層学習のレビューとか、その物理学的な意味みたいなものを初めにちょっとお話しします。
第 2 部では、「深層学習による物理学」ということで、二つ例を取り上げて、 詳しくご説明したいと思います。一つ目は物性物理学について、二つ目は超弦理論についてで、これは私の専門ですので、私の研究内容についてちょっと宣伝させてください。第 2 部
も、もちろん深層学習を物理学に応用したり、それを用いたりという研究は、最近非常にたくさん行なわれていまして、その全てを網羅するものでも何でもないです。僕の趣
味と僕自身の研究を少し紹介するというぐらいのものですので、そういうものもあるの

だ、という感じで聴いていただけたらなと思っています。
はい、それでは第 1 部からまいりましょう。1.ではニューラルネットワークと題して、ニューラルネットワークとは何か、そして 2.として深層学習とは何か、そして 3.としてその意味ですね、物理学との関係、どういうことが期待されるかという一般論をお話ししたいと思います。ニューラルネットワークを全く知らない物理学科の大学生ぐらい向けにスライドを用意しています。

スライド 16

「ニューラルネットワーク」という言葉で、インターネットで検索してみますと、こういう多数の画像が得られます。このそれぞれのネットワークが繋がった、丸が線で繋がったようなこの絵がニューラルネットワークでして、丸にも色々な色があるし、線の繋がり方にも色々なパターンがあります。

スライド 17

これだけではなくて、この Zoo という動物園ですね、それを見てみますとこんなふうにたくさんの種類が認められます。これだけではもちろんないわけです。これ以上にもものすごくたくさんあります。これはニューラルネットワークを使う人それぞれによって使うニューラルネットワークは違いますから、これだけで全部でもないし、種類という意味ではこういうものがありますよ程度のものですね。この絵が何を表すかということなのですけれども、面白いことにですね、こういうグラフというのは別にニューラル
ネットワークのグラフだけではなくて、今一般のグラフ理論が数学の方であるとか、もしくは私の研究だと時空自身がグラフであるというふうな、そういう観念を使いますので、私の研究分野でもこれに似たような絵が一杯見つかるのですね。絵が似ているというのは大変重要なことで、その背後の概念、人間がその概念のまとめ方が似ているということだから、きっと、それらを繋げる方法があり得るわけですね。後で述べる方法では実際にこれを原子の配列等とみなすような考え方や、時空とみなすような考え方、それを紹介します。物理学への応用という意味では、例えば画像認識のようなことを物理学でやりますから、機械学習をそのままその画像認識技術に投入するということはもちろん可能なのですね。そういう発展の分野はたくさんあります。特に実験系で。ただし

私が紹介できるのは、私理論の人間ですので概念的な類似性ですね。ニューラルネット
もしくはグラフの概念と、それぞれの分野で培われたグラフの概念、これらが関係することで、その分野に何らかの良いことがあるかもしれない、そういうことを中心に後でレビューしたいと思います。

スライド 18

では、ネットワークは何かということなのですが、あのこれ怒られるのを覚悟で言いますと、機械学習というのは、機械学習イコール関数で近似するということなのですね。
学習というのは、この関数をアップデートしていって、データを再現するように近づけるということです。学習って何？と言い出すと、またすごく長い話になると思うのです
けれども、今日はこれで割り切ってお話しさせてください。物理学における関数というのは何かというと、例えば場とか、あとは時間発展とか色々な関数がありますね。非常にざっくり言いますと、例えば入力、あるベクトルがあってベクトル成分が与えられたとして、それが f という関数で、出力 f ( ) とか、これもベクトル値を取ったりします
けれども、そういうものにマップされる、これが関数ですね。先ほど出てきたたくさんの絵は、これはニューラルネットワークと呼んでいますけれどもこの関数のアンザッツ

のことです。つまり関数というのは、例えば多項式展開をしたら、その単項の前の係数
ですね、それがパラメータになっているわけです。というふうに、多項式展開、テイラー展開ができますとか、ローラン展開できます、もしくはフーリエ変換します、そういった時の関数のアンザッツですね。それをこのニューラルネットワークの絵が表していると思ってください。
たくさん絵がありましたが、その二つ代表的なものを紹介します。左側は人間のニューロンに似せたパーセプトロン模型と呼ばれるもので、右側はボルツマンマシン、ボルツマン機械と呼ばれるものです。万能近似定理というものが数学的に証明されていまして、ある形のニューラルネットワークを決めますと、その層、例えばパーセプトロンで右側に並ぶ列のこと層と言いますが、その層を多くしたり、ユニット（丸いのをユニッ
トと言いますが）それを多くするということで、関数はたくさんのパラメータを獲得します。それによってニューラルネットワークはあらゆる関数を近似できるということが証明されて、ですからある関数を表現したいなという時に、色々な自分のバイアスがかかるわけですけれども、その中でニューラルネットワーク型の関数を考えると、これは近似の一つになっているわけです。

スライド 19では、パーセプトロン模型とボルツマンマシンそれぞれをちょっと見ていきましょう。
パーセプトロン模型というのは分類を学習するようなものです。分類だけに使われるのではないですけれども。この左側の絵を見てください。黄色い丸があります。そして緑の丸があって、赤い丸があります。この丸印はユニットと呼ばれるもので、この丸 1 つにつきベクトルのある成分が入ります。例えばこれだったら 2 次元ベクトルが入力されます。左の黄色いところ、これは入力ベクトルで、それがこの緑のベクトルにマップされて、そうして赤いベクトルというか単成分ですが、そこにマップされます。それでこのマップの仕方がどうなっているかというと、これは線で繋がっていますね、これを重
みというふうに呼びまして、ここは線形変換です。つまりこれだったら 2 次元ベクトルに 2 行 2 列の行列をかける、それでそのかける行列の成分、これがパラメータになっていまして、そのパラメータを変えることで関数が変わります。
活性化関数と呼ばれるものもあって、これはこの線の端っこにちょっと隠れているのですけれども、緑のところにマップされたらそのマップされた成分ごとにある非線形変換をします。その非線形変換は例えばこういう形の関数、これは非線形ですね、それをこうするというのがこの部分です。さらに 2 本線が出ていますので、1×2 の行列をかけると、そうすると最後の出力が得られます。ここに非線形変換するかどうかというのは、それは up to 貴方ということで。このようにニューラルネットワークが決めるある関数があります。これは近似ですね。学習の方法としては、ここに入力を入れたらどんな出力が出るかという実験を元からしていたとして、ある入力値と出力値のセット、これを大量に用意します。この入力の時はこの出力、それでその時にこの重み W というのを、つまり行列の成分ですね、それを変化させていくと、うまく入力が与えられた出力に近くなるような関数をどんどん選んでいくことができる。もうちょっと具体的に言うと、この誤差関数というものを定義します。これは先ほどの出力、 W による出力ですね、それと本当のこの出力値、それとの差の絶対値、それを全部足したものです。データにおいて全部足したもの。これがゼロになれば、全ての入力値について正しい出力
値を出すようなマシンが得られたということになるわけです。このマシンを得る手続きのことを学習と呼んでいます。学習されたマシンは、この入力を出力に正しく与えるば
かりでなく、この入力･出力のセットとしてトレーニングで与えられていないデータについても、おおよそ良い結果を出すというのが最近の深層学習の成果なのですね。恐ろしいところですね。

スライド 20

もう一つのボルツマンマシンというものも紹介しましょう。これもほとんど同じなのですけれども、確率分布を学習するものです。このボルツマンというのから分かるとおりですね、ボルツマン分布からこれは来ています。そういうものに基づいたニューラル
ネットワークということですね。ユニットはやはり入力値なのですけれども、これは例
えば±1 等の値を取るようなスピン値だとしましょう。可視ユニット、 visible ユニットと呼ばれるものはここの黄色い部分で、緑のところは、これはスピン値を取るのです
けれども、積分してしまいます。だからここからここにマップされるのではなくて、バーンと全部与えてですね、そのプラスマイナスについて全部足し上げる、関数を全部足し上げる、それを結果とします。線で繋いでいるのは重みと呼ばれるもので、物理的なスピン-スピン結合、この W を変えていくことでこの関数が変わってきます。関数というのは何かといいますと、この 3 つの黄色に±1 を入れた時にこの全体の関数の値、これが出力になっていまして、だから出力ユニットがあるわけではなくて、この全体が出力になっています。それがこの Exponential の肩に－ε、εというのはこのスピンとスピンをそれぞれ代入して、この間の重みをかけたもの、この bilinear なものですね、
それを Exponential としたもの、こういうものが出力になります。これは P と書いていることから分かるとおり、この黄色の所にどういう値を入れれば、そういう値になるということなのですけれども、この意味はすぐ黄色い所に入れる入力値が実現されるよ
うな確率、という意味を表しています。つまりこれは確率分布を近似するような関数であると。学習の方法は同じで、入力値と出力値のセットを大量に用意します。この場合
出力値というのは、実験的に得られたそのデータが出てくるような確率ですね。それでこの重み W を変更していくことで、この関数ボルツマンマシンの関数を変更していきます。実験で与えられるものとボルツマンマシンとの確率が、確率分布が同じになるよ
うに誤差関数を定義しておけば、その誤差を小さくしていくということで学習が進むわ
けです。これで DKL と書いてあるのは、 KL ダイバージェンスと呼ばれる量で、簡単に言うと、ある確率部分と違う確率分布の間の違いみたいなものを測る定量的なものです。物理では相対エントロピーと呼ばれているものです。

スライド 21

スライド 22

これがニューラルネットワークでして、では深層学習とは何かというと、深層学習は簡単で、先ほどのパーセプトロンを何層にも重ねたものを、一般に深層学習、深層ニュ
ーラルネットワークと呼んでいます。深層学習というのは、その深層ニューラルネット
ワークでの学習のことです。何層にも重ねるというのは、このパーセプトロンの出力をまた入力にして、そしてまたパーセプトロンを行うと。というわけで、何重にもパーセプトロンがなっているのですね。ここでパラメータは先ほど W と書いて、今 a と書いていますけれども、こういう重みと呼ばれるものや、それにプラス定数項、これはバイアスと呼ばれる量ですが、こういうものがパラメータになっています。これを全部代入したものが、あの全体の関数なっているわけです。ですからたくさんパラメータがあります。

スライド 21

これは先ほどのパーセプトロンの絵で書きますと、重ねただけですけれども、このよ
うなふうになっているわけです。初期層がここにありまして、今の場合ですと 4 次元ベ
クトルですね。それにまず行列をかけて、そして非線形変換をします。
そうすると第一層に到達します。これをこう何回も何回もやっていくと最終層に到達します。この真中の部分を隠れ層と呼んでいるわけですね。この層がすごく多い場合というのを多層のニューラルネットワークと呼んでいて、そこではパラメータの数が非常に膨大になります。そのようなニューラルネットワークで学習をすることを深層学習というふうに呼ぶわけですね。パラメータとしてこの重みと呼ばれる線の部分ですね、それをチューンしていくわけですが、この非線形関数の部分をもちろんチューンしてもいいのですけれども、ここは一般には決まった関数をとります。
どのような関数をとるかというと、下にちょっと僕の絵がありますが、これは本当の皆さんの脳の中の、例えば視覚をつかさどる野のところでですね、どんなふうな神経細胞が繋がっているかというのを見ると、実際に 3 層から 5 層ぐらいの深層ニューラルネ
ットワークなっているのですね。そういうことから注目されて、このニューラルネット
ワークが開発されたわけです。そのニューロンというのは入力が行われるとですね、その入力から、様々なニューロンから入力があって、その入力を全部足したところが閾値を超えると、そのニューロンが発火して、その発火したニューロンからは次のニューロンに電気信号が伝わるという仕組みになっております。ですからこの線形変換を足し合
わせて、そしてその後に非線形変換をするというのはまさにそのニューロンの方法というものを模しているわけですね。
特にこの発火する時の関数、これを活性化関数と呼んでいますが、それは本当のニューロンのようにしてしまうということも可能です。
先ほど出てきましたこの sigmoid 関数というのは、プロットするとこのような形にな

スライド 22っていまして、 x が負の時は発火しないで、x が正の時は発火するということで、特にニューロンの発火を真似て考えられた、そういう関数になっています。これでやるのはもちろん自然で、頭の中でおおよそこういう形になっていると思われるわけですけども、もちろん違うところはたくさんありますよ。1 個のニューロンからはたくさんの軸索とかは出ないので。そういう違うところはあるわけですけれども、おおよそこういう関数
だというふうに考えることはできますね。

スライド 23

現在多用される標準的な活性化関数はこの ReLu と呼ばれるもので、x が負のところ
ではゼロというのは同じですが、 x が正のところでは線形な関数になっています。これは深層化すると、何回もパーセプトロンを経由しますので、そこでですね、微分等をして、それで学習を進めさせていくためには、その微分が消えてしまうと勾配が消失するという問題がありまして、そういうものを回避するために、微分をしても消えないようなこういう関数が使われたりします。この辺は技術ですね。

スライド 24

今この２.の所まで終わりまして、ニューラルネットワークの紹介と、学習とは何か、
つまり関数で近似していく、データが与えられて関数で近似していきますよ、ということをお話ししました。この深層のニューラルネットワークがうまく学習されていくということが最近、この 10 年ぐらいで判明して、それで今の爆発的な科学技術の進展に繋がっているというわけです。
ですので次に 3 番の「逆問題と物理学の革新」、これが物理に何の関係があるのかということを、ちょっと位置づけてみましょう。これは私の私見ですけれども、次のような考え方ができると思います。

スライド 25

物理学の歴史を紐解きますと、そこで問題が解決されたらもちろん革新があるというふうに考えられるわけですが、そもそも問題には 3 種類あると考えられます。y = f (x) 、これは例えば x が y に時間発展したりとか、もしくは x でどういうシステムで y という物理量を計算したりとか、入力と出力の関係にあるというのが、物理学の問題のおおよそほとんど全てですけれども、この問題は 3 つの問題に分かれます。まず順問題。
順問題では f と x が分かっている時に、y を計算せよという問題ですね。これは解き易
いわけです。もちろん難しい時もありますけれども、解き易いわけです。一方で難しいと考えられている逆問題というのは、2 種類あるわけですね。一つ目は初期値問題です。

f という関数は分かってると。y という出力が分かっている。元の x は何だったのでしょうか。これが逆問題の一つ目、初期値問題です。初期値問題は、例えば時間をさかのぼったりするとか、もしくは境界値問題と同じです。境界が分かるけれど、中が分からない、そういうふうな。これは色々な科学技術にも扱使われているわけですね。その解
く方法、すなわち逆変換というものが存在する場合は、解けるわけですね。一番厄介なのは、この逆問題（２）というやつで、システムが分かってない場合です。すなわち関数 f が分かっていないということですね。下に逆問題の一般的な性質を挙げてみました。

特に下の二つですね、物理定数を決定する問題であるとか、物理法則を同定する問題。
こういうのはシステムを決定する問題で、逆問題（２）に当てはまります。

スライド 26

深層学習の先ほどの話を少し思い出していただくと、実はこれはシステム決定問題を
ある意味解いていることになるわけですね。つまり x という入力と、y という出力、これをセットとして大量に与えられた時に、ここからここに行く関数を近似的に求めなさいという問題を設定したとします。これは先ほどの学習と同じですね。ここにその模式図を書きましたが、 x と y が与えられているというのは、この✖の点が与えられているのと同じです。 f (x) という関数を求めるというのは、この間にこういう線を引くことですね。つまり学習はこの f を求めるという、つまりシステムを決定するという能力があるわけです。このようにシステムが非常にうまく決定された場合には、確かに物理学に革新が起こったということを、僕らは知っているわけですね。

スライド 27

高校で、もしくは大学で習いますが、ティコ・ブラーエの話、ケプラーの法則の発見の話ですけれども、ケプラーの師匠だったティコ・ブラーエは、非常に詳細な惑星の観測を行いました。ここで膨大な量のデータを、非常に正確なデータが手に入ったというわけです。その弟子のヨハネス・ケプラーはこれを再現せよ、どうやったらその法則を見つけられるか、これに苦心をして、実際にその観測データから、ケプラーの第一法則と今呼ばれるもの発見したのですね。その法則がもちろんその後ニュートンの重力の法則、そしてそこからアインシュタインの一般相対性理論というふうに、宇宙の法則の発見に繋がっていくわけですね。初めはそういうデータが出発点だったわけです。ここでシステム決定問題を解いたのはもちろんケプラーで、それはすごく偉いわけですけれども、深層学習に始まるような機械学習がこれを手助けしてくれるのかということが気になりますよね。

スライド 28

その答えがイエスかノーかは今のところ分からないわけですけれども、こんなふうに模式図で少し議論することはできます。ここで青で示したのは、科学の流れとして、これも僕の私見ですけれども、こういう絵が絶対にこうだというわけではないのですけれ
ども、科学としてこのような流れがあるだろうと考えられます。まず実験が行われて、そこからデータが手に入るわけですね、ここですね。このデータは非常に複雑でしかも非常に多自由度です。その中でこれとこれのデータを取ってこいと、この種類のデータを。そしてその大量に集めたと。一方で人間の直観によって、ここでモデルと書いたものを作ります。
このモデルというのは、例えば入力がこれで出力がこれと決定して、時間発展に決定して、その間の関数系はこういうプリンシプルによって得られるから、この関数系に違いない、ただちょっとパラメータが入っていると。そういうものを持ってくるわけですね。その関数系でこのデータはフィットします。こういうフィットのやり方というのはもちろん色々あるのですね。誤差関数をどう定義するかにもよるわけですけれども。そこは自分のアーキテクチャの構築の仕方ですよね。このフィットがされると、関数の中で、分からなかったパラメータが数値によって決まりますね。具体的な関数が得られます。関数が与えられる、決まるとですね、そこに未知の入力を入れた時、例えば実験ができないような非常に厳しい値を入れた時に、そうしたらこうなりますよという予言が出るわけですね、その予言を実際にそれが正しいかというふうに実験でまた確かめる、
それによってこの関数が良かったかどうかというのは分かるということですね。だめだ
ったらなぜそれがだめなのか、良かったらそれは適用範囲が広がったということでユニ
バーサルな法則になるわけです。
先ほどの例を見てみますと、上側がもちろんケプラーで、下側の実験がティコ･ブラーエですね。これによって第 1 法則が見つかったというふうな言い方ができるわけです。それではこの機械学習の、この中での位置付けというものを少し考えてみますと、
こんなふうになるのではないかと考えられますね。今までは話したのは、機械学習の中でも教師付き学習と呼ばれるもので、入力と出力のセットが決まってるもの、データとして与えられるもの、これを教師付き学習、Supervised learning と言います。この場
合に、機械学習は実際にシステムを決定してくれるわけですね、関数形を。ただしです
ね、ここで注意しなければいけないのは、この科学の流れを機械学習は全部やってくれるのかと。そうではないですね。先ほどのフィッティングというのは、深層学習がやってくれるフィッティングは、非常に膨大な数のパラメータがあって、何でもその中に関数が入るという形になっているわけですね。だからこのモデルというレベルに達してないわけです。もちろんそのニューラルネットワークを非常に簡単なものにして、モデルのパラメータの数をすごく少なくすれば、それはまぁ通常モデルと呼ばれるようなものになります。しかし一般の例えば画像認識等で使われる機械学習は、何十層にも渡っていて、しかもそのユニットの数も膨大ですね、1 万とか 100 万とかになっているわけです。ですので、それはパラメータの数が非常に膨大なので、モデルを作ったというふうには言えないかもしれないですね。そういうふうに教師なし学習というものもありますね。これはデータが与えられた時に、その特徴を抜き出しなさいというふうな学習で、今日は説明しませんけれども、これはこの上のこの流れで言うと、このデータの部分ですね、ここを整理する、自動分類するというところに役に立つのではないかと思われますね。
他にもさまざまな学習があります。例えば Alpha GO 等で使われる強化学習ですね。
これはモデルを与えられた時に、人間が解けない、ルールが発見できないという時に、強化学習を行うと、与えられたチョイスの中からこれが最適である、もしくはこういうアルゴリズムを組めば良いということが学習されるということです。これはモデルとしてこういうもの持ってくるという時に、持ってくる理由が人間が分からない場合に、強化学習を使える可能性があります。こんなふうに、学習があれば科学が全部自動で進むというわけではなくて、それぞれの特徴に応じて、この一部として、協力して使っていくというふうな感じになるのではないかなと、個人的には思っています。この分野は非常に発展的な分野なので、僕が言っていることを真に受けない方が良いと思います。考えてらっしゃる方は非常に多くて、様々な方が色々な意見を言っていらっしゃると思います。

スライド 29

それではあと 20 分ぐらいになりましたので、第 2 部に入ります 。
「深層学習による物理学」ですね。初めに言いましたとおり、深層学習の大きな発展の一つは、画像認識でした。自動運転もそうですし、あとは例えば人間の癌を発見するとか、そういうふう
な画像認識、そういえば世界的なコンペティションもあります。そのような応用というのは非常に直接的ですね。

スライド 30

物理でも画像を扱う分野はたくさんありまして、例えばこれはすばる望遠鏡の去年の成果ですけれども、遠方にある超新星が大量に発見されたと、この背後で活躍しているのはやはり画像認識技術ですね。こういうものが超新星だよということを教えると、大量のデータから実際に超新星の候補を探して出してくれるわけです。これによって元々人間が目で見ていた作業は完全に Automatize されたということになります。

スライド 31もしくは、これは東大の ICEPP のホームページからちょっと借りてきましたけれども、素粒子実験でも大量のデータがそこから出てくるわけですね。1 秒間にすごい数の素粒子衝突が起こってそこからデータが大量に出てきます。その中からこれは興味があるものだ、これはバックグラウンドだということを認識するような、そういう部分で機械学習は非常によく使われておりまして、今もそれぞれの大きな素粒子実験では、機械学習の専門チームがいてですね、そこでこういうものをさらに開発して、カスタマイズしているというふうな状況です。

スライド 32

画像認識技術に機械学習を直接応用する、これは物理学への直接の貢献といいますか、
大きな助けになっているわけですけれども、それ以外に今日お話ししたいのは、特にその理論的な類似点とか、もしくは理論的な発展において、こういう機械学習が何の役に立つのか、というふうなお話をしたいと思います。ここで非常に個人的な観点から、私の耳に入ってくるような、私は基礎科学の研究の中でも、量子重力理論とかそういう端っこにおりますので、非常にバイアスがかかったリストなのですけれども、こういうふうな研究があるという紹介をちょっとだけしますね。例えば一番上のものは、物性物理学ではもちろんハミルトニアンが与えられてシュレディンガー方程式を解きなさいと。
基底状態の波動関数はどうなっていますか、これが分かれば相とか全部分かるわけです
ね。ですので非常に重要な問題なのですが、そこに機械学習が使われます。これは後で紹介します。
次にこのニューラルネットワークの時空解釈というものですけれども、例えばニュー
ラルネットワーク自身が原子の配列だと思ったら、それはニューロンの集合と思ってる
ものが原子の配列なのですね。そんなふうな類似性から様々な研究が可能になります。
三つ目のこの自己学習モンテカルロというのは面白くて、モンテカルロ法というのは、

ある決められたラグランジアンがあって、それが決まる exp(-S)で決まるようなそうい
う確率分布に、システムは、物理系は従っている、これが経路積分による考え方ですね。
それで経路積分を実際に数値上に実装しようと思うと、そのような確率分布を持った配位を大量に生成しないといけないのです。それをやる方法がモンテカルロですね。モンテカルロはナイーブにやるとものすごい時間がかかって、正しい確率分布に収束するよ
うなセットというものを生成するのにすごい時間かかる。そこであの有効ハミルトニア
ンというものを学習させて、それによって配位をどんどん生成させる、効率よく生成させる、そういう方法が、近年非常に開発がめざましいです。
四つ目の分子動力学法、これはの MD と呼ばれていて、例えば物質の全体のエラス
ティシティとかそういうものを測る、数値実験するのに非常に重要な手法ですけれども、ここでその分子と分子もしくは原子と原子の間の力等をうまく調整して、現実のものに合わせていくというのは、半ば職人芸になっているのですね。そういうところを学習に置き換えるというような研究が行われています。この相図の予想というのは、例えばあ
る物質である温度、圧力ではこういう相図が得られたと、でも実験していない外的な圧力とか温度とかの領域でどういう相が発現するのか、ということを予想させるとか。もしくはイジング模型ならイジング模型でも、実際に相転移が起こっているかどうかということをニューラルネットワークに判断させる、というふうな手法も開発されつつあります。
ちょっと話していると切りがありませんので、色々なですね、今お伝えしたかったのは、物性物理とか宇宙物理とかに限らず、様々な分野で様々なやり方で機械学習がこのように応用されています。

スライド 33

もし興味のある人は図書館で、「物理学者、機械学習を使う」という本、これはたくさんの分野の研究者にどういうふうに使っているかというのを書いていただいた本なので、参考にしていただければと思います。右側のは理研 iTHEMS の田中さんと理研 BNLの富谷さんと一緒に書いた教科書的な導入の本で機械学習を物理の言葉で学びたいという人にはちょっと見ていただければいいかなと思いますね。

スライド 34

先ほどのこのトピックの上の 2 つについて、残りの 15 分ぐらいでお話ししたいと思います。

スライド 35

まず一つ目の物性物理学と深層学習というタームですね。先に言いましたように、例
えばハミルトニアンが与えられて、量子多体系でですね、それでそのハミルトニアンの下でシュレディンガー方程式を解きなさいと、これは非常に難しい問題なわけですね。
一体問題ならもちろんできます。それが多体問題になっているわけです。例えばスピン
が N 個ある自由度の系を考えて、それでハミルトニアンによる期待値つまりエネルギ
ーを最小にするにはどのような波動関数を持ってくれば良いか。基底状態を求める問題ですね。今まで物理学者は様々なアンザッツを使って任意の関数である波動関数というものを近似的に表して、そのシステムの基底状態を得ようと努力してきました。例えば
行列積状態と呼ばれるものは、隣り合ったスピンの間を繋ぐような行列 A というものを持ってきて、その A がこの s とかに依存すると考えて、そしてそのトレースをとるというのが波動関数そのものだというアンザッツですね。これがうまくいくのは、もちろんこの隣同士の原子だけが相互作用をしている場合、それはうまくいくわけですけれ
ども、もっと長距離相関があるとこれはうまくいかないわけですね。そういうふうな物
質の場合は例えば臨界現象とか、テンソルネット状態というものが考案されました。これは非常に遠くのものも話し合えるような、そういうアンザッツですね。

スライド 36

こういう状況の中でニューラルネットワーク状態というのが登場しました。先ほどのボルツマンマシンというものを思い出してみましょう。それは visible スピンつまり緑の丸の入力のスピンのところと、そして積分する見えない部分、その部分を繋いでやって、この繋いだ bilinear の部分を exponential として、それを全てのこの hidden spinについて足し上げることで、確率だというふうに考えるものです。波動関数はおおよそ確率ですよね。ですのでこれをその波動関数のアンザッツだと思うようなことをして、そしてこのパラメータをチューンしていくことでエネルギーをどんどん下げていくと、それを学習と呼ぶというようにすると、この深層学習のフレームワークを、機械学習のフレームワークを使って、物性物理の問題が解けるわけですね。このボルツマンマシンを深層化したものとして、深層ボルツマンマシンというものがあります。この深層ボル
ツマンマシンは、この hidden layer、隠れ層がずっと繋がっているものですけれども、これには物理的な解釈がありまして、実際にですね、この縦方向をユークリッド化された時間の時間発展である、というふうに考えればですね、このボルツマンマシンが実際にその基底状態を与えるという証明ができるのですね。その時に証明に使うここの部分

というのは、本当のハミルトニアンの中の bilinear な相互作用の値、それを重みとして入れます。それはなぜかというと、この一層一層にわたる時間発展 e-ΔτH これはユー
クリアの時間発展ですけれども、こういうふうに思いますと、どういう状態、過去に何かの状態を導入して、それとずっと時間発展させてきたとします、そうしたらこれは必ず基底状態に行きますね。というわけだから深層ボルツマンマシンの状態というのは、
確かに物理的にも基底状態を与えるはずのものなわけです、ということは、Carleo と野村さん、今田さんが示されました。

スライド 37

もちろんパーセプトロンのような形でニューラルネットワーク状態を作ることもできます。この場合はここの出力の部分が波動関数の値というふうになるわけです。
こんなふうな関数を、アンザッツを導入して実際に深層学習が優る場合があります。
その例は Carleo, Troyer の 2017 年の論文で示されて、それで皆驚いたわけですね。右側の図にありますとおり、かくれ層の数を増やしていきますと、エネルギーがどんどん下がって、この点線で示された従来の EPS 状態とか、従来のアンザッツで得られた最低エネルギーよりも、さらに低いエネルギーが実現されるということが発見されました。

これに刺激されて、たくさんのシステムでこのニューラルネットワーク状態が試されています。この Carleo, Troyer の論文は、引用件数がもうすぐ 1000 に迫るような、そういう画期的な論文になっていまして、物性物理学の中でこういう分野においては、基本的な手法として認識されるようになっていると思います。様々な状態が出てきましたが、それらの間の、なぜそれがうまくいくのかというのを考える上で、先ほどの深層ボルツ
マンマシン以外にも、色々な写像、つまりこの状態は写像するとテンソルネットワーク
状態に再解釈できるとか、そんなふうなことも研究がされています。
では残りの 8 分ぐらいで、深層学習による物理学の話を、量子重力理論の話をしましょう。

スライド 38

スライド 39

あまり時間がありませんが、モチベーションをちょっとお話しておくと、昨年の仁科記念講演会で、高柳先生と大栗先生が話された、量子重力と量子ビットの話ですね、その話をご記憶の方も多いと思います。そこで培われた面白い、この 10 年ぐらいの知見というのはですね、時空自身をネットワークであると考えるという考え方です。ここに表しました絵は、説明はしませんけれども、量子重力理論のコンテクストでよく描かれる絵です。特に右側の絵は量子コンピュータの量子コード、次の西森先生のご講演でも出てくると思いますが、そういうものとして、この時空というものが解釈できるというふうなお話なのですね。これについて大きなレビューはしません。去年の仁科記念講演
会の YouTube ビデオが上がっていますので、高柳先生、大栗先生のビデオを見ていた
だければと思います。

スライド 40

量子重力の歴史をちょっと振り返ってみますと、高柳先生の笠-高柳公式が出てくる
前にですね、様々な歴史がありました。注目したいのは 1997 年のことで、量子重力理論が定義されたということが起こります。これはホログラフィー原理の発見、具体例の発見ということで、Maldacena という人が発見したのですね。量子重力の問題というのは、量子と重力を合わせようとすると、発散の問題というものがあって、繰り込みができない、つまり計算がうまくいかないという、そういう長い問題があるのです。一方で素粒子物理は、繰り込み可能な場の量子論という数学的枠組みがありまして、その中で計算する分には無限大は出ないのです。重力理論をそこに入れようとすると、重力のラ
グランジアンが繰り込み可能ではないということで、無限大の発散の困難が生じます。
それを解決したいというのが量子重力理論の基本的なゴールですね。この Maldacenaの話というのは非常に面白くて、なぜかというと、重力の理論は繰り込み可能ではないのですけれども、その重力の理論を定義する重力でないような場の量子論を持ってきて、それが実は重力現象を記述しているのだという世界観なのですね。そんなふうな形で、つまり繰り込み可能な場の量子論の枠組みに、重力を押し込んでしまうと、それで問題をなかったことにしてしまうというのが、このホログラフィー原理の意義です。

スライド 41

スライド 42

少し詳しくホログラフィー原理の話を、この最後のセクションで話しますと、重力を持っている理論と、重力がラグランジアンに入っていない理論、これらが量子的に等価ですよ、というのがホログラフィー原理の言いたいことなのですね。この＝(イコール)と書いているのは、左側に量子力学、重力が入っていない量子力学、右側には重力理論が書かれています。これは住んでいる時空の次元が違うのですね、ですからホログラフ
ィーと呼ばれるのですけれども。この等号というのは、下に性質をちょっと書きましたが、証明がまだされていなくて、特に量子力学が与えられた時にどうやって重力のメト
リックとかを得るのか、これも分かっていないですね。一方物理量の一致は多くの例で知られています。こういう状況ですね。ちょっとこれは飛ばしまして、ちょっとこの分配関数の一致の話も。

スライド 43

それで物理が等しいというのはどういう意味かということなのですけれども、実はこれは左と右で、量子力学でも重力理論でもですね、ラグランジアンが与えられれば、分配関数というのが計算できます。分配関数が分かればそこから全部相関関数というのが計算できて、その相関関数がもし一致していれば、相関関数は物理量、例えば散乱振幅とかに直接効く量ですので、物理が一致するというふうな言い方になるのですね。ラグ
ランジアンは一致していなくても、そこから出てくる分配関数と相関関数が一致すれば、物理が一致するわけです。これが Maldacena のホログラフィー原理なのです。重力を持ってない量子力学の分配関数と、重力を持っているアインシュタイン・ヒルベルト項が入っている、そういうものの分配関数、これが一致するというわけですね。

スライド 44

ちょっと時間がないのでここは飛ばします。

スライド 45

最後の 6 番に行きましょう。田中さん、富谷さん、そして杉下さんと一緒にした話を
最後 3 分だけさせてくださいね。上に描かれましたのが、深層ニューラルネットワークです。例えば猫という情報を入れたら猫と判断できるような値が出るという。それで下側がホログラフィー原理で非常によく描かれる絵です。左側には量子力学物理系がありまして、それと等価なシステムというのが、1 次元上がったところで重力時空として存在しています。要はこちらの分配関数つまり運動方程式の解を代入したような、そういう作用と、こちら側で計算される相関関数、これが一致するというふうな、そういうふうなものになります。この上の絵と下の絵が、もし時空がネットワークで書かれていたとするとですね、すごく似ていますね、似てると僕は思ったのですね。それで似てるというのは、どこまで似させられるのかという議論を共同研究者の方々としまして、確かに非常に近いところまでもっていけるということが分かりました。

スライド 46

しかもそれに良いことがあったのですね、量子重力のある問題を解決することができるのですね。この事象は面白くて、例えばこのホログラフィー原理における空間方向ですね、これは層の深さに対応していたりとか。重力場つまりこのメトリックが、時空が曲がっていて、メトリックが non trivial の関数になっているのですね。その関数というのは、こちらで学習されるべきネットワークの重みに対応づけることができます。入
力データや出力データ、特に入力データはここで入れるものですけれども、これはホログラフィー原理では、量子力学系のデータ、相関関数、そういうものになります。ニューラルネットワークの良いところは、このデータのセットを与えるとこの中の重みが決定される、それが学習ですね。ホログラフィーにおいては、この量子力学系を与えられた時に、ここのメトリックを決めるという方法はほとんどないのですね。これは逆問題
だからすごく難しいわけです。ですから、左と右をうまく同じように見なせるのであれ
ば、重みを決定するというのを、メトリックを決定するという問題だと思って、ニュー
ラルネットワークに解かせることができる、これをやってみたのですね。

スライド 47

具体的な式のことをちょっとお見せしようと思ったのですけれども、それちょっと端折りまして、

スライド 48

重力側の運動方程式を、ニューラルネットワークもこの層を伝搬する、そういう関数
だと思い直すことができます。そう思い直して入力側として QCD 、量子力学のデータを入れるとですね、

スライド 49

こんなふうにニューラルネットワークが重みを学習します。この重みが、我々が解釈するところの時空のメトリックになっているのですね。

スライド 50

その得られたメトリックで他の物理量を例えば計算してみようと。そうしたらそれが量子力学つまり QCD と合ったら面白いなということを言っていたのですけれども。学習で創発した時空は、全然アインシュタイン方程式の解とかではなくてですね、こんな変な丘とかがあるのですね。これはまずいなとか言っていたら、その前に人間が慮った
勝手な時空についての論文がありまして、その著者が僕の所に来てですね、「俺何か似たのを書いたことあるで」って言われてびっくりしたのですけれど、つまり機械が発見した時空と、人間が慮った時空とが同じだったのですね。

スライド 51

この機械で創発した時空を使って、例えばクォーク間ポテンシャルとか計算してやると、上が機械で計算したもので、下がスーパーコンピュータを使って QCD のシュミレーションですね、これが非常に似てるというのは、面白い結果だと思います。こんなふうに逆問題を、うまくそのパラメータの数を減らしたニューラルネットワークを使えば、解くことができて、モデルを決定することができるという例を得ることができました。

スライド 52

少し時間が超過しましたが、これで話はおしまいです。物理学から見る深層学習というところと、深層学習による物理学というところをお話しました。例は初めに言いまし
たように僕から見たものなので、偏っていますけれども、こういうテクノロジーが物理学の様々な分野に波及していて、そこで小さいながらも色々な逆問題をこうやって解かせていくことで、人間の研究をアシストしてくれているという現状をご報告した次第です。

スライド 53

それではここで終わらせていただきたいと思います。いくつか、機械学習というのは何なの、とかですね、そういうふうな話のスライドを用意したのですが、ちょっと時間になりましたので、ここで終わりたいと思います。どうもありがとうございました。

【司会】どうもありがとうございました。橋本さん、ちょうど時間どおりに終わっていただいたのですけれども、それでは時間が少しありますので、是非ご質問をチャットに書き込んでいただけると、こちらで拾い上げて質問させて頂きます。いかがでしょうか。少し
お待ちしますね。
【橋本】
中々書き込みにくいかもしれませんが、何でも聞いていただければと思いますので、いかがですかね。

【司会】
では多分書き込んでおられる最中かもしれないので、少し私の方から質問させていた
だいてよろしいでしょうか。
ケプラーとティコ･ブラーエの話をされて、大量のデータから法則を見つけていく過程が一つの物理法則を発見する過程だというふうな話をされたのですが、一方で、少数のデータから何らかの原理を導入して、えいやっと物理法則が発見されて、それが実は正しかったというようなことも、多分そういうパターンもあると思うのですけれど、それはこういう深層学習とか機械学習とは相容れないやり方なのか、あるいは何か親和性があるところもあるのか、辺りはどうでしょうか。
【橋本】
そうですね、それはどうなのでしょうね、私も聞きたいぐらいなのですけれども。例
えばスパースモデリングというふうに言われて、あのブラックホールの影を撮像できたという最近の大ニュースがありましたけれども、ああいうものの裏にある画像の生成技術というのはスパースモデリングと言われていてですね、それは非常にそのデータがス
パースな場合とか、もしくは重みとかがスパースな場合も考えられますけれども、そういうふうに使う機械学習の手法なのですね。ですので、いま初田先生がおっしゃったよ
うなことと機械学習は、あながち全然違うことを目指してるというわけでもないのではないかなとは思います。ただそのえいやっというところが人間のすごいところだと思う
ので。

【司会】
そうですね、ただえいやっというところもきっと人間はまた別のところで学習しているからその知識を使うということなのですかね。
【橋本】
プランクの公式の発見においてもこういうものとこういうものは繋がるはずであるというところで、持ってきてえいやっと繋げてしまう、そういうふうなところは、機械
学習がどこまでアシストしてくれるかということですよね。

【司会】
質問が今チャットで一つ来ております。
標準模型はパラメータが数十個しかない究極のモデルだそうですが、（司会：そうですね。）機械学習でそれを超える、その先に行くモデルを見つけることはできますかというご質問です。
【橋本】
非常に良い質問ですね。機械学習でその超えるモデルを見つけるという時には、多分人間が見つけられない時に機械学習が見つけてくれるかということだと思うのですけ
れども、人間のセンスというのは相当大量のデータをもちろんセンスすることはできると思うのですが、多分ですね、標準模型を超える物理のラグランジアンというのは、もう多分何千個というぐらい提案されていると思います。一方で、素粒子実験のデータというのはものすごい数ありまして、それらをマッチングするというような可能性というのは、やっぱり機械の手助けはあり得ると思うのです。こういうものも、こういうもの
はどれぐらいの確からしさで残っていくかみたいなことを機械がある程度アシストしてくれるということはあり得るかもしれません。でも今のところは、模型を機械が提案するというふうなことではないのではないかなと思いますけれど。その模型を提案する
背後には、やっぱりこの世にはフェルミオンしかいないとかですね、そういう物理的な考え方に基づいてやはりモデルが提案されますから。標準模型の例えばディメンジョン
５とかディメンジョン６オペレータとかはすごい数があるわけですけれども。それを全部しらみつぶしに我々はチェックしなければいけないかというとそうではないと思うのです。その辺は機械のアシストと人間の中間にあるモデルの構築というのがうまくいったらなというふうに、個人的には期待しています。

【司会】
次の質問は、ニュートンは天上の物理と地上の物理、天体の問題と現実に起こっている力学とかですかね、を繋げましたがいくつかの物理を繋げることに機械学習が使えますか。
多分、例えば地上の物理で違う法則とか、違う何か現象、それを機械学習を使ってその類似性から法則を見つけられるのかという質問だと思うのですが、いかがでしょう。
【橋本】
なるほど面白いご質問ですね。機械学習自身がこれとこれは繋がるのではないかということを示唆してくれるところまで行ったら、すごく面白いと思うのですけれども、今はあのあまりそういう例は聞かないですね。ただし一番冒頭で説明したように、機械学習という考え方を通じてたくさんの分野の人間が集まっていますので、機械学習をどう使ったり、その概念が自分の分野にどう似ているかというのを議論することで、それでいくつかの物理学が繋がりつつあるという事実はありますね。それは分野を超えた共同研究者が、例えば自己学習、モンテカルロのことをやったりですね。だから機械学習を媒体として、それを使うことで、いくつかの物理学が繋がっていくような、そういう素地は今たくさん芽生えていると思いますね。

【司会】
次の質問は、既存の加速器実験は、（素粒子物理学のご質問だと思うのですけれど）
既存の加速器実験データを利用して人間では感知できなかった未知の物理、標準模型を超えた物理の証拠を、機械学習で見出すことはできると思いますか。現在ではエネルギースケールが高過ぎて直接観測は無理だけれども、既にある実験データで、人間では見落としていたものということですかね。そういうものを感知することは可能かというご質問ですね。
【橋本】
それはまさに素粒子実験の研究者の方々がやっていらっしゃることだと思います。今どの程度機械学習がどの部分で活躍しているか僕は詳しいことは知りませんけれども、そういう研究者の方に聞いてみられたらいいと思うのですが、確かに今日お見せした中でも、超新星の発見とかですね、人間がやろうとすると見落としていたりもしくは数が膨大過ぎて人手が足りない、そういうふうな、あと専門性も十分必要ですよね、そうい
うものを機械学習で代替してということは、もう十分今行われていると思います。

【司会】

次は、深層学習による物理学のところで、具体的な例として解の探索についての項目があったのですが、探索問題ということに関して機械学習は利用できますか、というご
質問です。
【橋本】
解の探索ですね、ここはちょっと飛ばしてしまって申し訳ないのですけれども、例えばディオファンティン方程式とかで、そういう整数解とか整数係数を持つような、そんなふうな、一般には解をどうやって見つけたらよいか分からないような、そういう問題、こういう問題が超弦理論ではコンパクト化する時空の選定とかですね、フラックスとかそういうものは離散化されていて、そのために整数の答えを出しなさい、ただし方程式はこれです、というふうな問題があったりするのですけれども、そういう一般には探索が難しくて、解法が分かっていないような場合、そのような場合に機械学習の強化学習を使ってですね、解が 1 個見つかったら、それから次の解をどういうふうに guess する
かというふうな、そういうアルゴリズムを作るということは、よく研究で現在もされています。面白いことに強化学習で得られたアルゴリズムというのは、人間が発見したものと似ているものもあるのです。例えば超対称性を保つようにちょっと変形してみよう
とか、そういうふうな人間が発見してきたストラテジーは、機械が自動的にそれを発見し直してくれたりするのです。そういうところを見ると、これからアシストがすごく進むのではないかと思います。

【司会】
次のご質問は、私これ存じ上げてないので、そのまま読ませていただきますが、マド（窓？）関数と活性化関数に関係があると思っているのですがどうでしょうか、というご質問です。
マド関数というのは何でしょうね。私は知らないので多分そういうご専門の方と思い
ますが。
【橋本】
マド関数というのがちょっと僕も専門が違うので分からないのですけれども、矩形関数のことだとすると、それには関係がありますね。任意の関数を近似したいときに、積分では短冊に切りますけれど、その短冊の 1 個の長方形の部分、それだけノンゼロになるような関数を作ることはできます。これが活性化関数の意味です。そういうふうにして任意の関数を近似できるというふうな証明が構築されます。ちょっと違う意味だったらすみません。

【司会】
次の質問は二つあって、一つは、機械学習を使った実験の結果をお見せいただきましたけれど、それはどれくらい時間がかかるものなのですか。計算時間だという意味だと思いますが。
【橋本】
さっきお見せしたのは、学習にかかる時間としては数十分ぐらいで、スタートさせてビールを飲みながら待っていると、できているという感じです。もちろん、うまくいく
行動を作るとか、どうアーキテクチャしなければいけないとかについてはもう何ヶ月も時間がかかるわけですが。実際に学習が上手くいった場合には、学習させるにはその程度、数千ぐらいのデータしかないのですけれど。

【司会】
もう一つの質問は、物理学者から見て、または物理学から見て、機械学習分野でこのような技術があればもっと助かるなというのは何かあるでしょうか。
【橋本】
そうですね、それを待たずとも、もう既にたくさん開発されているので、こちらでどんなものを使いたいかというのよりも、それを学ぶのに精一杯なのですけれども、例えば対称性とかそういうものにすごく興味があるので、対称性を extract したりとか、もしくは対称性が、制約があるようなデータを使う場合に、それをどういうふうに機械学習に読ませれば良いかとか、そういう物理プロパーの性質ですね。そういうものにすご
く興味がありますね。僕は量子重力の研究をしているので、スパースなネットワークでもそういう時空解釈ができるものが、どうやって学習が汎化するのかとかすごく興味があるのですけれども、ちょっとマニアックな質問なので、あまり皆さんに聞いていただ
けないかなと思います。
【司会】
時間がほぼ来ているので最後の質問です。大学 3 年生の方ですが、今日は機械学習と物理学という感じで割と多岐にわたる分野の話をされたのですけれども、そういう人材がこれから求められるとすると、異なる分野の学問の勉強する上で、学部生のうちに心がけておいたほうが良いことは何でしょうか。

【橋本】すごい良い質問ですね。そういう高い志を持った方は素晴らしいと思います。僕が思うのは、これとこれの勉強をしとかなければいけないということよりは、学部の頃は、一つテーマを見つけてそれに、機械学習と物理でも何でも良いのですけれども、そこを突き進んでですね、そのうち数値実験結果を再現してみるとか、そういうことをいくつかやってみることで、自然とその周りの物理学の勉強とか、全部付随してくると思うのですよね。なので、異なる分野の勉強というよりは、そういうところが壁があって行きにくいなとか思うのではなくても、いきなり飛び込んでみて、何でも良いからもう走らせて勉強してみるというのがお勧めです。僕も今、齢甲斐もなくそういうことをやっていますけれども大変楽しいので、是非飛び込んでみてください。

【司会】
もう一つ来たので、本当に最後で面白い質問が来ました。
機械学習のグラフのノードや関数は、量子論で言うところのキュービットとか重ね合わせが可能なものになった場合に、機械学習に新たな可能性は生じるでしょうかと、そういう質問です。
【橋本】
もちろん生じると思います。次の西森先生のお話にも繋がりますけれども、ノードとかをキュービットだと考えると、重ね合わせとかですね、特に量子力学では、例えばポテンシャルのキュービットで表されたような、そのネットワークが決める誤差関数のランドスケープにこういう山がある場合には、量子力学だとここからここまでトンネルにしますよね。そのようなことで小さな障害を押しのけて学習が加速されるという可能性
とか、非常に面白い可能性はたくさんあると思います。これは学習、機械学習のプロパ
ーな問題をさらに良く解決してくれるとか、もしくはそういうものを通じてさらに基礎
物理学の方にフィードバックを頂けるとか、そういう二重の意味で新たな可能性があると思います。

【司会】
ありがとうございます。ちょうど時間になりましたので、それでは改めて橋本さんどうもありがとうございました。素晴らしいお話をありがとうございました。