令和元年度 文部科学省
ポスト「京」で重点的に取り組むべき社会的・科学的課題に関するアプリケーション開発・研究開発（萌芽的課題）

令和元年度「思考を実現する神経回路機構の解明と人工知能への応用（脳のビッグデータ解析、全脳シミュレーションと脳型人工知能アーキテクチャ）」
成果報告書

令和 2 年 5 月 29 日
学校法人沖縄科学技術大学院大学学園
銅谷賢治

本報告書は、文部科学省の科学技術試験研委託事業による委託業務として、学校法人沖縄科学技術大学院大学学園（ピーター・グルース）が実施した令和元年度「思考を実現する神経回路機構の解明と人工知能への応用（脳のビッグデータ解析、全脳シミュレーションと脳型人工知能アーキテクチャ）」の成果を取りまとめたものです。

目次
１．委託業務の題目 ...................................................................................................................................1
２．実施機関（代表機関） ........................................................................................................................1
３．委託業務の目的 ...................................................................................................................................1
４．令和元年度（報告年度）の実施内容 ...................................................................................................1
４－１．実施計画...................................................................................................................................1
４－２．実施内容（成果） ....................................................................................................................3４－３．活動（研究会等） ..................................................................................................................24
４－４．実施体制.................................................................................................................................24
別添１

学会等発表実績

別添２

実施計画

i

１．委託業務の題目「思考を実現する神経回路機構の解明と人工知能への応用（脳のビッグデータ解析、全脳シミュレーシ
ョンと脳型人工知能アーキテクチャ）」

２．実施機関（代表機関）
機関名

学校法人沖縄科学技術大学院大学学園

所在地〒904-0495 沖縄県国頭郡恩納村字谷茶１９１９番地１

ふ り が な
代
表

氏

課題

名

所属部署名

責任者

連絡先

機
関

ふ り が な
事務

氏

連絡

所属部署名

担当者

名

連絡先

どうや
銅谷

けんじ

賢治

生年

西暦 1961 年 7 月 13 日（ 58 歳）

月日※2020 年 4 月 1 日現在

神経計算ユニット

役職教授

Tel.098-966-8594

Fax.098-966-2891

E-mail doya@oist.jp
ふじまつ
藤松

よしてる

佳晃

外部研究資金セクション

役職

アシスタント・マネジャー

Tel. 098-966-8964

Fax. 098-966-2889

E-mail grant@oist.jp

３．委託業務の目的
脳の構造と活動に関して得られる膨大なデータを運動制御や思考などの脳機能の理解につなげるには、多種多階層のデータを統合して全脳の神経回路モデルを構築しシミュレーション解析を行うことが必要である。また今日の人工知能の基本要素である深層学習は物体認識や完全情報ゲームで人間を凌ぐ性能を与えているが、その学習には膨大なデータを必要とする。本研究はこれらの要求と課題に対してポスト「京」の計算資源を活用して対応することを目標とする。そのため、脳デー
タの解析とモデリング手法の開発、大脳皮質、小脳、大脳基底核を含む全脳の神経回路のシミュレ
ーション実装、不完全観測や少数サンプルからの学習が可能な脳型人工知能の開発を行う。これら
により、運動制御や思考を実現する脳機能の解明と、多プレーヤゲームや動的画像処理などに応用可能な脳型人工知能への貢献を目指す。
このため、学校法人沖縄科学技術大学院大学学園を中核機関として、分担機関である国立大学法人京都大学、国立研究開発法人理化学研究所、国立大学法人電気通信大学、及び国立大学法人東京大学と密接に連携し、再委託により研究開発を実施する。

４．令和元年度（報告年度）の実施内容
４－１．実施計画①（サブ課題A）脳の構造と活動の大規模データ解析（再委託先：国立大学法人京都大学）
ほ乳類の脳を構成する神経回路の全脳レベル構造同定を行う高度化アルゴリズムを開発し、ポスト京の計算環境を想定したARMサーバー上のマルチコア環境でこれの適用を行い、サブ課題BCDにおけるモデ
ル構築用に提供する。とくに構造同定における、個体差と同一個体に対する確率的構造同定アルゴリズム
1

適用結果のゆらぎを含むアンサンブル解析に注力し、安定した構造同定結果を信頼性評価を伴う形で得ることを目標とする。
具体的には、H30年度までに線維追跡結果の統計的統合による平均構造の同定を行うことに成功しているので、R1年度ではこれを拡張して個体間多様性の評価を行う。また蛍光顕微鏡画像に基づく構造同定の粗視化モデルを作り、拡散MRI画像に基づく構造同定と比較可能とすることで、両構造の信頼性評価を行う。
②（サブ課題B）大脳皮質神経回路のデータ駆動モデル構築（再委託先：国立研究開発法人理化学研究所）
これまで開発を行ってきた大脳皮質モデルと神経回路シミュレータを用いて、大脳皮質領域の情報処
理機構の解明に向けた取り組みを進め、他のサブ課題で開発された小脳、大脳基底核モデルとの統合モデルの大規模シミュレーションについて取り組み、全脳モデルのシミュレーション実現に向けた取り組みを進める。
特に、これまで開発を進めてきた運動皮質、体性感覚皮質、２次運動皮質、視床のモデルの大規模化と情報処理機構解明を目指し、また、大脳基底核、小脳との相互作用による脳全体における情報処理の機構の理解に向けた取り組みを進める。
第５世代NESTシミュレータについてポスト京の評価システムによる性能評価を、Juelich ResearchCentreや計算科学研究機構と引き続き行い、次世代計算機上での性能改善を進める。
③（サブ課題C）ヒト全小脳モデル構築と大脳小脳連関シミュレーション（再委託先：国立大学法人電気通信大学）
サブ課題Bとの連携で前年度までに実施した、ヒトスケール小脳モデルの精緻化と、実際の運動学習課
題を想定した学習のシミュレーションを行う。
当該年度は特に結果の視覚化に力を入れる。一方サブ課題B,C,Dで連携している大脳皮質-視床-基底核-小脳の全脳シミュレーションについても、腕運動等の具体的な課題を想定した運動学習のシミュレーシ
ョンを行う。特に小脳パートにおいては、運動の短期的な適応の機能を担うものとする。
④（サブ課題D）大脳皮質・基底核・小脳モデル統合による全脳シミュレーション（委託先：学校法人沖縄科学技術大学院大学学園）
大脳基底核の神経回路モデルに、マウスの解剖学データにもとづく空間構造を導入し、行動選択と強化
学習において生理学データを再現できるかを検証する。またその全脳レベルへのスケールアップを進める。
サブ課題BCと協力し、大脳基底核／小脳－視床－大脳皮質ループの神経回路モデルの大規模実行を行う。まずNESTシミュレータを用いてスケーリングの検証を行なったのち、サブ課題Bで開発中の独自シミ
ュレータへの移行を検討する。
⑤（サブ課題E）脳型人工知能アーキテクチャの開発（再委託先：国立大学法人京都大学）
提案型の脳型人工知能基本アーキテクチャ（MatcherNet）の開発をすすめ、規模拡大を伴う応用課題による性能評価を行う。
H30年度までに完成した初期バージョン（ポスト京の計算環境を想定したARMサーバー上96コアで並列動作を実現）を拡張して、R1年度では複数ノード間非同期通信を実現する。ノード間非同期通信の開発では、サブ課題FにおけるBriCA2の開発と緊密に連携を行う。
動画像中複数物体の追跡課題への応用で、非同期通信タイミングゆらぎに対して破綻しない頑健性を実現し、隠れ変数を含む強化学習（POMDP）課題に対する並列化アルゴリズムのスケラビリティを定量的に調べる。
⑥（サブ課題F）脳型人工知能用大規模高性能計算プラットフォームの開発2

（再委託先：国立研究開発法人理化学研究所）
基盤ソフトウェアBriCAの開発、高性能化と応用を継続する。
昨年度課題Eと共同で実装したMatcherNetの並列性能の向上を試みるとともに、DNI/SGの並列性能向上とマルチノード版開発を行う。また、ADFAのマルチノード版の性能向上にも継続して取り組む。非同期型
モデル並列学習アルゴリズムの調査、検討も引き続き行う。
⑦（サブ課題G）脳型人工知能の大規模実問題への応用（再委託先：国立大学法人東京大学）
今年度は本格実施フェーズとして、これまでに実現された動画像予測と生成の基盤アルゴリズムや動
画像認識アルゴリズムについて、他のサブ課題で得られた脳型人工知能の知見を踏まえつつ拡張する。さらに「京」で実行可能なように上記アルゴリズムを改良し、大規模な動画像処理が可能であることを検証する。
具体的には、動画像の予測と生成においては、撮影対象に内在する構造的制約を考慮することでより正確な動画像となるようにする。また、動画像認識においては、単純な認識結果を出力するだけではなく、システムがどうしてそのような結果を出力したかの理由も明示可能なアルゴリズムとする。
⑧プロジェクトの総合的推進
プロジェクト全体の連携を密としつつ円滑に運営していくため、PI会議や技術検討会、ハッカソンの開催等、参画各機関の連携・調整にあたる。
特に、プロジェクト全体の進捗状況と国内外での関連プロジェクトの進展を確認しつつ計画の合理化を検討し、必要に応じて調査或いは外部有識者を招聘して意見を聞くなどプロジェクトの推進に資する。
プロジェクトで得られた成果については積極的に公表し、今後の展開に資する。
４－２．実施内容（成果）プロジェクト最終年度にあたる R1 年度は、それぞれのサブ課題で開発したモデルとアルゴリズムのポスト「京」シミュレータや互換の ARM サーバーへの移植を進め、性能の検証と最適化を行った。サブ課
題間の連携により、大脳皮質、小脳、大脳基底核モデルを結合した全脳シミュレーションを安静状態の再現から腕の到達運動課題に拡張した。また人工知能アーキテクチャの BriCA による実装を進めること
で、「京」およびポスト「京」での実行を可能にした。
① （サブ課題 A）脳の構造と活動の大規模データ解析（再委託先：国立大学法人京都大学）
ほ乳類の脳を構成する神経回路の全脳レベル構造同定を行う高度化アルゴリズムとして、拡散 MRI と蛍光顕微鏡の２つのデータに基づくアルゴリズムとパイプラインの開発を完了した（図 A1）。このパイ
プラインは、拡散 MRI 画像に基づきベイズ的に最適な線維配向を個体ごとに同定する大域的線維追跡ア
ルゴリズムと、個体間の違いを吸収し標準的な脳へと神経線維を投射しその標準脳上において線維結合の平均化を行う位置合わせアルゴリズムから構成されている。この高度化パイプラインのうち、個体脳から標準脳への標準化（位置合わせ）を行うアルゴリズムは、ポスト京の計算機環境を想定した ARM サーバー(R270-T65、メモリ 512GB)上で動作する並列実装を完了した。当パイプラインに基づいて得られた拡散 MRI に基づく領域間結合マップはサブ課題 B へ提供された。

3

図 A1：マーモセット全脳の神経回路構造同定を行う高度化アルゴリズムに基づく解析パイプライン
拡散 MRI に基づく構造同定結果のアンサンブル解析として、結合推定結果の多様性を低次元マッピン
グ法に基づいて評価した。このために、前述のパイプラインから得られた 59 個体のマーモセットに対して、異なる 3 つの b-value (b=1000,3000,5000)での撮像を行った際に異なる 10 個の初期値から得られる結合行列を解析した。結合行列はマーモセット標準脳アトラス上で決めた 220 個の ROI に基づく
220x220 の対称な結合行列である。合計 1770 個の結合行列を t-SNE (t-distributed Stochastic
Neighbor Embedding) を用いて 2 次元平面上にマッピングした結果を図 A2 の左に示す。異なる色は異なる個体を表している。この結果に基づいて個体間多様性の評価を行い、1.個体差、2.撮像条件間の差、3.初期値の差の順に、結合行列としての構造変動への寄与が大きいことを確かめた。
また、蛍光顕微鏡画像に基づく構造同定法として、拡散 MRI 画像からの構造同定法を参考に、粗視化モデルから推定を行う多解像度手法を開発した。前年度までに開発を進めた PAT (Probabilistic Axon
Tracking)法を解像度の高い蛍光顕微鏡画像に適用するとき、推定された結合の多くが 1mm 程度で途切れてしまう問題があった。この問題を解決するために、拡散 MRI で有効であった大域的追跡法を参考とした多解像度アニーリング法を開発した。提案手法は、低解像度画像上の線維を高解像度画像上の初期値として設定したうえで順次つなげてゆく手法であり、シミュレーテッドアニーリングにおける温度変化と同様に低解像度から高解像度の結果を構成してゆく。提案手法を 400um の蛍光顕微鏡画像のボクセルから、200um、そして 100um までの仮想ボクセルに対して適用し、神経線維構造を順次推定したとこ
ろ、疑似的に高解像度化された画像(100um)からの線維構造は低解像度（400um）での線維構造を保持している、すなわち、高解像度によっても低解像によるのと同程度に長い線維が抽出できることが分かった。これにより、拡散 MRI と蛍光顕微鏡の異なる解像度で推定される神経線維の信頼性評価を行うアル
ゴリズムの開発を完了した。

4

図 A2：構造同定結果の信頼性評価とその結果。220 領野間の結合行列の推定結果 1770 個（左図）を tSNE 法によって 2 次元平面にマッピング（右図）することによって、結合行列推定結果の多様性の構造を可視化した。個体間の差（右図中の色コード）が、撮像実験条件間の差よりも大きいことと、追跡計
算の初期値に依存する推定結果のばらつきがこれらよりも小さいことを確かめた。
加えて、電子顕微鏡画像の連続切片からの深層学習に基づく３次元構造再構成法の実装を行い、ユー
ザーインターフェイスを統合したソフトウェアとして GPL-v3 ライセンスの下で GitHub 公開した（図A3; https://github.com/urakubo/UNI-EM）。電子顕微鏡画像によって撮影された三次元神経画像（二次元画像連続切片のスタック）から神経細胞の３次元構造を再構成するためには、二次元画像間の位置
合わせ（レジストレーション）・深層学習による細胞膜分割（セグメンテーション）・人手による校正（プルーフリード）・情報のタグ付け（アノテーション）などの情報処理が必要になる(図 A3 上)。このような画像処理のためのソフトウェアは、Janelia Research Campus, Princeton 大学, Harvard 大学などの各研究機関において複数のソフトウェアを連結して利用するパイプラインとして開発されてきたが、独自のファイルフォーマットを採用していたり、複雑な設定が必要なサーバ・クライアントシステ
ムであったりするなど、実験研究者には使いにくい状況であった。そこで、実験研究者にも簡単に使える形で統合するため、Harvard 大学、Lichtman 研が開発した Rhoana パイプライン内の視覚化と校正、タグ付けソフトウェアである Dojo を、原作者(Daniel Haehn)の許可のもと改変してデスクトップ
アプリとし、さらに、同アプリに Tensorflow/ Tensorboard (Google) および深層学習に基づいた二種類のセグメンテーションソフトウェア"2D DNN (Resnet ほか)", "3D FFN" を統合し、セグメンテーショ
ン結果を 3D で確認・アノテーションする 3D annotator を作成した。

5

図 A3：電子顕微鏡画像にもとづく神経細胞３次元構造再構成を行う統合ソフトウェア UNI-EM の概要。
教師データ作成、CNN による推論、視覚化・アノテーションのパイプライン上を往来する統合環境によって、3 次元構造再構成作業の省力化を実現した。
② （サブ課題 B）大脳皮質神経回路のデータ駆動モデル構築（再委託先：国立研究開発法人理化学研究所）
最終年度となる令和元年度(R1 年度)は、これまでの成果をもとに、富岳を用いた全脳シミュレーシ
ョンの実現のための科学的研究、技術的研究の両方面の研究に関して、これまでどおりサブ課題間連携を密に取りながら行った。具体的な取り組みとして、1) MONET による大脳皮質、小脳モデルシミュレー
ションの計算性能に関する詳細分析、2) 体性感覚皮質と運動皮質モデルを用いた空間的入力と各神経細胞種の応答の研究、3) 大脳皮質―大脳基底核―視床―小脳神経回路モデルの領域間相互作用の研究、4) 神経回路シミュレータの富岳試験機による評価試験の四つの取り組みを行った。
1）MONET による大脳皮質、小脳モデルシミュレーションの計算性能に関する詳細分析
我々の目標の一つとして、全脳の相互作用を理解するための基盤となる全脳規模のシミュレーションを実現する並列計算技術とプラットフォームの確立がある。脳の大部分を占める大脳皮質と小脳の層状シート型の回路構造に着目し、そのモデルをポスト京で効率よく並列計算を実行する独自開発の神経回路シミュレータ MONET(Millefeuille-like Organization NEural neTwork)を H28 年度から開発してきた。
MONET は、我々が提案する、タイル分割と最小信号伝搬遅延時間間隔での非同期一対一通信を組み合わせた並列計算法を実行する。これまで、その有効性について層状シート型の大脳皮質や小脳モデルシミュレーションについて検証を行ってきた。R1 年度は、大脳皮質モデルのタイル間のデータ通信にかかわる結合数、タイル当たりの通信プロセス数、タイルの大きさについて、より詳細な分析を行った。その結果、計算ノード間で神経細胞をランダムに配置した場合に比べて、提案手法では通信データ量が 300 分の 1
以下に減少し、計算ノード当たりの通信プロセス数を近接 8 ノードまで減少できることがわかった。これらの分析とこれまでの計算性能の調査結果をまとめ、Frontiers in Neuroinfomatics 誌で論文出版を行6った。
同様に MONET を用いた小脳モデルシミュレーションについて、サブ課題 B とサブ課題 C で取り組み、
ヒト規模の小脳モデルシミュレーションの実行とその性能分析を行った。この結果については前述の論文と別に、Frontiers in Neuroinfomatics 誌上で出版を行った。この成果についてはサブ課題 C の報告で詳述する。
2）体性感覚皮質と運動皮質モデルを用いた空間的入力と各神経細胞種の応答
一次体性感覚皮質は、様々な時空間的パターンの感覚信号を受け、応答を行うことで情報処理を行う。
特に、表層の興奮性神経細胞への刺激範囲を拡大した時の応答は、神経細胞種によって異なることが知られているが、神経回路レベルでのその発生機構は十分にはわかっていない。H28 年度から一次体性感覚皮質モデルの構築、安静時活動や各層の興奮性、抑制性信号の関係に関するシミュレーションを行ってきた。R1 年度は、一次体性感覚皮質モデルで生理実験を模したシミュレーションを行い、神経細胞の相互作用と応答について調べた。未知のパラメータである興奮性神経細胞から Somatostatin 陽性細胞(SST)への結合の空間範囲について、神経細胞あたりの空間範囲のパラメータを変えてシミュレーションを行った。その結果、興奮性神経細胞から SST への結合の空間範囲が大きい場合、刺激サイズが増加するにつれて SST では発火頻度が上昇し、一方、興奮性神経細胞と Parvalbumin 陽性細胞(PV)では発火頻度が下降し、生理学実験の結果と定性的に同様の傾向を得た(図 B1)。この結果は、興奮性神経細胞から SSTへの比較的に広範な結合が入力信号のサイズに応じて、ネットワークの応答の調節を行っている可能性があることを示している。

図 B1：刺激サイズと神経細胞種ごとの発火頻度変化。左：神経細胞間の結合の模式図。右：刺激からの距離と発火頻度変化。順に興奮性神経細胞, PV, SST の発火頻度を示す。線の色の濃さは刺激強度を示す。
運動皮質の抑制性神経細胞は、異なる運動を表現するコラム状の神経集団の選択に関与していると考えられているが、抑制性神経細胞種ごとの働きについてはまだよくわかっていない。我々は H28 年度からモデルの構築、安静時活動や抑制性神経細胞種ごとのネットワーク活動に及ぼす影響についてシミュ
レーションで調べてきた。R1 年度は、PV, SST, Vasoactive Intestinal Peptide 陽性細胞(VIP）のうちの特定の神経細胞を刺激して、コラムの内と外への抑制の影響について、空間的な範囲に関する詳細なシミュレーションを行った。
コラム内の VIP を刺激すると、表層と深層の SST が抑制され、それに伴う興奮性神経細胞の脱抑制に

7

より、複数のコラムにわたる広い範囲で活性化が起きた。それに対して、コラム内の PV と SST を刺激したときは、自身が位置する層内の興奮性神経細胞を主に抑制し、空間範囲は比較的狭かった(図 B2)。これらの結果は、PV、SST は層などの局所的な回路の抑制、VIP はコラム全体、コラム外にわたる脱抑制を行い、コラムの選択的な活動の形成に関与することを示唆している。

図 B2：抑制性細胞種で異なるネットワークへの影響の空間範囲。左：コラム内の刺激される抑制細胞（赤）と発火頻度変化を測定される細胞（青、緑）。右：刺激からの距離と発火頻度変化。順に VIP, SST,
PV を刺激した場合。
3）大脳皮質―大脳基底核―小脳―視床神経回路モデルの領域間相互作用
脳の主要な構成部分である大脳皮質、小脳、大脳基底核は視床を介してループ状に結合し、領域間の相互の連絡により情報処理を実現しているが、その詳細は明らかになっていない。これを調べるため、これまで大脳皮質、小脳、大脳基底核、視床からなる全脳の神経回路モデルの開発をサブ課題 B、C、D で連携して行ってきた。R1 年度は、H30 年度に取り組んでいた安静時の神経活動の再現を引き続き行い、また、運動時にみられる一次運動皮質、大脳基底核、視床の神経活動に関するシミュレーションを行った。運動皮質の特定の方向の運動に応答する神経細胞集団を刺激し、大脳基底核、視床の応答を調べた。運動皮質の刺激によって、大脳基底核、視床とも、特定の運動方向に対応する神経細胞集団が選択的に活性化され8た。これは刺激に応じて、特定の大脳皮質―大脳基底核―視床―大脳皮質回路ループが活性化されていることを示す。今後、このループ回路を介して大脳皮質に再び戻ってくる信号の機能的役割について、明らかにする必要がある。
上述の大脳皮質―大脳基底核―小脳―視床神経回路モデルは、これまで NEST2 を用いて実装を行ってきた。R1-2 年度にかけて、NEST3 のリリースが予定されており、その新機能でメモリ消費削減やシミュレーション前のネットワーク構築時間短縮が期待できるが、プログラムの記述様式が変わるためコードの変更が必要となる。そこで、Juelich Research Centre の Diesmann グループと共同で、大脳皮質―大脳基底核―視床―小脳神経回路モデルの NEST3 向けのポーティングを共同で行い、領域間結合以外に関するポーティングを行った。今後、富岳の本格利用に向け、ポーティングの完成を目指す。
4）神経回路シミュレータの富岳試験機による評価試験
神経回路シミュレータ NEST と MONET に関して、富岳の性能を効率よく利用できるような改良、最適化を行う必要がある。これまでポスト京シミュレータで両シミュレータの翻訳・実行・性能推定を行ってきた。R1 年度は、富岳の CPU とメモリを持つ実機である富岳性能評価機を用いて評価を行った。NEST の評価は理化学研究所計算科学研究機構來山氏が行い、MONET についてはサブ課題 B の五十嵐とサブ課題 Cが共同で行った。
MONET について、OpenMP と MPI によるハイブリット並列の試験、プロファイラによる SIMD 化、キャッシュ効率、計算性能の分析を行い、それらの効率化を行った。富岳性能評価機の 16~1024 計算ノードを用いて、H30 年度に京で行った大脳皮質と小脳のモデルシミュレーションを実行し、性能評価を行った。富岳の計算ノードあたり京の計算ノードと同数の神経細胞が割り当てられた場合、富岳評価機は
京に比べ 30～185 倍高速にシミュレーションを実行した。この結果から、富岳における脳モデルのヒト規模までの大規模化と高速化がこれまでの推定通り可能であることがより確かになった。
NEST については、富岳評価機によるコンパイルと実行を確認した。
③ （サブ課題 C）ヒト全小脳モデル構築と大脳小脳連関シミュレーション（再委託先：国立大学法人電気通信大学）
サブ課題 B との連携で前年度までに実施した、ヒトスケール小脳モデルの精緻化と、実際の運動学習
課題を想定した学習のシミュレーションを行った。「京」コンピュータ全ノードを利用した大規模なヒトスケールのシミュレーションによって、眼球運動課題である視機性眼球運動の再現を行い、査読付論文として国際誌に発表した。一方サブ課題 B,C,D で連携している大脳皮質-視床-基底核-小脳の全脳シ
ミュレーションについても、腕到達運動を想定した運動学習のシミュレーションを行った。特に小脳パートにおいては、運動の短期的な適応の機能を担うように実装が行われ、動作を調整中である。また、
7 月には計算論的神経科学の国際会議 CNS*2019 にて、神経回路シミュレーションのチュートリアルを開催した。
まず、腕到達運動課題を念頭に置いた簡易なバージョンとしてレバー引き課題を題材とし、小脳学習によって腕運動のフォワードモデルを獲得可能かどうか検討した (図 C1A)。レバー引き課題中には様々な発火パターンでの登上線維の活動が報告されており、これにもとづいてプルキンエ細胞のシナプス可9塑性をシミュレートすることで、腕運動の軌道を再現可能であることを示した (図 C1B)。この軌道がフォワードモデルとして皮質にフィードバックすると、Smith Predictor と同等の構成になり高速な運動制御を可能にすると考えられる。

図 C1：腕運動課題における小脳のフォワードモデル学習。A: レバー引きを題材として、そのときの登上線維活動にもとづいて複数のプルキンエ細胞で学習を行い、出力を小脳核で統合することで、腕運動の軌道を再構成する。B: シミュレーション結果。3 種類の登上線維入力から、軌道を小脳核の発火頻度として再構成でき、これをフォワードモデルとして利用できる。
次に、ヒト全脳シミュレーションへの布石として、脳全体のニューロンの 8 割を有する小脳のヒトス
ケールシミュレーションを実施した。サブ課題 B で開発された神経回路シミュレータ MONET を用いて、680 億ニューロンからなる小脳神経回路モデルを構築した (Yamaura H, Igarashi J, Yamazaki T(2020). Simulation of a human-scale cerebellar network model on the K Computer. Frontiers in
Neuroinformatics, 14, 16. https://doi.org/10.3389/fninf.2020.00016 ; 図 C2A)。ヒト小脳には約690 億個のニューロンが含まれていると推定されているため、ほぼヒトスケールの小脳モデルを実装することができた。さらに、「京」コンピュータを全ノード利用することで、世界で初めてヒトスケール
小脳神経回路のシミュレーションに成功した。同時に、弱スケーリング性能の調査も行い、４万ノードまでの良好な弱スケーリングを確認した (図 C2B)。これは、MONET によるネットワークのタイル分割と、小脳神経回路のモジュール構造がタイル分割と極めて相性が良いことによる。安静時の神経活動と、眼球の反射運動であり小脳が中心的な役割を担っている視機性眼球運動における神経活動を再現した (図 C2C)。

10

Total computational time
Neuron computational time
Synapse computational time
Communication time

図 C2：ヒトスケール小脳シミュレーション。A: ネットワークの概略図。入力層・顆粒層・プルキンエ
細胞層・分子層・出力層を 2 次元シートとして表現し、タイル分割する。B: 弱スケーリングの結果。
横軸はノード数、縦軸はシミュレーション時間（赤：ニューロン、黄：シナプス、緑：通信、青：合計）。C: 視機性眼球運動における顆粒細胞 (左) プルキンエ細胞 (右) の活動。図は全て Yamaura,
Igarashi, Yamazaki (2020) から転載。
一方、サブ課題 B, C, D で連携した全脳シミュレーションでは、大脳皮質－大脳基底核－小脳－視床からなるネットワークを構築した。腕到達運動課題の再現を試み、特に小脳パートは外乱への素早い対応のような運動の短期的な適応の役割を担うと想定して実装を進めている。サブ課題 C はモデルプログ
ラムの提供、結合様式に関する知見の提供、パラメータ調整に関する意見の提供を担当している。
また、7 月の CNS*2019 チュートリアルでは、神経回路シミュレーションの基礎としてバランスネット

11

ワークをまず実装し、それを OpenMP, MPI, GPU のそれぞれを用いて並列計算用に再実装し、計算時間がどの程度高速化されたかをハンズオンで授業した。スケーリングやアムダールの法則についても言及した (図 C3)。

図 C3：チュートリアルの講義中の様子 (人物はサブ課題 B の五十嵐氏)④ （サブ課題 D）大脳皮質・基底核・小脳モデル統合による全脳シミュレーション（委託先：学校法人沖縄科学技術大学院大学学園）
1) 大脳基底核神経回路モデル
前年度までに構築した大脳基底核神経回路モデルを、サブ課題 B が構築した大脳皮質および視床神経回路モデルとマウスの解剖学データにもとづき結合し、大脳皮質-視床-大脳皮質ループ回路を構成し、各領野のニューロンの定常時の発火頻度など生理学データの再現に成功した（図 D1）。
３つのターゲットのうち特定のものを選択すると報酬フィードバックが得られるという課題で、試行錯誤により正しいターゲットを選ぶ強化学習を実現した（図 D2）。さらにこの大脳基底核の強化学習回路を、大脳皮質―視床モデルを通して小脳による腕の運動制御回路と結合し、選択したターゲットへの腕の到達運動を実現可能なことを示した。

12

BG

TH

図 D1：大脳基底核ループ回路モデルの定常状態でのスパイク列（上）と発火頻度のゆらぎ（下）。

図 D2：3 つの到達ターゲットの強化学習課題。中央のターゲットが選ばれた後に報酬フィードバックを与えることで、ドーパミン依存シナプス可塑性により中央のターゲットをコードする線条体ニューロンへの大脳皮質からの結合が強化され、正しいターゲットが確実に選択されるようになった。

132) 全脳神経回路モデル

図 D3：複数シミュレータに対応したモデル記述 GUI。
サブ課題 B、C との協力による大脳皮質－大脳基底核－小脳－視床ループの神経回路モデルの大規模実行において、NEST シミュレータではシナプスの結合構築に多大な時間を要していた。この改善をNEST の開発チームに要望し改善に必要なコードとベンチマーク結果の提供をおこなった。その結果、新バージョンの NEST3 では、シナプスの結合構築に必要な時間が約 50%短縮されることを確認した。
しかし NEST3 でも、ポスト「京」レベルの高次並列では実行時の通信オーバーヘッド問題になることが予測され、サブ課題 B で開発中の MONET シミュレータによるモデル実装に向け準備を進めた。特に NESTと MONET に共通するモデル記述手法に関して、既存のツールのサーベイを行い、Allen Institute が開発中の SONATA(https://github.com/AllenInstitute/sonata)をベースとして、モデルの構造とパラメータを記述／確認する GUI の作成を行った（図 D3）。
⑤（サブ課題 E）脳型人工知能アーキテクチャの開発（再委託先：国立大学法人京都大学）
脳型人工知能基本アーキテクチャ（MatcherNet）の開発を完了した（図 E1）。MatcherNet は変分ベイズ法を用いたオンライン予測符号化の枠組みのもとで、外部環境世界に関する内部認識モデルの獲得・更新と、これにもとづく制御信号生成を行うアーキテクチャであり、階層的な認識状態を各階層においてそれぞれ複数モジュールに分けて動作させる仕組みに新規性がある。MatcherNet は、認識モデルの獲得・更新を司る複数コンポーネントを、サブ課題 F で開発された BriCA2 が提供するコンポーネン
トおよびコンポーネント間の非同期通信管理の仕組みのもとでつなぎ合わせる形で実装されている（図E1 左）。

14

H30 年度までに、モジュール間同期並列動作とこれに基づく応用課題まで実現されていたところに対して、本年度では複数のモジュールにおける更新スケジュールを非同期並列的に自由に設定できるように拡張を行った。
また、この拡張を用いて、MatcherNet による非線形モデル予測制御を実装した。これまでに非線形モ
デル予測制御を行うアルゴリズムとして繰り返し線形化二次制御（iLQG）という方法が広く使われているが、とくに状態空間の次元数が大きいときに最適軌道計画の計算に時間がかかり、制御周期を短くしにくい問題が知られていた。ここでは、MatcherNet の枠組みの上で、iLQG による軌道計画を低頻度で行うモジュールと軌道計画に基づく制御信号生成を高頻度で行うモジュールの２つを階層的につなぎ合わせることにより、制御周期と精度の高い軌道計画を両立する仕組みを実装し、その頑健な動作を確認した。
MatcherNet およびその周辺技術は、Python による API を含むソフトウェアパッケージの形で
Apatch2.0 ライセンスのもと GitHub 上で公開されている。

図 E1：提案型の脳型人工知能基本アーキテクチャ (MatcherNet)の概要説明図。
応用問題として、CG キャラクター動画生成における物理モデル統合と、サブ課題 G で開発された動画
像中人体の複数関節姿勢認識との統合を行い、自然なアニメーションが生成されることを示した。これまでにサブ課題 G において、動画像から将来動作予測と動作再構成を行う技術が開発されていた[Ohnishi et al. 2018]が、動作予測の精度が十分ではなく、再構成映像が動画として不自然であるという問題があった。そこで、H30 年度に開発した多関節人体モデルキャラクターの物理モデルとモーションキャプチャーモデルの統合によって、アニメーション生成の技術[Hwang, 2018]を拡張した新しい手法を開発した（図 E2）。提案法によって、自然な再構成画像が生成できることが示された。

15

図 E2：課題 G で開発された動作予測と動画像生成を行うコンポーネントに、我々が課題 E で開発した物
理モデル統合法を組み合わせることにより、自然なアニメーションを生成した。
隠れ変数を含む強化学習(POMDP)課題として、４プレイヤーの協調競合問題であるコントラクトブリ
ッジのビッディング系の並列学習を行った。ニューラルネットワークによるゲーム行動戦略の学習では、一定の戦略のもとでゲームを実行する過程が計算ボトルネックとなるため、並列化により効率化する必要がある。近年提案された IMPALA 法[Espehold et al. 2018]では、複数の戦略に基づくゲーム試行をそれぞれ複数個並列で行いながら、その履歴に基づいて効率的に戦略更新を行うことを実現している。しかし複数の戦略を同時並列で評価する IMPALA 法では、ある戦略に基づく経験を得る前に、他の戦略における経験が反映されてしまう、というタイムラグが生じ、このタイムラグに基づく更新精度の悪化が無視できない可能性がある。また、コントラクトブリッジのような隠れ変数を含むゲームでは、隠れ変数の更新を行動に含めるため、行動空間が広がりすぎることによる計算量爆発の問題があった。
そこで、経験を得たときの戦略と現戦略が異なる問題を、重点サンプリングの手法[Degris et al.
2012]による補正によって解決し、またゲームルールを実装した正則化項によってルール違反行動の枝切りを行うことで行動空間を制限して計算可能にした。
提案した並列化アルゴリズムのスケラビリティを調べるため、シミュレーションを 5 スレッド並列で実装したところ、自己対戦で 1 秒あたり 150 ゲームの学習を実現し（図 E3A）、これによる戦略改善（図 E3B, 図 E3C）を確かめることができた。

16

図 E3：コントラクトブリッジのビッディング戦略の並列学習。(A) 自己対戦から並列学習する IMPALA法により、一秒あたり合計 150 ゲームを 5 スレッドで並列実行しながら、5 つの Actor の評価を行いつ
つ Learner における戦略パラメータ更新を高速で進める。(B)学習エポックが進むにつれて勝ち越し得点（IMP）の着実な向上が見られた。(C)初期 2 万エポックまでパスアウト（全員パスによる自明な引き分け）の回数が減ってゆき、それ以後でパスアウトが起こりにくくなっていることがわかる。
⑥ （サブ課題 F）脳型人工知能用大規模高性能計算プラットフォームの開発（再委託先：国立研究開発法人理化学研究所）
1) 基盤ソフトウェア BriCA の開発「京」における並列化効率を改善するため通信方式の変更を行った。BriCA ではノード間の通信デー
タを固定長とする制約があるため、これまでは 128 ノード 1024 プロセスでは並列化効率が落ち込んでいたところ、MPI 通信の永続化を行うことで 1024 ノード 32768 プロセスまで線形にスケールさせることに成功した。本実装のベンチマーク結果を図 F1 に示す。左側のプロットは実行速度のスピー
ドアップを示しており、右側はその並列化効率を示している。線の色は BriCA 上で実行されている
プロセスあたりのワークロードを表し、線のスタイルがプロセスあたりに実行されている BriCA のワーカーの数を表している。スピードアップの図からはいずれの条件においてもベンチマークを実施したプロセス数上限までほぼ線形にスケールしているが、ワークロードの軽いベンチマークほど相対的に大きな定数時間のオーバーヘッドが存在していることが読み取れる。破線、点線はいずれも緑の実線に隠されてしまっているためワーカーの数が増えプロセスあたりの総実行時間が多いほど良いスケーリングが得られることを示している。
並列化効率に着目すると 1ms、10ms のベンチマークでは 1 ノード 8 プロセスから 2 ノード 16 プロ
セスのデータ点の間で著しく並列化効率が低下していることからノード間の通信がオーバーヘッドの大部分を占めていることがわかる。一方で 1 ノード 8 プロセスの場合においてもワークロードの
軽いベンチマークは並列化効率が理想的なケースと比較して低い。プロファイリングの結果 MPI の同期が主なオーバーヘッドとして浮上したためより粒度の高いチューニングは行わなかった。FX100
コンピュータを用いたベンチマークにおいても同様の結果が得られたため、これらの特徴は「京」に特異的な内容ではないことがわかった。以上の結果から実アプリケーションにおけるスケジューリ
ングの際にはワークロードの軽いワーカーを集めることでスケーリング性能を確保しつつ高い並列化効率を実現可能であることが示された。

17

図 F1：改良版 BriCA2 のベンチマーク結果
2) 非同期学習アルゴリズム
非同期深層ニューラルネットワーク学習アルゴリズムとして、DNI/SG、ADFA の並列性能向上に継続
して取り組むとともに、前年度に開発した Local Errors(LE)を用いて ImageNet と呼ばれる大規模画
像データセットの学習を試みた。VGG と呼ばれる畳み込みニューラルネットワークモデルの変種を用
い学習を行ったところ、学習初期段階において誤差逆伝播法による学習と比較して非常に収束率が悪いことが確認された。スケーリング性能についても誤差逆伝播法と同等のスループットが確認されたが、GPU 数増加に伴う劇的なパフォーマンス改善は見られなかった。学習が収束しない原因としては Local Errors を計算するためのハイパーパラメータのチューニングが必要であると推測される。マルチ GPU でのパフォーマンス改善が小さい原因としては現行の GPU 間通信では一対一通信がサポートされておらず、全 GPU に対して通信が発生するため ImageNet 規模の巨大なデータセットでは通信のオーバーヘッドが非常に大きいことが挙げられる。内部で利用している GPU 通信ソフトウ
ェアである NCCL が次期バージョンにおいて一対一通信をサポートする可能性があるためその採用によってオーバーヘッドを取り除きスケーリングを改善できると考えられる。
3) MatcherNet 並列実装
サブ課題 E にて開発された MatcherNet の実装を引き続き BriCA2 Python Interface を用いて行った。本年度は MatcherNet の実装を公開することに重点を置き、予定どおり年度中に GitHub にて公開された。詳細はサブ課題 E を参照。
⑦

（サブ課題 G）脳型人工知能の大規模実問題への応用（再委託先：国立大学法人東京大学）
今年度は、これまでに実現された動画像予測と生成の基盤アルゴリズムや動画像認識アルゴリズム

18

について、他のサブ課題で得られた脳型人工知能の知見を踏まえつつ拡張した。さらに上記アルゴリズ
ムを改良し、大規模な動画像処理を可能とする認識に重要な領域を高速に推定可能な手法を構築した。
具体的には、動画像の予測と生成においては、撮影対象に内在する人間身体の構造的制約を考慮することでより正確な動画像となるようにした。また、動画像認識においては，単純な認識結果を出力するだけではなく、システムがどうしてそのような結果を出力したかの理由も明示可能なアルゴリズムを実現した。

○動画像予測本年度は、人間が写る動画像が与えられた時に、その続きの多様でかつ数秒程度の未来の動作を予測し、動画像として生成する手法を開発した。提案手法の概要は次のようである。人間が写る動画像が入力として与えられた際に、まず動画像内の人間の骨格の位置と姿勢を推定し、次に人間の未来の骨格の位置と姿勢の時系列を予測し、予測した骨格時系列情報に基づいて動画像を生成する多段階のアプロー
チで未来の動画像を生成する（図 G1 参照）。この時、生成する未来の骨格時系列情報をできる限り長時間とするだけではなく、未来に起こりうる動作は単一とは限らないため多様な動作予測をおこなうこととした。

図 G1：未来動画像予測生成手法の全体図
未来の骨格の位置と姿勢の時系列情報は、Conditional Generative Adversarial Networks (CGAN)[1]を参考にして、時系列予測のニューラルネットワークを敵対的学習を用いて訓練する。学習された
ネットワークを用いて、関節の時系列情報を画像上の二次元座標として生成する。このとき、できる限り長時間の骨格時系列情報を生成するために、時系列予測ネットワークを構成する生成器と識別器には長時間の時間軸上の関係性を少ない層数で扱うことができる一次元畳み込みニューラルネットワークを用いた。また CGAN には、生成器が多様性のほとんどないデータしか生成しなくなるモード崩壊という間題が指摘されている。この問題点を回避し多様な骨格時系列情報を生成するために、生成器の入力にInfoGAN [2]に用いられる潜在符号と、生成される骨格の座標に制限を付与する引き寄せ地点を加えた。 潜在変数は、動作カテゴリに対応し、引き寄せ地点とは生成される人間の動作の腰の位置の最終地点にあたる。これらの情報をランダムに変化させることで多様な骨格時系列情報を生成可能となる。
生成された人間の骨格時系列情報を元に動画像を生成するニューラルネットワークは、Yan らの手法
[3]を参考にした。具体的には、１）入力動画像のフレーム、２）各フレーム対応する骨格情報、３）予測した未来の骨格時系列情報の三つから、未来の動画像フレームを生成するネットワークを敵対的学
習を用いて訓練し、入力動画像に対応する多様な未来の動画像を生成する（図 G2 参照）。

19

図 G2：未来骨格時系列情報生成ネットワークの構造実験では、生成された未来の骨格時系列情報と対応する動画像のそれぞれにおいて、自然さ、多様さ、正確さという三つの観点で評価をおこなった。
自然さの評価実験において、Amazon Mechanical Turk を通じて依頼をしたワーカーに、提案手法とVillegas らの比較手法[4]で生成した骨格時系列情報または動画像のペアを見せ、どちらがより自然かを評価してもらった。骨格時系列情報では提案手法が既存手法[4]に比べ評価が高かったが、動画像ではわずかに既存手法[4]が提案手法より評価が高かった（表 G1 参照）。

表G1：自然さにおける評価実験結果．ワーカーが高い評価を与えた割合（％）

Skeleton
Video

Proposed

Baseline [4]

65.33

34.67

48.00

52.00

多様さの評価実験において、同じ入力動画像から 100 回骨格時系列情報または動画像を生成し、生成データ間の距離を測定することで多様性を評価した。ネットワークが多様なデータを生成できている際は、データ間の距離が大きくなる。潜在符号 C と引き寄せ地点 G をそれぞれ有効にした時と無効にした
時の 4 通りで比較した。潜在符号と引き寄せ地点をどちらも有効にすることで多様な骨格時系列情報と動画像が生成できることが示された（表 G2 参照）。
表 G2: 生成された骨格時系列情報と動画像の多様性評価結果
C/G

×/×

×/○

○/×

○/○

Skeleton (MSE)

0.0003

0.085

0.075

0.113

0.047

0.314

0.294

0.348

Video (cosine
distance)20正確さの評価実験において、同じ入力動画像から 100 回骨格または動画像を生成し、その中で一番正解データに近いデータと正解データとの距離を測定した。また、比較手法[4]は多様な未来を生成しな
いため、それと比較するためにランダムに選んだデータと正解データの距離も測定した。生成された多様なデータの中には正解データに近いものが含まれることがわかった（表 G3 参照）。
表 G3: 生成された骨格時系列情報と動画像の正確さの評価結果
Proposed (100)Proposed (1)Baseline [4]Skeleton

0.032

0.112

0.059

Video

0.826

0.781

0.771

○動画像認識
計算機の視覚認識能力は、近年の深層学習技術の発展により大幅に向上している。しかしながら、その複雑性の高さから、深層ニューラルネットワークの意思決定プロセスはブラックボックスであるた
め、計算機に意思決定の理由を説明させて信頼性を検証するニーズが高まっている。そこで、本年度は動画を認識し分類するだけでなく、視覚言語情報を組み合わせて、入力動画像があるクラスには分類されずに、別のクラスに分類される理由を説明するシステムを構築することを目標とした。具体的には、「動画像 X には、 A と B という要素が存在するので、動画像 X はクラス C ではなくクラス D に分類される」ような説明を生成することを考える。この説明を「反事実説明」と呼ぶことにする[5]。これは、モデルの予測が人間の考えているものと異なる理由を理解するのに役立つ可能性や、二つの特定クラス間の分類が困難な場合にも役立つ可能性がある。このような説明生成は、人間がすぐには見ることができない内容を効率的に提供するため、長い動画像の場合には特に有効な手段と考えられる。
視覚的言語的説明の出力には以下の二つの性質を持つ必要がある。
１．視覚的説明は、特定の正負クラスに対し、予測において高い正負らしさを保持している領域である。
２．言語的説明は視覚的説明と矛盾しない。
上記の必要条件１と２の両方を満たす説明生成システムを構築するため、反事実性予測をもとにした
反事実性説明を生成する新しいフレームワークを提案した（図 G3 参照）。提案したフレームワークの概要は以下の二つのステップからなる。（A）説明の対象となる分類器を訓練し、（B）説明の対象となる分類器の出力と中間特徴を利用して、出力が変化しないように重みを凍結した後、ポストホック的に補助的な説明モデルを訓練する。説明モデルは、すべての負例クラスの反事実性スコアを予測する。この説明モデルは、教師付き情報「X はクラス A に分類されている」を「X は A 以外のカテゴリ B に分類されていない」に変換できることを利用して学習される。

21

図 G3：提案する反事実説明生成手法の全体図提案する説明モデルは、クラスと属性のペアを同時に予測する訓練可能な分類器を含んでいる。特定の視覚言語的説明に対する反事実性は、対象となる正負のクラスに対応する分類器の出力から計算できる（図 G4 参照）。システムが説明を出力する際には、与えられた正／負のクラスに対して反事実性が大きい「属性、領域」の組が複数選択される。

図 G4：説明モジュールの概要
領域に関する予測スコアの最大化は、学習と推論の過程で必要とされるが、これは単純な手法では計算が困難である。候補領域がチューブ状であるという自然な仮定の下では、動的計画法を用いて最大値と対応する領域パスを効率的に計算可能であるという事実に基づき、本研究では、ほとんどの深層学習ライブラリにあらかじめ実装されている標準的な関数（max pooling, relu など）のみでニューラルネ
ットワークの層として実装できるようにアルゴリズムを構築し、計算順序を変更することで、GPU 上のCNN（Convolutional Neural Networks）と容易に組み合わせることができるようにした（図 G5 参照）。

22

図 G5：効率的なパス推定手法の概要
また、本研究で提案した反事実性予測のフレームワークは、条件付き相互情報の下界の最大化として正当化されることを示した。
さらに、既存の行動認識データセットにアノテーションを追加することで本提案手法を定量的な評価ができるようにし、作成したデータセットを活用して手法の評価をおこなった。図 G6 に提案手法で出力した認識結果とその判断説明について記載する。図 G6 の上段では、入力動画像がロープクライミン
グであることを認識するだけではなく、ロープクライミングがサルサスピンでない理由を体が垂直に移動していることとしていることが分かる。また、下段の例では、入力動画像が自転車をこぐと認識するだけではなく、スケートボードでない理由を座っていることとしていることが分かる。このように提案
手法により動画像の認識のみならず判断理由を自然言語で説明可能であることが分かる。

図 G6：説明出力結果の例
参考文献[1] Mehdi Mirza & Simon Osindero, Conditional generative adversarial nets. arXiv preprint
arXiv:1411.1784, 2014.
[2] Xi Chen et al., InfoGAN: Interpretable representation learning by information23

maximizing generative adversarial nets. In NIPS, 2016.
[3] Yichao Yan et al., Skeleton-aided articulated motion generation. In ACMMM, 2017.
[4] Ruben Villegas et al., Learning to generate long-term future via hierarchicalprediction. In ICML, 2017.
[5] Sandra Wachter et al., Counterfactual explanations without opening the black box:
Automated decisions and the gdpr. In Harvard journal of law & technology 31(2):841-887,
2018.
⑧ プロジェクトの総合的推進
プロジェクト全体の連携を密としつつ円滑に運営していくため、8 月に電気通信大学、6 月、3 月にオンラインでプロジェクト会議を開催し、8 月, 9 月に全脳モデル統合のためのハッカソンを開催した。ハッカソンでは、全脳統合モデルのベンチマークとしてターゲット選択の強化学習と、そこへの上腕の到達運動制御を設定し、そのためのモデルの具体化をすすめた。またゴードンベル賞に向けた取り組みとして、ヒト全脳コネクトームデータをモデルに取り込む手法についての検討を行った。
プロジェクト全体の進捗状況と国内外での関連プロジェクトの進展を確認しつつ計画の合理化を検討するため、NEST Conference 2019 に参加し、Juelich Center の Markus Diesmann 博士、Norwegian
University of Life Sciences の Hans Ekkehard Plesser 博士らと技術協議を行った。
プロジェクトで得られた成果を積極的に公表し今後の展開に資するため、7 月にバルセロナでのComputational Neuroscience Meeting においてキーノート講演、グループポスター発表、チュートリア
ル企画を行った。
さらに今後の研究開発を加速するため、Human Brain Project のメンバーが共同研究者のニーズに応じて研究開発を行う Voucher Program に応募し、Hans Ekkehard Plesser 博士らとの NEST の最適化、Fabrice
Morin 博士らとの Neurorobotics Platform のカスタム化の提案が採択された。
４－３．活動（研究会等）
1） Computational

Neuroscience

Meeting

Tutorial:

Introductiontohigh-performance

neurocomputing. 2019 年 7 月 13 日 、 バ ル セ ロ ナ 大 学 。 https://www.cnsorg.org/cns-2019tutorials#T7
2） プロジェクト会議（2019 年 6 月 10 日オンライン、8 月 7 日電気通信大学、2020 年 3 月 20 日オンライン）3） 全脳モデル統合ハッカソン（2019 年 8 月 8 日、9 月 12 日電気通信大学）。
４－４．実施体制
業務項目①（サブ課題A）脳の構造と担当機関
国立大学法人京都大学

活動の大規模データ解析②（サブ課題 B）大脳皮質担当責任者
情報学研究科講師 大羽 成征国立研究開発法人理化学研究所

神経回路のデータ駆動モデル

情報システム本部 計算工学応用開発ユニット24

構築③（サブ課題C）ヒト全小脳上級研究員
国立大学法人電気通信大学

モデル構築と大脳小脳連関シ

五十嵐潤

大学院情報理工学研究科
准教授

山﨑 匡

ミュレーション
④（サブ課題D）大脳皮質・学校法人沖縄科学技術大学院大神経計算ユニット

基底核・小脳モデル統合によ

学学園

教授

国立大学法人京都大学

情報学研究科

国立研究開発法人理化学研究所

生命機能科学研究センター

銅谷賢治

る全脳シミュレーション⑤（サブ課題E）脳型人工知教授 石井 信能アーキテクチャの開発⑥（サブ課題F）脳型人工知バ

能用大規模高性能計算プラッ

イオコンピューティング研究チ

トフォームの開発ーム
チームリーダー⑦（サブ課題G）脳型人工知

国立大学法人東京大学

能の大規模実問題への応用⑧プロジェクトの総合的推進

情報理工学系研究髙橋

達也
学校法人沖縄科学技術大学院大神経計算ユニット

学学園

教授

25

銅谷

賢治

教授

恒一
原田

別添１
様式第２１
学

会

等

発

表

実

績

委託業務題目「思考を実現する神経回路機構の解明と人工知能への応用（脳のビッグデー
タ解析、全脳シミュレーションと脳型人工知能アーキテクチャ）」
機関名 学校法人 沖縄科学技術大学院大学学園
１．学会等における口頭・ポスター発表
発表した成果（発表題

発表者氏名

目、口頭・ポスター発

発表した場所

発表した時

国内・（学会等名）

期

外の別Computational

2019/7

国外

2019/7

国外

2019/7

国内

表の別）Neural Circuits for

Doya, K

Mental Simulation（招Neuroscience

待講演）

Meeting(CNS*2019)
Barcelona, Spain

A whole-brain spiking

Gutierrez

Computational

neural network modelCE,

Neuroscience

linking basal

Igarashi J,

Meetingganglia, cerebellum,

Sun Z,(CNS*2019)

cortex and thalamus

Yamaura H,

Barcelona, Spain（ポスター）

Yamazaki T,
diesmann M,
Lienard J,
Morteza H,
Girard B,
Arbuthnott
G, Plesser
EH, Doya K

A spiking neural

Gutierrez

第42回日本神経科

network model of theCE,学大会, 第62回日

whole-brain circuit

Igarashi J,

本神経化学会大会

linking basal

Sun Z,(NEURO2019)

ganglia, cerebellum

Lienard J,

and cortex（口頭）Yamaura H,
別添 1-1

Yamazaki T,
Morteza H,
Girard B,
Arbuthnott
G, Plesser
H, Diesmann
M, Doya K
Big Data Challenges

Doya, Kenji

IEEE CIS Summer

2019/8

国外

2019/11

国外

2019/12

国内

2020/1

国内

発表した場所

発表した時

国内・（学会誌・雑誌等

期

外の別2019/9国外

in Neuroscience（招待School: Big Data

講演）

Analytics andStreamProcessing.
Indian Instituteof Information
Technology
Allahabad, India

Toward whole-brain

Doya, Kenjimulti-scale modeling.

NBNI2019
Chongqing, China(口頭)
Building a Whole-

Gutierrez

3rd Ryudai-OIST

Brain Model（ポスタCEsymposium. OISTー）Okinawa, Japan

Toward Realizing

Gutierrez

20th WinterReinforcement

CE

Workshop on the

Learning in a Whole-

Mechanism ofBrain Spiking NeuralBrain and Mind.

Network Model(ポスタ

Rusutsu,ー)Hokkaido, Japan

２．学会誌・雑誌等における論文掲載
掲載した論文（発表題

発表者氏名

目）

名）
Dynamics of Basal

Moren J,

Multiscale Models

Ganglia and Thalamus

Igarashi J,

of Brainin Parkinsonian

Shouno O,
別添 1-2

Tremor（Book

Yoshimoto

Disorders,

Chapter）

J,

Springer

Doya K
機関名

京都大学

１．学会等における口頭・ポスター発表
発表した成果（発表題

発表者氏名

目、口頭・ポスター発

発表した場所

発表した

国（学会等名）

時期

内・

表の別）

外の
別

Online motion

Hwang, J.,

The 18th annual ACM

synthesis framework

Ishii, S., &SIGGRAPH/Eurographics

using a simple mass

Oba, S.

Symposium on Computer

2019/7

国外

2019/10

国外

発表した場所

発表した時

国内・（学会誌・雑誌等

期

外の別2019/8

国外

model based on

Animation

predictive coding(Los Angeles, CA,（ポスター）

USA)

Long and Short

Meshgi, K.,IEEE International

Memory Balancing in

Mirzaei, M.

Conference on Image

Visual Co-Tracking

S., Oba, S.

Processing (ICIP),

Using Q-Learning

pp. 3970-3974（口頭）(Taipei, Taiwan)

２．学会誌・雑誌等における論文掲載
掲載した論文（発表題

発表者氏名

目）

名）
Semi-Supervised Deep

Ito, R.,

Neural Networks,

Learning of Brain

Nakae, K.,

116, 25-34.

Tissue Segmentation

Hata, J.,
Okano, H., &Ishii, S.

別添 1-3

An unsupervised EEG

Liang, Z.,

Neural Networks,

decoding system for

Oba, S., &116, 257-268.

human emotion

Ishii, S.

2019/8

国外

2020/3

国外

2020/3

国外

発表した場所

発表した時

国内・（学会等名）

期

外の別

NM2 Conference,

2019/5

国外

2019/6

国外

recognition
EEG-based personal

Nishimoto,

Journal of neuralidentification method

T., Higashi,engineering,using unsupervised

H., Morioka,

17(2), 026007.

feature extraction

H., & Ishii,

and its robustness

S.

against intra-subject
variability
Generative andIshii, S.,

Microscopy,

discriminative model-

Lee, S.,69(2), 79-91.

based approaches to

Urakubo, H.,

microscopic image

Kume, H., &restoration andKasai, H.

segmentation
機関名：国立研究開発法人理化学研究所
１． 学会等における口頭・ポスター発表
発表した成果（発表題

発表者氏名

目、口頭・ポスター発
表の別）
Parallelization

Jun Igarashi

method of cortico-Champery,thalamo-cerebellar

Switzerland

circuits towardexascale computing（口頭）
Large-scale
simulation of a

Jun Igarashi

NEST Conference,
Norwayspiking neuralnetwork model
consisting of
別添 1-4

cortex, thalamus,
cerebellum and basal
ganglia on K
computer（口頭）分散システムにおける

板谷琴音、坂2019年度 人工知能

疑似同時化の検討 遅

井尚行、高橋学会全国大会(第33延があっても機械学習

恒一、山川宏回)

Jun Igarashi

Computational

2019/6

国内

2019/7

国外

2019/7

国外

2019/7

国外

2019/7

国内を使うために（口頭）
Parallel computingof a cortio-thalamo-

Neurosciencecerebellar circuit

Meetingusing tile

(CNS*2019)

partitioning

Barcelona, Spainparallelization
method by MONET
simulator（ポスター）Spatially organized

Sun ZheComputational

connectivity for

Neurosciencesignal processing in

Meetinga model of the(CNS*2019)rodent primary

Barcelona, Spainsomatosensory cortex（ポスター）
Hierarchy ofMorteza

Computational

inhibitory circuit

Heidarinejad

Neuroscience

acts as a switch key

Meeting

for network function(CNS*2019)in a model of theBarcelona, Spain

primary motor cortex（ポスター）
Parallelization of

Jun Igarashi

第42回日本神経科

building spiking

学大会, 第62回日

neural networks in

本神経化学会大会(NEURO2019)
別添 1-5

MONET simulator（ポスター）
Spatial summation of

Sun Zhe日本神経回路学会

2019/9

国内

2019/9

国内

2019/10

国内

発表した場所

発表した時

国内・（学会誌・雑誌等

期

外の別

信学技報

2019/11

国内

2019/11

国外

excitatory and第28回全国大会

inhibitory signals(JNNS2019)in a model of therodent primarysomatosensory cortex（口頭）
Switches ofMorteza

日本神経回路学会

activation in

Heidarinejad

第28回全国大会

hierarchical(JNNS2019)inhibitory circuitry
in simulated primary
motor cortex（ポスター）
大規模分散メモリ環境

板谷琴音、高生命情報科学若手

における非同期多次元

橋恒一、冨田の会 第11回研究会

配列計算・転送システ

勝

ムの開発
（口頭）
２． 学会誌・雑誌等における論文掲載
掲載した論文（発表題

発表者氏名

目）

名）
ESNによる階層的予測誤

三好康祐、差モデルを用いた音声

山川宏、高Local-Global課題の再

橋恒一

現シミュレーション
Large-Scale

Jun

Frontiers in

Simulation of a

Igarashi,

Neuroinformatics

Layered Cortical

Hiroshi

Sheet of Spiking

Yamaura,Network Model Using a

TadashiYamazaki
別添 1-6

Tile Partitioning
Method

機関名

国立大学法人電気通信大学

１．学会等における口頭・ポスター発表
発表した成果（発表題

発表者氏名

目、口頭・ポスター発

発表した場所

発表した時

国内・（学会等名）期外の別

2019/7

国外

2019/7

国内

発表した場所

発表した時

国内・（学会誌・雑誌等

期

外の別2019/8

国内

発表した場所

発表した時

国内・（学会等名）

期外の別

日経 AI サミット

2019/4

国内

表の別）
Building a spiking

HiroshiComputational

network model of the

Yamaura, Jun

Neurosciencecerebellum on K

Igarashi,

Meetingcomputer using NEST

Tadashi(CNS*2019)and MONET simulators

YamazakiBarcelona, Spain

山浦 洋

第42回日本神経科（ポスター）MONETシミュレータを用いたスーパーコンピ

学大会, 第62回日ュータ「京」上での大本神経化学会大会規模小脳神経回路モデ(NEURO2019)

ルのシミュレーション（ポスター）
２．学会誌・雑誌等における論文掲載
掲載した論文（発表題

発表者氏名

目）

名）
小脳神経回路をコンピ

山浦 洋

Clinicalュータ上に作る

山﨑 匡

Neuroscience

機関名：東京大学 大学院情報理工学系研究科
１．学会等における口頭・ポスター発表
発表した成果（発表題

発表者氏名

目、口頭・ポスター発
表の別）
機械学習による実世界

原田達也

理解（口頭）
別添 1-7

Learning to Explain

Atsushi

画像の認識・理解2019/7

国内

with Complemental

Kanehira,

シンポジウム

Examples（口頭）Tatsuya(MIRU2019)2019/8

国内

発表した場所

発表した時

国内・（学会誌・雑誌等

期

外の別2019/6

国外

2019/6

国外

Harada
機械学習による実世界

原田達也

株式会社ブリヂス

理解（口頭）

トン

２．学会誌・雑誌等における論文掲載
掲載した論文（発表題

発表者氏名

目）

名）
Learning to Explain

Atsushi

The 32nd IEEE

with Complemental

Kanehira,

Computer Society

ExamplesTatsuyaConference on

HaradaComputer Vision
and Pattern
Recognition(CVPR), pp. 86038611, 2019

Multimodal

Atsushi

The 32nd IEEE

Explanations by

Kanehira,

Computer Society

Predicting

KentaroConference on

Counterfactuality in

Takemoto,

Computer Vision

VideosShoand Pattern

Inayoshi,

Recognition

Tatsuya(CVPR), pp. 8594-

Harada8602, 2019

別添 1-8

別添 2「思考を実現する神経回路機構の解明と人工知能への応用（脳のビッグデータ解析、全脳シミュレーションと脳型人工知能アーキテクチャ）」
実施計画

平成 30 年 3 月 14 日
学校法人沖縄科学技術大学院大学学園
銅谷賢治

【改訂履歴】
項目

版

ページ

1.0

主な改訂内容（概要）制定(2016.11.30)
2.0（2017.12.22）

中間評価指摘事項を受け対応。
1．（3）

3～4

年間目標及び最終目標に定量的・定性的な目標
を追加。

2.

14

予備計算による知見を追記。

サブ課題 B(4)
技術的課題について追記。

2.
サブ課題 B(4)14

サブ課題 D(2)17従来研究とは異なる優位性と、そのポスト

2.
サブ課題 E(3)20

サブ課題 F(4)24

2.

「京」における萌芽性について記述。
実施体制にサブ課題間の連携について追記。

サブ課題 G(5)

26

1(6)

8～9

実施体制にサブ課題間での連携について追記。

1(7)

9

計算資源量の修正。

1(7)9

計算資源量（H31）の修正。

3.0(2018.3.14)
4.0(2019.5.31)

目次
１．実施概要 ..........................................................................................................................................1（１）目的・意義 ...............................................................................................................................1（２）研究開発内容 ............................................................................................................................1（３）目標・期待される成果..............................................................................................................3（４）周辺領域への波及効果、課題全体における計算科学やシミュレーションの位置づけ .............4（５）年次計画 ...................................................................................................................................5（６）実施体制 ...................................................................................................................................8（７）必要計算資源 ............................................................................................................................9
２．研究開発内容詳細 ..........................................................................................................................10
２－1．サブ課題 A．脳の構造と活動の大規模データ解析 ...............................................................10（１）目的・意義 .............................................................................................................................10（２）実施内容 .................................................................................................................................10（３）目標・期待される成果............................................................................................................ 11（４）「京」でできていること、ポスト「京」でなければできないこと..........................................12（５）実施体制 .................................................................................................................................12２－２．サブ課題 B．大脳皮質神経回路のデータ駆動モデル構築...................................................12（１）目的・意義 .............................................................................................................................12（２）実施内容 .................................................................................................................................13（３）目標・期待される成果............................................................................................................13（４）「京」でできていること、ポスト「京」でなければできないこと..........................................14（５）実施体制 .................................................................................................................................14
２－３．サブ課題 C．ヒト全小脳モデル構築と大脳小脳連関シミュレーション .............................15（１）目的・意義 .............................................................................................................................15（２）実施内容 .................................................................................................................................15（３）目標・期待される成果............................................................................................................16（４）「京」でできていること、ポスト「京」でなければできないこと..........................................16（５）実施体制 .................................................................................................................................17
２－４．サブ課題 D．大脳皮質・基底核・小脳モデル統合による全脳シミュレーション ...............17（１）目的・意義 .............................................................................................................................17（２）実施内容 .................................................................................................................................17（３）目標・期待される成果............................................................................................................18（４）「京」でできていること、ポスト「京」でなければできないこと..........................................19（５）実施体制 .................................................................................................................................19
２－５．サブ課題 E．脳型人工知能アーキテクチャの開発 .............................................................19i

（１）目的・意義 .............................................................................................................................19（２）実施内容 .................................................................................................................................20（３）目標・期待される成果............................................................................................................20（４）「京」でできていること、ポスト「京」でなければできないこと..........................................21（５）実施体制 .................................................................................................................................22
２－６．サブ課題 F．脳型人工知能用大規模高性能計算プラットフォームの開発 ..........................22（１）目的・意義 .............................................................................................................................22（２）実施内容 .................................................................................................................................23（３）目標・期待される成果............................................................................................................23（４）「京」でできていること、ポスト「京」でなければできないこと..........................................24（５）実施体制 .................................................................................................................................24
２－７．サブ課題 G．脳型人工知能の大規模実問題への応用..........................................................25（１）目的・意義 .............................................................................................................................25（２）実施内容 .................................................................................................................................25（３）目標・期待される成果............................................................................................................25（４）「京」でできていること、ポスト「京」でなければできないこと..........................................26（５）実施体制 .................................................................................................................................26
３．採択時の留意事項への対応状況 ....................................................................................................27ii

１．実施概要（１）目的・意義
脳の構造と活動に関して得られる膨大なデータを運動制御や思考などの脳機能の理解につなげるに
は、多種多階層のデータを統合して全脳の神経回路モデルを構築しシミュレーション解析を行うことが必要である。また今日の人工知能の基本要素である深層学習は物体認識や完全情報ゲームで人間を凌ぐ性能を与えているが、その学習には膨大なデータを必要とする。
本研究はこれらの要求と課題に対してポスト「京」の計算資源を活用して対応することを目標とする。そのため、脳データの解析とモデリング手法の開発、大脳皮質、小脳、大脳基底核を含む全脳の神経回路のシミュレーション実装、不完全観測や少数サンプルからの学習が可能な脳型人工知能の開発を行う。これらにより、運動制御や思考を実現する脳機能の解明と、多プレーヤゲームや動的画像処理などに応用可能な脳型人工知能への貢献を目指す。
（２）研究開発内容
脳における学習や思考の実現のしくみを理解し、それをもとに脳のように柔軟かつ汎用的な人工知能を実現するためには、脳の解剖学、生理学的な知見にねざした神経回路モデルを構築し、その系統的なシミュレーションにより感覚、運動、学習、推論などの機能が、どのような条件のもとでどのような回路ダイナミクスにより実現されるかを明らかにし、その計算原理と制御機構を抽出することが求められる。
本課題の第１の目標は、スパイキングニューロンモデルによる大脳皮質、大脳基底核、小脳の詳細な神経回路モデルを構築し、それらを統合したヒト全脳レベルの神経回路シミュレーションをポスト「京」により実現することである。詳細な神経回路モデルの構築には、MRI、神経トレーサー、電子顕微鏡など画像にもとづくコネクトミクス（神経結合の網羅的解析）データの活用が求められ、そのための大量の計算処理にもポスト「京」の計算資源を活用する。大脳皮質、大脳基底核、小脳それぞれの神経回路モデルの妥当性の検証とその動作原理と制御機構の理解には、多様な入力やパラメタ設定
による系統的なシミュレーションの結果を生理学データや認知行動データと比較することが求められ、
ここでもポスト「京」の計算資源が必要となる。これらをもとに構築された詳細な神経回路モデルの
ヒト全脳規模でのシミュレーションが可能なことをポスト「京」により実証することは、計算科学として時代を画す大きな意義を持つとともに、そのようなモデルが神経生理学的に妥当な形で動作するための条件を明らかにすることは、神経科学としても重要な知見をもたらすものである。
本課題の第２の目標は、脳の詳細モデルの系統的なシミュレーションから抽出された計算原理と制御機構をもとに、ニューロン集団の平均発火頻度に相当する連続変数による人工神経回路モデルを構築し、脳型の人工知能を実現することである。今日「ディープラーニング」による人工神経回路モデ
ルは、静止画像 mp 認識や囲碁のような完全情報ゲームで人間を超える性能を得つつあるが、その学習には膨大なデータを必要とし、動画像認識や多プレーヤの不完全情報ゲームなど、ダイナミックな情報推定が必要とされる課題では十分な性能が得られていない。そこでヒトを含む哺乳類の脳の持つダ
イナミックな回路アーキテクチャを参考にした新たな人工知能アルゴリズムの開発を進める、その実装で必要となる分散非同期型の計算プラットフォームを構築し、ポスト「京」の超並列計算資源を最

別添 2-1

大限に活用したアプリケーションを実現する。
これらを実現するために以下の７つのサブ課題を設定し、有機的な連携のもとで研究開発を展開する。
サブ課題 A: 脳の構造と活動の大規模データ解析「革新脳」プロジェクトでは、高度な認知機能を持つマーモセットの脳を対象に、そのマクロからミ
クロへの構造と活動のデータが系統的に取得されている。そこでは、拡散 MRI や機能 MRI データからのマクロコネクトミクス、蛍光トレーサーの光学画像や電子顕微鏡画像の連続切片からの３次元再構
成など、大量のデータと計算を要する処理が多数存在する。これらについて超並列計算機でスケールするようなアルゴリズムを導出し、革新脳で得られたデータに適用し、他のサブ課題でのモデル構築に活用する。
サブ課題 B: 大脳皮質神経回路のデータ駆動モデル構築
大脳皮質は、大脳基底核、小脳とループ構造の回路を形成し、運動制御、意思決定、思考など高次認知機能を担うと考えられている。まずモデル構築のための実験データが手に入りやすい１次運動皮質―基底核―小脳のループ回路について運動制御の機構を再現する。さらに感覚野、連合野を含むモデ
リングにより、思考を実現する神経回路の基本動作を解明する。
サブ課題 C: ヒト全小脳モデル構築と大脳小脳連関シミュレーション
小脳は運動制御・学習において重要な役割を担っており、大脳皮質と連携して高次脳機能にも関与している。小脳の解剖学・生理学データにもとづいて構築してきたモデルを、ヒト全小脳規模にスケールアップしてポスト「京」上に実装する。サブ課題である大脳皮質のモデルと接続し、さらに大脳基底核とも大脳皮質を介して連携することで、運動制御と予測に関わる全脳部位の活動をポスト「京」上で再現する。
サブ課題 D: 大脳皮質・基底核・小脳モデル統合による全脳シミュレーション
大脳基底核は、報酬予測に基づく行動選択と強化学習に主要な役割を果たし、運動制御のみならず、
認知的な表象の操作など思考の実現にも重要な機能を持つと考えられる。HPCI 戦略プログラムで構築した大脳基底核回路モデルをベースに、行動選択と強化学習の機能がいかに実現されるかを明らかにする。サブ課題 B で構築する大脳皮質-視床モデル、サブ課題 C で構築する小脳モデルとの統合により、大脳皮質-基底核-小脳回路による思考の実現機構を探る。
サブ課題 E: 脳型人工知能アーキテクチャの開発
多数の力学系からなるネットワークに対する学習アーキテクチャの実装を進める。不完全観測、動的、
少数サンプルの課題でも、適切な推定と制御、モデル探索（メタ学習）と学習を行うことのできる脳型アーキテクチャとして、階層ベイズネットワークの近似的オンラインベイズ学習と、非マルコフ環
境で動作する強化学習アルゴリズムを導出する。
サブ課題 F: 脳型人工知能用大規模高性能分散計算プラットフォームの開発
実時間環境においても大規模データからの高効率の学習を可能とするために、ポスト「京」のような大規模分散メモリ計算機上で大規模並列計算に対応した計算プラットフォームおよび非同期型の学習
アルゴリズムの開発を進める。各種の学習ノードを多数結合し大規模実行できるソフトウェアプラッ
トフォームおよび学習手法を開発し、全脳に匹敵する規模にまで脳型人工知能を展開するための基盤

別添 2-2

を整備する。
サブ課題 G: 脳型人工知能の実世界応用
計算機システムの構造に依存せずに高効率で動作する深層ネットワークの計算プラットフォームと、それを用いて実環境でリアルタイムに学習・動作する大規模動的視覚システムの開発を進める。静止
画認識で利用した情報などを援用して動画像認識性能をブーストさせる半教師付き学習や転移学習の開発を進める。
（３）目標・期待される成果
本課題の目標は、脳の構造と活動に関する詳細なデータにねざして、運動制御や思考がいかに実現されているのかを系統的な大規模シミュレーションにより明らかにし、それにもとづく脳型人工知能
アーキテクチャを構築することである。
＜アウトプット成果＞
これまでの全脳レベルのスパイキングニューロンモデルのシミュレーションとして、Izhikevich &Edelman (2008, PNAS)、Eliasmith et al. (2012)などがある。Izhikevich らのシミュレーションは、
ヒトの拡散 MRI により推定された結合データをもとにしたモデルで、脳波などの振動現象が再現されるかを調べたもので、脳機能の再現をめざしたものではない。Eliasmith らのシミュレーションは、脳の各部位の機能に関する仮定をもとに必要な結合を設定し、脳全体としての行動機能の実現を確認したものである。本研究は、脳の各部位の解剖学、生理学の詳細な知見をもとに全脳神経回路モデルを構築し、そのシミュレーシにより運動制御などの脳機能が実現できるかを検証するという全く新たな成果をめざすものである。
・平成 29 年度終了時
脳のデータ解析では、拡散 MRI からの全脳マクロ回路推定の領域分割による並列処理アルゴリズムを実装し、数十 CPU 規模での弱スケーリングの実現をめざす。またそれによる高速実行結果のアンサ
ンブル平均によりロバスト化を実現する。
全脳シミュレーションでは、これまで独立に異なる言語で開発されてきた大脳皮質、大脳基底核、小脳のスパイキングネットワークモデルを NEST により記述することにより統合し、「京」において数
千 CPU 規模での並列動作を実現し実時間実行にどこまで迫れるかを検証する。
また、脳型人工知能用計算プラットフォーム BriCA を共有メモリおよびマルチノードで並列化を実現し、その上で脳型の状態推定および制御のアーキテクチャである BundleNet の動作を実証する。
・本格実施フェーズ終了時
拡散 MRI からの全脳マクロ回路推定の結果をもとに、大脳皮質、大脳基底核、小脳をつなぐ全脳神
経回路モデルを構築し、「京」の全ノード規模でのシミュレーションにより、上肢の運動などの行動制
御とその脳内シミュレーションなど思考の基礎となる機能を再現することを目標とする。また、ポス
ト「京」のノード数でもスケールするように脳の空間構造を生かした並列計算手法を確立する。
脳型人工知能用計算プラットフォーム BriCA の「京」およびポスト「京」のアーキテクチャに向けた最適化を進め、その上で隠れ状態推定が必要なゲームで既存手法を上回る性能の実現、リアルタイムの動画像認識と学習を可能とするシステムの実現を目標とする。
これら各サブ課題における進展は、それぞれの分野の毎年の国際会議等で発表するとともに、本格

別添 2-3

実施フェーズ終了までに得られた科学的知見および技術的進展について学術論文として出版する。
・ポスト「京」運用開始５年後
ポスト「京」の超並列性を生かした計算により、以下のようなこれまでにない利活用を実現する。
脳シミュレーションでは、学習機能を組み込んだモデルを用いた探索により、思考の障害を伴う統合失調症、うつ病などの精神疾患の発生機序を探り、各個人の脳の構造や遺伝子の特徴をもとに、脳疾患の診断、予測、治療計画を可能にすることをめざす。脳型人工知能では、マルチエージェントゲー
ムにおいてエキスパートの性能を上回るシステム、動画像の自然言語要約により実世界で起きる様々な事象を言語で検索できるシステムなどを実現する。
＜アウトカム成果＞
本課題による成果は、計算科学、脳科学にとどまらず情報科学、精神医学、心理学など幅広い分野への貢献が期待される。
・ポスト「京」運用開始５年後
ヒトの思考を実現する神経回路機構にねざしたより柔軟な人工知能の実現への貢献、自動運転への貢献に加え、実環境における各種の製品開発支援、意思決定支援などで社会展開を図る。
・ポスト「京」運用開始１０年後
ヒト脳の発達過程や進化過程の理解につながることが期待される。また、膨大な監視カメラ群からの危険予測システムや、サービスロボットなど人と共存する次世代人工知能の応用を目指す。
（４）周辺領域への波及効果、課題全体における計算科学やシミュレーションの位置づけ
ヒト全脳規模の脳シミュレータを実現し公開することで、脳神経科学に広く貢献することが期待される。ポスト「京」の「生体シミュレーション」課題とも連携することで、計算精神医学への波及効
果が期待できる。また、ヒト全脳規模回路のシミュレーションを通じて、コミュニケーションなどの高度情報処理の理解、脳の機能不全の理解、教育法の開発など、医学、社会科学などに大きな波及効果がある。
近年、莫大な静止画データなどの学習に基づく人工知能の開発が大きく進んでいる。しかし、未だ、不完全観測環境での動的な意思決定や多数の物体が存在する動的環境でのシーン解析など、人と共存する人工知能が解決すべき問題は、データ量のすくなさもあり未だ解かれてはいない。本課題により、少量の動的データからでも学習可能なアーキテクチャが開発されれば、次世代人工知能に向けた大きな前進となり、マルチエージェント意思決定支援、未知環境でも動作可能な知能ロボットの実現など
大きな社会貢献となる。本課題では、人工知能の産業応用を進める Preferred Networks 社と連携し、動画解析、少ないデータ量からの学習、歩行ロボット・多指ロボットの制御などにおいて技術交流、
および、データ共有を進めることとしている。本課題により、これまでの GPU ベースの実装を超えた計算手法が確立されれば、「京」およびポスト「京」の人工知能分野への応用が進むことが期待される。
なお、欧州の Human Brain Project でも、脳型人工知能は重要な開発項目の一つとなっているほか、
米国では情報高等研究活動局（IARPA）がコネクトームのリバースエンジニアリングに資金を提供しているが、具体的な人工知能研究への応用は我が国と同様に萌芽的な段階であり、国際協力のもとポス
ト「京」の計算資源を利用して全脳規模回路の実現と人工知能応用に取り組めば、この分野を主導出来る見込みは十分にある。

別添 2-4

（５）年次計画

課題全体

脳の構造データを活用した大脳皮質、基底核、小脳モデルの統合シミュレーションを実現し、脳型人工知能アーキテクチャとプラットフォームの動作を検証する。
最終目標（平成 全脳規模のシミュレーションにより感覚運動機能を再現し、脳型人工知能アーキテクチャによる動画像認識を実現する。
31年度）

中間目標（平成
29年度）

サブ課題名
（分担機関・責任者）

調査研究・準備研究フェーズ

本格実施フェーズ

平成28年度

平成29年度

平成30年度

平成31年度

サブ課題Ａ
脳の構造と活動の大規模データ解析（京都大学・大羽成征）(目標)
神経回路構造同
定アルゴリズム
選定およびポス
ト「京」上実装
計画策定(実施内容)
コネクトミクス
解析アルゴリズ
ムおよびポスト「京」情報収集(目標)
1000程度の構造同定結果による
平均構造の決定(実施内容)
拡散MRI回路構造
同定アルゴリズ
ム開発、アンサ
ンブル平均化ア
ルゴリズム開発(目標)
数千程度の構造同定結果の統合による、分布特性と信頼性評価付き構造決定(実施内容)「京」による拡散
MRI構造同定および解析アルゴリズ
ムの実行、メゾおよびミクロスケー
ル画像に基づく一部構造の同定サブ課題B
大脳皮質神経回路のデータ駆動モデ
ル構築（理化学研究所・
五十嵐潤）

(目標)
ポスト京のプラットフォーム選定と各大脳皮質―視床の調査(実施内容)
運動皮質―視床モデルの規模拡張。体性感覚皮質―視床、高次運動皮質―視床のデータ収集(目標)
人工小脳の「京」への移植と動作確認(実施内容)
PZCL+MPIハイブ
リッド並列の部
分をコンパイラ
自動並列+MPIハ
イブリッド並列に書き直す(目標)
各大脳皮質―視床モデル開発と小脳との結合(実施内容)
体性感覚皮質―視床、高次運動皮質―視床のモデル開発。運動皮質―視床―小脳モデルの領間結合テスト(目標)
大脳皮質モデルとの接続・大脳
小脳連携シミュレーション(実施内容)
大脳皮質モデルとのインタフェース確立・簡単
な運動制御課題のシミュレーシ
ョンを行う。

(目標)
数千程度の構造
同定結果による
平均構造の決定(実施内容)「京」による拡散MRI構造同定ア
ルゴリズム開発と構造アンサンブル分布特性同定法開発、メゾおよびミクロス
ケール画像解析アルゴリズム開発(目標)
各大脳皮質―視床モデル開発、他脳領域との結合(実施内容)
体性感覚皮質―視床、高次運動皮質―視床のモデル開発と、小脳―大脳基底核との結合テスト(目標)
小脳による内部モデル獲得のシ
ミュレーション
(実施内容)
大脳皮質モデルとの連携による、随意運動学
習課題のシミュレーションを行う。

サブ課題C
ヒト全小脳モデル
構築と大脳小脳連
関シミュレーション（電気通信大
学・山﨑匡）

別添 2-5(目標)
全脳モデル実行(実施内容)
運動皮質―体性感
覚皮質―高次運動
皮質―視床―基底核―小脳モデルの
開発と実行

(目標)
大脳皮質・大脳基底核・小脳統合シ
ミュレーションによる高次脳機能の再現(実施内容)
大脳基底核モデルを加えた認知行動
学習のシミュレー
ションを行う。

サブ課題D
大脳皮質・基底核・小脳モデル統合による全脳シミュレーション（沖縄科学技術大
学院大学・銅谷賢
治）

サブ課題E
脳型人工知能アー
キテクチャの開発（京都大学・石井信）

サブ課題F
脳型人工知能用大規模高性能計算プ
ラットフォームの開発(理化学研究所・髙橋恒一)(目標)
大 脳 皮 質 ・ 基 底 全脳統合モデルシ
ミュレーションに核・小脳モデル統
よる高次意思決定
合機能の実現(実施内容)(実施内容)
サブ課題Cで開発 サブ課題Bで開発する大脳小脳連 する前頭皮質モデ
関モデルとの統 ルとの統合によ合により、内部 り、トップダウン
モデルに基づく 的な予測に基づく
予測的な意思決 意思決定を実現す
定を実現する。 る。
（目標）
（目標）
（目標）
（目標）
脳型人工知能ア 脳型人工知能ア 大規模系におけ 応用問題への展開
ーキテクチャの ーキテクチャ基 る基礎性能の検 （実施内容）
証
基本設計および 礎性能の実証
人間・機械協調に（実施内容）（実施内容）
基礎実装完了
関わるリアルタイ
複数(10程度)CPU サブ課題Fで開発 ム処理系、および（実施内容）
予測コーディン スレッドによる するプラットフ サブ課題Gによる
グと状態空間モ 分散型学習の実 ォーム上で応用問題への展開
デルの調査。プ 装と、精度性能 1000CPUスレッド と性能評価。
分散型学習の階
ロトタイプの実 の評価
層化実装と、精装。
度性能の評価
(目標)
(目標)
(目標)
(目標)
脳型人工知能プ 脳型人工知能プ 非同期学習モデ 応用問題への展開
ラットフォーム ラットフォーム ルにおける大規 (実施内容)
サブ課題Gによるの基本設計およ の基礎性能の実 模化応用問題への展開(実施内容)
び基礎実装完了 証
非同期分散型プ と性能評価。異種(実施内容)(実施内容)
分散型学習手法 非同期通信・ス ラットフォーム 機械学習モジューの調査および試 ケジューリング によるサブ課題E ルが混在した状況
方式と、分散型 が開発する学習 での性能実証。
作。非同期通信・スケジュー 学習手法の実装 手法を含む複数の非同期学習手
リング方式の調 および性能評
査および試作。 価。マルチノー 法の実装および共有メモリでの ドでの数百CPUス 大規模並列化。
数十CPUスレッド レッド規模での 数万から数百万規模までのスケ スケーリング。 スレッド規模以上までのスケー
ーリング。
リング。

(目標)
大脳基底核モデ
大脳基底核モデ
ルと大脳皮質モ
ルの拡張
デルの統合(実施内容)(実施内容)
戦略プログラム サブ課題Bで開発で開発したNEST する運動野、感による大脳基底 覚野と視床モデ核モデルで行動 ルとの結合により、状態推定に選択を実現す基づく意思決定る。
を実現する。
(目標)

別添 2-6(目標)

サブ課題G
脳型人工知能の大規模実問題への応用（東京大学・原田達也）(目標)
教師なし・半教
師付き動画像データから学習と認識を行うプロ
トタイプの開発．
(実施内容)
各種の情報を統合的に利用して動画像認識性能をブーストさせる半教師付き学
習や転移学習手法の開発．

(目標)
並列分散処理が可能な動画像処
理アルゴリズムの構築．
(実施内容)
サブ課題Eの脳型人工知能アー
キテクチャ上で実行可能とする
ことで，並列分
散可能なアルゴ
リズムを実現．

別添 2-7(目標)
動画像認識アル
ゴリズムの脳型
人工知能アーキ
テクチャへの実
装準備．
(実施内容)
サブ課題Fで実現される脳型人
工知能用大規模高性能計算プラットフォーム上で実行可能なア
ルゴリズムに修
正．

(目標)
脳型人工知能計
算プラットフォームへの実装．
(実施内容)
脳型人工知能計
算プラットフォームへのアルゴ
リズムの最適化と動画像処理シ
ステムの評価．

（６）実施体制
本課題は、学校法人沖縄科学技術大学院大学学園(OIST)を中核機関とし、国立大学法人京都大学、
国立研究法人理化学研究所、国立大学法人電気通信大学、及び国立大学法人東京大学を分担機関として、以下のサブ課題責任者により研究開発を実施する。
サブ課題 A：脳の構造と活動の大規模データ解析：京都大学・大羽成征
サブ課題 B：大脳皮質神経回路のデータ駆動モデル構築：理化学研究所・五十嵐潤
サブ課題 C：ヒト全小脳モデル構築と大脳小脳連関シミュレーション：電気通信大学・山﨑匡
サブ課題 D：大脳皮質・基底核・小脳モデル統合による全脳シミュレーション：OIST・銅谷賢治
サブ課題 E：脳型人工知能アーキテクチャの開発：京都大学・石井信
サブ課題 F：脳型人工知能用大規模高性能計算プラットフォームの開発：理化学研究所・髙橋恒一
サブ課題 G：脳型人工知能の大規模実問題への応用：東京大学・原田達也
また協力機関として、Juelich Research Center の Markus Diesmann 博士のグループと神経回路シ
ミュレーションソフトウェア NEST の開発とポスト「京」への移植と最適化、中部大学の稲垣圭一郎博
士と大脳皮質視覚野のモデリング、九州工業大学の立野勝巳博士と海馬のモデリング、株式会社プリファードネットワークと深層学習手法の開発とロボット、自動運転、医療・創薬などへの応用に関して連携して取り組む予定である。

サブ課題間の連携を促進するため、毎年複数回のプロジェクト全体ミーティングを実施し、また直別添 2-8

接連携するサブ課題 AB, BCD, EFG の間では具体的な技術的検討をサイト訪問や web 会議により密に進める。
（７）必要計算資源「京」の計算資源量
H28 年度（単位：ノード時間/年）
H29 年度1,750,000

2,500,000「京」以外の計算資源量
H28 年度
5,000

H30 年度2,500,000

H31 年度
680,000（単位：ノード時間/年）

H29 年度
22,000H30 年度
245,500

別添 2-9

H31 年度
38,800２．研究開発内容詳細
２－1．サブ課題 A．脳の構造と活動の大規模データ解析（１）目的・意義
本サブ課題の目的は、ほ乳類の脳画像ビッグデータに基づく脳神経回路構造同定を、ポスト「京」計算機により加速実施することにある。脳全体や局所回路の機能同定のために、脳神経回路構造の高精度同定は神経シミュレーションの精緻化と両輪をなす最重要課題である。近年の３次元イメージン
グ技術の発展により、ほ乳類の脳神経回路構造の高時空間解像度での撮像が可能となり、これに伴って解析対象となる画像データの量は巨大化している。一方で、撮像の解像度は高まったとは言え、完全な構造の自動同定には不十分であり、現在の最先端技術は、連続切片電子顕微鏡による画像取得、
人工知能（深層学習）によるセグメンテーション、GUI と大量のマンパワーを駆使した誤り訂正(proofread)によるハイブリッド（ミクロコネクトミクス）（Seung, 2016）であるが、これによってもマウスの 1mm 角に満たない領域しか扱うことができていない。一方で数ミリ角程度の解像度で粗視化した全脳の神経網構造を撮像する方法として拡散 MRI 画像法が知られており、これに基づく神経回路
構造同定が様々に開発されている（マクロコネクトミクス）が、近年、推定されたネットワークに偽陽性が多いことが指摘されている(Meier-Hein, 2016)。領野間にわたる回路構造の推定は、全脳レベ
ル脳シミュレーションの妥当性の根拠ともなっているため、その信頼性に関する疑義は無視ができない。
そこで、ほ乳類全脳レベルの神経回路を対象とした、データ駆動型の構造・機能同定、およびその信頼性担保のための、ポスト「京」計算機の計算力の有効利用による大規模データ解析の技術が強く期待され、本課題で開発する。
（２）実施内容ほ乳類の脳を構成する神経回路の構造同定を全脳レベルで行う高度化アルゴリズムを開発する。対象として、全脳を 3mm 角程度のボクセル単位の３次元画像で計測する拡散 MRI 画像（マクロスケール）、
1 ミクロン精度のスライス画像を 30 ミクロン程度の間隔で二光子撮像し全脳レベルに到達する可能性のある光学顕微鏡画像（メゾスケール）、および 1mm 角程度の小領域をナノスケールで計測することで神経細胞間シナプス結合の詳細を知ることができる連続切片電子顕微鏡画像（ナノスケール）の３種
類の異なるスケールの画像ビッグデータをそれぞれ想定して手法の高度化実装を進め、マクロ・メゾ・ナノの順に実データ解析に適用してゆく。
われわれは、これまでにマクロおよびメゾスケールの神経回路走向追跡のために、モンテ・カルロ
法を用いた独自手法(Skibbe, 2015)を適用することで限られた領域の解析に成功している。しかし、全脳レベルの大きな領域を対象とするとき、回路構造同定は長距離相関による不良設定性が大きくなり、手法の確率的性質が結果に及ぼす影響が無視できなくなる。また、各神経細胞についてこれに接続する多数の細胞を見つける必要があるため、解析対象となる局所領域間での大量の情報交換が必要であり、このために CPU パワーとメモリの両方が大量に必要となる。
「京」および、ポスト「京」の計算リソースを用いて、以下の三つのステップを踏みながらこの問
題に取り組む。

別添 2-10

第一ステップでは、マクロスケールでの構造同定結果における分布特性を調べ、信頼度評価につなげる。事前決定が困難であるハイパーパラメタを一定の範囲でサンプルしながら、並列計算によって構造同定結果の分布を得て、平均的構造を求め、また、ゆらぎに基づき信頼度評価を行う。
第二ステップでは、メゾスケールにおいて、セグメンテーション（局所線維構造抽出）と局所回路
構造同定において分割統治アプローチを用いた高度化アルゴリズムを開発する。まず、全脳画像を部
分画像に分割し、各分割に対して計算ノードを割り当ててセグメンテーションを行い、矛盾の少ない
局所神経回路構造を出力する。次に局所神経回路構造を統合して、大域的な矛盾の少ない全脳神経回路構造同定結果を得る。このステップはクラスタ型計算サーバによって実現される見込みであるが、ポスト「京」によってゆらぎを持った多数の候補解を得た後の平均化によって (1)セグメンテーショ
ンにおいて一定比率のエラーが避けられないこと、(2)各局所回路構造を貼りあわせる過程に不定性があること、の 2 つの問題の解決が期待される。ただし、第二ステップの実行のため、ポスト「京」のノード当たりメモリが 128GB 以上であることを見込んでいるが、実際がこれを下回る場合にはメモリ
消費節約のための工夫を別途行う必要がある。
第三ステップでは、ここまでに得られる、神経回路構造同定の技術、ゆらぎを持った多数の構造推定結果からの信頼度評価の技術を、連続切片電子顕微鏡画像に基づくミクロスケールの回路構造同定に適用する。ハーバード大（Lichtmann, Pfister）のグループが、ボストン大の大規模クラスタ型計算機（6 万コアを持ち、「京」と同程度のシステム）の 1500 コアを用いて、マウス脳 100μm 角領域の画像データ（1TB）を対象にした構造同定を進めている。セグメンテーション技術についてはハーバード大（もしくは MIT）の技術を移植し、われわれ自身が開発した構造同定アルゴリズムにプラグインする。構造同定結果を多数得ることで、平均的な構造の抽出および信頼性評価を行う。ハーバード大の技術は、Python, C, および Apache Spark を用いているため、「京」およびポスト「京」への移植は可能であると考えられる。
（３）目標・期待される成果＜アウトプット成果＞
・平成 29 年度終了時
拡散 MRI 画像データに基づくマクロスケールの構造同定アルゴリズムを「京」上で動作するように高度化を進め、1000 程度からなるアンサンブルから平均的な構造同定を得る。構造同定の結果をサ
ブ課題 B,C,D が実施するネットワークシミュレーションに提供する。
・本格実施フェーズ終了時
拡散 MRI 画像データに基づくマクロスケールの構造同定において、数千程度からなるアンサンブルの分布特性により、信頼性評価付きの構造同定を得る。また、メゾスケール画像データの解析手法の高度化実装を進め、100μm 角解像度で全脳レベルの回路構造同定を行う。
・ポスト「京」運用開始 5 年後ミクロスケール画像データの解析手法の高度化実装を進め、100μm 角領域内の構造同定を行う。
＜アウトカム成果＞
・ポスト「京」運用開始 5 年後メゾスケールおよびマクロスケール画像の解析に対応してほ乳類全脳の神経回路構造を結合グラフ

別添 2-11

の形式で求め、文科省「革新脳」との連携の下、脳画像ビッグデータに関するデータベースとして公開する。
・ポスト「京」運用開始 10 年後
ミクロスケール画像に対して皮質コラム（半径数百μm×高さ 2mm 程度の円筒）程度の領域の構造同定を行い、脳画像ビッグデータに関するデータベースとして公開する。
（４）「京」でできていること、ポスト「京」でなければできないこと
マーモセットの脳のサイズは 1.2 x 0.72 x 1.25 cm^3 の直方体の中におさまる。
「京」計算機のノードあたりのメモリは 16GB 程度であり、全脳の拡散 MRI データに基づくマクロスケールの回路構造同定を行うには十分である。これを 100〜1000 ノードで並列に計算することで、信頼度評価に必要となる分布特性が得られる。二光子顕微鏡画像に基づくメゾスケールでの神経構造同定のためには、0.4
x 0.4 x 2 µm^3 のボクセルサイズで撮像するため、マーモセット全脳では 30k x 18k x 6250 のボクセル数からなる画像データが得られる。蛍光強度を 16 ビット表現する場合、画像は 6.75 テラバイトである。ポスト「京」のノードあたりメモリが 128GB 程度の RAM を搭載する場合、全脳を 100 程度の領域に分け、各々を 100〜1000 ノードで並列に計算することで信頼度評価に必要な分布特性が得られる。ミクロスケール回路同定においては対象を皮質コラム（半径 200μm×高さ 2mm 程度の円筒）とし、これを 50nm 角のボクセルにおける 16 ビット輝度で表すと画像サイズは 2 ペタバイト程度となる。コア間での分割統治が前提ではあるが、構造特徴量の量が大きく、コア内の必要メモリは並列度をあげても大きく減らず、ポスト「京」においてもチャレンジングな課題である。
（５）実施体制
サブ課題 A は分担機関の京都大学を中心にして実施される。実施責任者の大羽はバイオインフォマテ
ィクスおよびこれに関わる統計解析に専門性を持ち、課題後半で必要となる複数構造同定結果の平均の算出方法および分布構造の推定による信頼性評価法の開発を主導する。研究員の Henrik Skibbe は京都大学で受託している革新脳プロジェクト研究員との兼任であり、これまでに革新脳プロジェクトで得られた画像データに基づく神経線維構造同定の開発に関わってきた。本課題では、構造同定アルゴリズムの「京」における大規模化実装を担当する。構造同定の対象となる哺乳類脳画像データとして当初は一般公開されているマウス脳のデータを用いるが、将来革新脳プロジェクトで得られるマー
モセット脳データの提供を受けることも検討する。本サブ課題 A で得られた構造同定結果およびその信頼性評価結果は、サブ課題 B においてシミュレーションを担当する理化学研究所・五十嵐氏に提供される。

２－２．サブ課題 B．大脳皮質神経回路のデータ駆動モデル構築（１）目的・意義
人間の脳で約 80%の質量を占め 160 億個の神経細胞を持つ大脳皮質は、感覚、意思決定、記憶、運動制

別添 2-12

御、思考など、脳の高次認知機能を担う。その大脳皮質の情報処理は、これまでの生理実験や理論研究から、階層ベイズ推定や自己組織化学習などによって行われていると推測されているが、神経回路レベルでみたときにどのように実現されているのかは、明らかになっていない。その解明が難しい理由として、大脳皮質は６層をなす数十種の神経細胞による複雑な局所回路を持ち、さらに知覚や運動制御など個々の機能に複数の大脳皮質領域や、大脳基底核、小脳、視床など他の脳領域が関与するため全容の把握が難し
いということがある。
本サブ課題 B ではこのような問題に対して、解剖学や電気生理学データに基づく全脳規模の大脳皮質モデルを構築し、大脳皮質領域内の局所回路のダイナミクスと、それらの相互作用による情報処理機構の実現機構を明らかにすることを目指す。さらにサブ課題 C、D で構築される小脳や大脳基底核のモデルと大脳皮質モデルを連結し、複数の脳領域による情報処理機構について明らかにすることを目指す。まず感覚運動系の回路機構をターゲットとし、そこから思考の神経基盤の理解に向けて取り組んでいく。
（２）実施内容
以下の 1-3 は理化学研究所情報基盤センターで実施し、4 についてはサブ課題 C、D と共同で行う。
1. 1 次運動皮質(M1)-視床(Th)神経回路モデル開発
HPCI 戦略プロジェクトにおいて開発された M1 神経回路シミュレーションが、すでにげっ歯類のM1 に相当する規模で行われている。本サブ課題では、コモンマーモセットなど小型霊長類の M1規模までモデルを拡大する。また、M1-Th のα振動の脳波の再現に取り組む。
2. 1 次体性感覚皮質(S1)-視床、前頭皮質(FC)-視床の神経回路モデル開発
1 で行った M1-Th モデルの開発工程、モデルコードと、S1-Th、FC-Th の解剖学、生理学データを用いて体性感覚をつかさどる S1-Th と高次情報処理を担う FC-Th のモデル構築を行い、その情報処理機構の再現と理解を行う。
3. 感覚運動系大脳皮質―視床の神経回路モデル開発
M1-Th，S1-Th，FC-Th の間の結合データから、感覚運動系大脳皮質―視床の神経回路モデルを構築し、感覚フィードバック信号とトップダウン信号による情報処理機構の理解を目指す。
4. 全脳モデル開発
本課題の感覚運動系大脳皮質―視床の神経回路モデルと、サブ課題 C、D の小脳、大脳基底核のモデルをつないだ全脳モデルの開発を段階的に行う。体性感覚皮質による触覚の違いによる物体の判別、運動皮質による特定の運動パターンの選択、小脳による運動パターンの自動化、大脳基底核による行動系列の学習など、思考に通じる脳の情報処理の理解を目指す。
（３）目標・期待される成果＜アウトプット成果＞
・平成 29 年度終了時
サブ課題 B で開発される M1-Th モデルとサブ課題 C で開発される小脳モデルをもとに、これまでに実現していない大規模な M1-Th－小脳の連関モデルの大規模実行を実施し、それらの領域間で生じる相互作用と情報処理機構について調査できるようになる。
・本格実施フェーズ終了時

別添 2-13

構築される感覚運動系大脳皮質―視床の神経回路モデルは、これまでにない詳細さの運動感覚系脳領野間の相互作用を調べることを可能にし、感覚信号とトップダウン信号の相互作用による感覚と運動に関する情報処理機構の解明に寄与する。
・ポスト「京」運用開始 5 年後
運動感覚系大脳皮質―視床モデルで明らかになったことを、回路の類似性から、視覚、聴覚、辺縁系などのその他の大脳皮質―視床領域に当てはめ、その他の高次情報処理の機構解明が期待できる。
＜アウトカム成果＞
・ポスト「京」運用開始 5 年後
運動感覚系大脳皮質―視床モデル及び全脳モデルの開発が成熟し、脳の情報処理機構の応用に転じることで、ロボットの運動制御、体性感覚信号処理の人工知能への応用、パーキンソン病などの脳疾患の理解と治療法開発へと進むことが期待される。
・ポスト「京」運用開始 10 年後
人間の高度な知性の再現に迫るより汎用的な人工知能への応用、広範な脳領野が関与するうつ病や自閉症などの病気の機構解明に貢献することが期待される。
（４）「京」でできていること、ポスト「京」でなければできないこと
ISLiM、HPCI 戦略プログラムの取り組みにより、世界で最大規模となる約 17 億個の神経細胞と約 10 兆個のシナプス結合からなる大脳皮質局所神経回路モデルの 1 秒分のシミュレーションが京を用いて 40 分の計算で実行された。京で実行された規模は、小型霊長類の全脳、ヒトの大脳皮質の約 10%程度に相当し、
ヒト全大脳皮質のシミュレーションを行うには、少なくとも京の 10 倍の計算性能とメモリ量が必要になる。シナプス可塑性による学習のシミュレーションを行うには、数十秒分のシミュレーションが最低限必要で、さらに数十倍の計算性能が要求される。神経科学の究極の目標の一つと言える、ヒト全脳規模のシ
ミュレーションを実行するには、京の 10-100 倍規模の計算資源が必要となり、それはポスト京級の性能によって初めて実現可能である。
京でのシミューレーションには汎用神経回路シミューレーターNEST を用いたが、現バージョンでは MPIの all gather 機能を使っているためポスト「京」のような超高度並列マシンでは性能が出し切れない可能性が考えられる。そこで脳の空間構造をもとにしたネットワーク分割により、通信を必要なノード間に限る実装を C 言語で行い、予備計算により京で 51 億ニューロンのシミュレーションが可能になるという結果を得ている。
（５）実施体制
サブ課題 B は分担機関の理化学研究所情報基盤センターを中心として実施される。サブ課題責任者の五十嵐潤博士は、大脳皮質の詳細な解剖学、生理学データに基づくモデル構築のための知識と経験を持ち、「京」の全ノードによる世界最大規模の神経回路シミュレーションに貢献した実績を持つ。情報基盤センターでは、
サブ課題責任者と２名の専任研究員により、運動皮質、感覚皮質、前頭皮質のモデル開発を担当する。
Juelich Research Centre の Markus Diesmann 博士は協力研究者として参加し、NEST Simulator の最適化について開発支援を行う。全脳モデルの将来の詳細化に向け、協力研究者として、視覚皮質モデルを中部大学の稲垣圭一郎博士が開発し、海馬―嗅周囲皮質モデルを九州工業大学の立野勝巳博士が開発する。サブ課題 A の

別添 2-14哺乳類脳の解析で得られる構造データをモデル構築の参考とする予定である。またポスト京重点課題 2 が行う疾患のシミュレーションと本サブ課題と情報提供などの連携をはかる。

２－３．サブ課題 C．ヒト全小脳モデル構築と大脳小脳連関シミュレーション（１）目的・意義
小脳は運動制御・学習において重要な役割を担っており、最近では大脳皮質と連携して高次脳機能にも関与していることがわかってきた。本サブ課題では我々が小脳の解剖学・生理学データにもとづいて構築してきたモデルを、ヒト全小脳規模にスケールアップしてポスト「京」上に実装する。サブ課
題 B の大脳皮質のモデルと接続し、さらにサブ課題 D の大脳基底核モデルとも大脳皮質モデルを介して連携することで、運動に関わる全脳部位の活動をポスト「京」上で再現する。特に、運動に関わる
高次脳機能、具体的には予測や適応といった機能を再現することを目的とする。
（２）実施内容
準備研究フェーズでは小脳モデルの「京」およびポスト「京」への実装を見据えたプロトタイプ実装と大脳皮質モデルとの接続を行う。初年度は、サブ課題分担機関がこれまで開発してきた人工小脳モデルを「京」およびポスト「京」のアーキテクチャ上に移植する。現時点の小脳モデルは GPU や PEZY-SC 上で動作し、MPI と CUDA,PZCL のハイブリッド実装になっているため、これを「京」およびポスト「京」上で動作させるためにコンパイラの自動並列と MPI のハイブリッド並列で再実装するとともに、すでに「京」上で動作している NEST での実装を進める。さらに、ヒト全小脳に相当する 1011 個のニューロンの数値シミュレーションを実時間で実行できるようにチューニングを施す。二年目は、小脳単体での運動学習、具体的には眼球運動等の反射運動において、パラメータの学習・適応が可能であることを確認する。さらに、大脳皮質モデルと接続するための MPI インタフェースを確立し、実際に接続する。それにより大脳皮質
一次運動野―小脳連関によって観測されている神経活動の同期が観測されるかどうかを検討し、フィー
ジビリティスタディとする。
本格実施フェーズでは、大脳皮質・大脳基底核との連携による高次脳機能の実現を目的とする。三年目は大脳皮質の活動をターゲットとして学習・再現可能な小脳内部モデル獲得のスキームを開発する。内部モデルは外界・身体・脳部位のシミュレータとして動作し、実際に行動を起こさなくともその行動に関わる結果を予測することが可能となる。最終年度は、大脳皮質・大脳基底核と一体となり、強化学習にお別添 2-15

けるモデル予測の提供と、運動の動的な調節と適応を担うことで、思考を必要とする認知・運動課題を遂行させる。
（３）目標・期待される成果＜アウトプット成果＞
・平成 29 年度終了時
平成 29 年度終了時には、「京」全ノードで実行可能な小脳の大規模モデルが完成しており、かつ簡
単な運動学習課題のシミュレーションができている。さらに、大脳皮質モデルと接続するためのイ
ンタフェースが確立されている。
・本格実施フェーズ終了時
本格実施フェーズ終了時には、小脳モデルを大脳皮質モデルと接続した、大脳小脳ループのシミュ
レーションができている。かつ、小脳内部モデルを利用した随意運動の運動学習課題のシミュレー
ションができている。最終的には、大脳皮質・大脳基底核・小脳が一体となった、強化学習を必要す
る運動学習課題のシミュレーションによる再現ができている。
・ポスト「京」運用開始 5 年後
ポスト「京」運用開始 5 年後には、より大規模化かつ精緻化した人工小脳を提供できている。全脳レベルでの運動学習制御機構における小脳の役割について、単一神経細胞レベルでの詳細な解析ができている。ロボットと接続し脳型運動学習制御機構にもとづいた制御ができている。
＜アウトカム成果＞
・ポスト「京」運用開始 5 年後-大規模・精緻なマルチコア版人工小脳の提供-

随意運動の学習制御における小脳の役割の詳細な理解-

脳型運動学習制御機能にもとづいたロボットの制御・ポスト「京」運用開始 10 年後-

前頭前野－小脳外側部ループによる、認知機能における小脳の役割の解明とその数値シミュレーション-

脳型人工知能としてのパッケージ化・産業化・社会への普及（４）「京」でできていること、ポスト「京」でなければできないこと
小脳モデルの「京」での実績はないが、NVIDIA 社の GPU を 4 枚用いた 106 ニューロン規模のシミュレーションと、理研情報基盤センターのスパコン「菖蒲」をフルノード用いた 109 ニューロン規模のシミュ
レーションが既にできている。これはネコの全小脳に対応する規模である。
「菖蒲」は PEZY Computing /Exascaler が開発したスパコンで、ピーク性能は 2.6PFlops である。その 3%弱の実行性能で、1 ネコ小脳のシミュレーションが実時間で実現できている。

別添 2-16

ヒト全小脳はネコの 50—100 倍のニューロン数であるといわれている。
「菖蒲」の 100 倍にあたるピー
ク性能 260PFlops があれば、性能がスケールするという前提のもとで、ヒト全小脳の実時間シミュレー
ションが可能になる。ポスト「京」のピーク性能が数百 PFlops とされていることから、ヒト全小脳シミュレーション、および大脳小脳連関のシミュレーションはポスト「京」で初めて成し遂げられるものである。
（５）実施体制
本サブ課題は、サブ課題代表者と来年度雇用を予定している博士研究員の計 2 名で実施する。業務管理を適切に遂行できる体制が整っている。実装の一部については代表者の研究室の大学院生に依頼することもありうる。
本サブ課題は、全脳シミュレーションの構成要素である小脳のモデル化およびポスト「京」への実装を担当する。その際、まずサブ課題 B「大脳皮質神経回路のデータ駆動モデル構築」との密接な連携のもとに進める。具体的には、ポスト「京」で効率よく神経回路シミュレーションを行うためのノウハウやコー
ド片の提供と、大脳小脳連関に関する解剖学的知見の議論によって、大脳モデル・小脳モデルを接続した統合シミュレーションを実施可能にする。また、サブ課題 D「大脳皮質・基底核・小脳モデル統合による全脳シミュレーション」とも密接に連携し、大脳小脳に加えて大脳基底核モデルとも接続した統合シミュレーションを実施するための技術的な問題、特にモデル間のインタフェースを統一する。

２－４．サブ課題 D．大脳皮質・基底核・小脳モデル統合による全脳シミュレーション（１）目的・意義
大脳基底核は、報酬予測に基づく行動選択と強化学習に主要な役割を果たし、運動制御のみならず、
認知的な表象の操作やモジュール選択など、思考の実現にも重要な機能を持つと考えられる。本サブ
課題は、HPCI 戦略プログラムでパーキンソン病の病態理解を主目的として構築した大脳基底核の神経回路モデルをベースに、行動選択と強化学習の機能が現実的な解剖学、生理学的なデータをもとにいかに実現されるかを明らかにする。さらにその大脳基底核回路モデルを、サブ課題 B で構築する大脳皮質-視床モデル、サブ課題 C で構築する大脳小脳連関モデルと統合することにより、大脳皮質-基底核-小脳回路による思考の実現機構を探る。
（２）実施内容
初年度は、すでに開発したラット全脳スケールの大脳基底核神経回路モデルをもとに、出力先である視床の異なる神経集団の活動を脱抑制する形での行動選択を実現する。また、大脳基底核の入力部である線条体のニューロンモデルにドーパミン依存性のシナプス可塑性を導入し、行動選択の良し悪しを評価するドーパミン入力に応じた強化学習を実現し、そのために必要な細胞と回路の機能を明らかにする。

別添 2-17

準備研究フェーズでは、サブ課題 B で構築する運動野、感覚野と視床モデルとの接続により、現実的な感覚入力と運動出力の表現のもとで、いかに行動選択と強化学習が実現できるかを探索し明らかにする。
本格実施フェーズでは、まずサブ課題 C で構築する大脳-小脳連関モデルとの統合をはかり、小脳に学習された内部モデルによる状態予測と、大脳基底核による報酬評価の組み合わせにより予測的な意
思決定がいかに実現され得るかを探索し、そのために必要な視床-大脳皮質の回路機構を明らかにする。
さらに、サブ課題 B で構築する大脳皮質連合野-視床モデルとの統合により、感覚運動機能モジュー
ルの選択、現在の感覚入力に拘束されない状態予測など、思考の実現に必要な回路機構を明らかにする。これらをもとに、大脳皮質-基底核-小脳モデルを統合した全脳神経回路のシミュレーションにより、ヒト脳の解剖学、神経生理学の現実的な特性のもとでいかに思考が実現され得るのかを明らかにする。
全脳統合シミュレーションでは、1) それぞれに開発されたモデルを、MUSIC のような統合シミュレーションツールにより連結する、2) 各モデルを NEST など統一した神経回路記述言語で実装する、3)脳の空間構造を生かした神経回路記述仕様および通信オーバーヘッドを減すシミュレーションエンジ
ンを独自に開発する、という３つの選択肢があり得るが、1)および 2)ではポスト「京」の超並列性を生かしきれるのかという問題がある。そこで準備研究フェーズではまず 2)の NEST による実装を進めるとともに、3)の超並列性を生かす独自の実装についてサブ課題 B と協力して検討を進め、「京」および」ポスト「京」シミュレータ上でのベンチマークと、Juelich Research Center の NEST 開発チーム
へのフィードバックのもとで、本格実施フェーズでどの方式を採用するかを決定する。
（３）目標・期待される成果
本サブ課題の目的は、思考のような高次の情報処理が、実際の脳の回路構造とニューロン、シナプ
スの特性のもとでいかに実現され得るのか、またそれをロバストに行うための制御機構は何なのかを系統的な大規模シミュレーションにより明らかにすることである。
＜アウトプット成果＞
・平成 29 年度終了時
大脳基底核モデルと大脳皮質モデルの統合シミュレーションにより、不確かな感覚入力のもとでの状態推定に基づく行動選択機能を実現する。
・本格実施フェーズ終了時
全脳神経回路モデルによる思考の実現に関する科学的な知見について、インパクトの高い論文を出版することをアウトプットの目標とする。
・ポスト「京」運用開始５年後モデルの特性を様々に変えたシミュレーションにより、思考の障害を伴う統合失調症、うつ病、自閉症、ADHD などの精神疾患や発達障害の発生機序を探り、さらに各個人の脳の構造や遺伝子の特徴をもとに、脳疾患の診断、予測とテーラーメードな治療計画を可能にすることをめざす。
＜アウトカム成果＞
上記の成果は、計算科学、脳科学にとどまらず情報科学、精神医学、心理学など幅広い分野への貢別添 2-18

献が期待される。
・ポスト「京」運用開始５年後
ヒトの思考を実現する神経回路機構にねざしたより柔軟な人工知能の実現への貢献が期待される、・ポスト「京」運用開始１０年後
ヒト脳の発達過程や進化過程を再現するシミュレーションにより、ヒトの知性の根源の解明につながることが期待される。
（４）「京」でできていること、ポスト「京」でなければできないこと
HPCI 戦略プログラムのもとで、ラットの大脳基底核の全ニューロンに相当するスケールのシミュレーションが「京」で実現されている。これを霊長類であるマーモセット、さらにヒトのレベルにスケールアップするためには、ポスト「京」の計算資源が必要となる。
（５）実施体制
分担機関の沖縄科学技術大学院大学は、大脳基底核モデル構築のため専任の研究員１名を採用し、さらに既存の研究メンバーにより大脳皮質、小脳モデルとの統合による全脳シミュレーションを進める。大脳基底核モデル構築においては、その解剖学、生理学に幅広い知識を持つ University Pierre et Marie Curie (UPMC)のBenoit Girard 博士が 2016 年度に短期滞在し、協力の上で進める予定である。
また、大脳皮質モデルはサブ課題 B、小脳モデルはサブ課題 C で開発するため、統合のため密な連携作業を行う。シミュレーションツール NEST を「京」、ポスト「京」に移植し最適化するため、Juelich Resarch Centerの Markus Diesmann 博士の協力を得る予定である。

２－５．サブ課題 E．脳型人工知能アーキテクチャの開発（１）目的・意義
新しい脳型人工知能のアーキテクチャの開発と、「京」およびポスト「京」計算機を用いた高度化実装により、比較的少量のデータの学習によって複雑な環境における高度な推論・判断ができるようにすることを目的とする。

別添 2-19近年の人工知能（深層ネットワーク）は、画像や音声のビッグデータの学習によりこれら高次元パターンの認識において高い性能を示し、これをもって、アーケードゲームや囲碁などでエキスパート
を上回る性能をあげるに到っている。しかしこれまでの顕著な成功例はすべて、静的データ（例えば静止画）の分類学習、あるいは完全観測ゲームにおける回帰学習に帰着されるものであり、部分観測
マルコフ決定過程(POMDP)やメタ意思決定（戦略の学習）問題などヒトの高度な思考のモデルとされる問題に対する直接応用は未だチャレンジングである。例えば、未解決課題の典型例として (コントラクト)ブリッジの自律学習がある。ブリッジは 2 人 1 組の 2 チームで行われ、チーム内で協力、チーム間で勝敗を決める協調競合系となっている。また、自分以外のプレイヤーの手札は見えないため部
分観測問題となっている。ゲームを始める前に、味方同士で手札情報を交換するフェーズがあり、ここに情報交換方式の最適化に関するメタ意思決定であるコミュニーション創発課題が含まれる。これ
らはセルフプレイによる最適化学習で原理的には解けるはずであるが、解空間の大きさおよび複雑度のため、実現されていない。
こうした未だ解かれていない困難課題を解くための、「京」およびポスト「京」向けの新しい脳型人工知能アーキテクチャを開発し、動画像解析、多プレーヤーゲーム学習などへの実問題のための高度化実装を行い、実問題応用を通じて動的意思決定やコミュニケーションなどヒト知性の理解への貢献を目指す。
（２）実施内容
脳型人工知能の基本アーキテクチャ BundleNet を開発し、実装を行う。具体的には、(1)内部状態を持つ力学系ノードを多数連結したアーキテクチャを与えることで、動的データのみならず不観測変数への対応を可能とする。(2)このアーキテクチャのもとで階層的事前知識による仮説生成とデータによる検証を時空間的に繰り返すことで、ベイズ推定に基づく適切な正則化の下での解を得ることを可能とする。(3)脳と同様に動的データを動的ネットワーク中で分散メモリと非同期更新に基づいて処理するアルゴリズムを開発することで、GPU よりキャッシュ容量が多い CPU を大量に用いた「京」および
ポスト「京」の構成において高効率な実装を実現する。(4) マルチエージェント協調競合系、複数物体の追跡など動画像処理をテストベッドとして、脳型人工知能の基本アーキテクチャの性能を評価する。
上記(1)(2)(3)(4)のうち、(1)は深層予測コーディングネットワーク(Lotter, 2016)で一部実現されている。(2)は自由エネルギー規範による近似的オンラインベイズ学習(Friston, 2008)などにより、推論、制御のみならず、モデル選択なども統一的な枠組みでオンライン学習可能であることが示唆されているものの、実問題応用のための実装はこれまでにない。(3)はサブ課題 F において開発が計画されている BriCA ver 2 をプラットフォームとすることで高度化実装できると考えられる。そこで、本サブ課題では、当初(1)(2)のハイブリッドにより推論・制御・モデル選択などを可能とするアーキテ
クチャを開発しつつ、これの高度化を図るフェーズで、(3)においてサブ課題 F との連携で実現を目指す。また、(4)はサブ課題 G との連携により進める。
（３）目標・期待される成果
時間あるいは系の内部状態など不確実性への依存があり、なおかつ分量の限られたデータからの別添 2-20

学習・制御・モデル探索を可能とするアーキテクチャの開発を目標とする。評価性を重視して、マル
チエージェントゲーム、あるいは複数物体の追跡など動画像のリアルタイム処理をテストベッドとする。サブ課題 F で開発する BriCA システムを利用して実装を進め、サブ課題 G で開発する脳型人
工知能の実問題応用と連携して高度化と評価を進める。
内部状態の更新が必要な人工知能プログラムには主に LSTM と DNN の組み合わせが用いられているが、その誤差最小化学習には膨大な計算を要し、回路アーキテクチャの探索に多くのノウハウを必要としている。BundleNet は階層ベイズの枠組みで定式化され分散メモリと非同期更新を前提に実装するため、ポスト「京」において大規模なモデル選択を含めた自動化が可能になり、これまでの枠組みに対する優位性が期待できる。
＜アウトプット成果＞
・平成 29 年度終了時
提案型の脳型人工知能アーキテクチャの一部（内部状態を持つ力学系ノードを多数連結し、ベイズ推定を行う）の実装と検証を終え、課題 F との連携で分散メモリ・非同期更新を用いるアルゴリズムの予備的な実装を行う。
「京」を用いて、内部状態を持つ力学系モデリングを稼働させるとともに、複数（10 程度）ノード間の通信による協調動作が可能であることを示す。
・本格実施フェーズ終了時
提案型の脳型人工知能アーキテクチャ（力学系ノード多数連結・ベイズ推定・分散メモリ・非同期計
算を含む）の試作と、「京」およびポスト「京」を想定した高度化実装を終え、マルチエージェント
協調競合学習系のテストベッドを用いて基本性能の評価を行う。ポスト「京」での実施に値する数のノード（1000 以上）間の非同期通信を実現し、テストベッドを用いた性能を示す。
・ポスト「京」運用開始 5 年後
人間・機械あるいは人間・人間の相互作用を含む実環境アプリケーションの中からいくつかを実現する。例えば、人と協調的に動作する多自由度ロボットアクチュエータの実時間制御が応用テストベッ
ドとして想定される。
＜アウトカム成果＞
・ポスト「京」運用開始 5 年後
人間・機械あるいは人間・人間の相互作用を含む実環境アプリケーションのデモンストレーションを行う。脳型人工知能アーキテクチャの汎用化と公開を行う。
・ポスト「京」運用開始 10 年後製品開発支援、教育支援、意思決定支援などを行うシステムを構築し、企業などとの連携により社会実装を図る。
（４）「京」でできていること、ポスト「京」でなければできないこと
現時点で世界最大の人工知能応用とされる Google Deepmind 社の AlphaGo とブリッジを比較して必要計算量の見積もりを行う。囲碁は約 1,080 次元(状態数 10170 程度)であり、一方で、ブリッジはゲーム時約 260 次元(状態数 1029 程度)であるものの、不観測状態(相手の手札) を信念状態として近似すると約 500 次元、情報交換の方法の最適化を考慮すると天文学的数字となる。AlphaGo の学習は、1024 CPU と 176 GPU からなるハイブリッドシステム(0.8 PFLOPS)で 3 週間程度かかった。不完

別添 2-21

全観測ゲーム (POMDP)であるブリッジの学習に近似的最適化を用いた場合、ゲーム学習自体は、1
PFLOPS の CPU システムで数日、情報交換方式の最適化は、メタ最適化による単純な山登り法を用いたとして数週間の時間が必要になる（厳密最適化は不可能）。そのため、「京」では多くのノードを占有しなければならないが、性能が数十倍以上となるポスト「京」を使えば 1000 ノード程の部分使用で近似最適化可能である。サブ課題責任者は、次世代計算科学研究開発プログラム脳神経系研究開発チー
ムのリーダであり、「京」上で動作する神経細胞マルチフィジックスシミュレータ、全脳規模の神経回路シミュレータ(2013 年 8 月、世界最大の回路シミュレーションに成功)などの開発に従事した。
（５）実施体制
サブ課題 E は京都大学情報学研究科のチームが担当する。サブ課題 E 責任者石井は、強化学習理論に専門性を持ち、アーキテクチャ設計全般を主導する。研究員 A を 2016 年 12 月から雇用予定であり、京都大学において脳型人工知能アーキテクチャの開発および試験の全般を担当する。開発はサブ課題
F を担当する理化学研究所高橋恒一氏のチームと密に連携をとりながら行う。京都大学ではアーキテ
クチャの概念レベル開発およびクラスタ型計算機上のプロトタイプを提供し、理化学研究所は「京」での実装を想定したプラットフォームを提供し、共同でこれらをマージする。サブ課題 G を分担する
東京大学原田達也氏は、当アーキテクチャ上で有効性検証の対象となるアプリケーション課題を開発する。深層神経網を取り扱うための汎用フレームワーク Chainer の利用について株式会社 Preferred
Networks の開発協力を得る。

２－６．サブ課題 F．脳型人工知能用大規模高性能計算プラットフォームの開発（１）目的・意義
ポスト「京」スケールでの脳型人工知能の研究開発および応用に向けて、高性能ソフトウエア基盤の整備および大規模ネットワークに対する学習手法の開発を行う。TensorFlow(Google)、Chainer(PFN)、
Torch(NEC/Facebook)、CNTK(Microsoft)など、現状で各社が提供する深層学習用ソフトウェアフレームワ
ークは同期的にネットワーク全体を評価するため、分散環境でのモデル並列のスケーラビリティは限定的である。次世代の人工知能技術のIoT やロボット、また行動決定問題が主体となる実環境への展開に向けてはリアルタイム・オンライン計算が必須であり、大規模なモデル並列計算が不可避である。本サブ
課題では、サブ課題E が開発する新規学習手法を高性能化し、サブ課題G が行う実問題応用を実現する
ため、全脳に匹敵する規模でリアルタイム計算が可能な大規模非同期型の脳型人工知能基盤ソフトウェアを開発する。

別添 2-22

（２）実施内容
本サブ課題では、スマホ/IoT などのSoC からPC、PC クラスタ、さらにはポスト「京」スケールまで展開可能な、非同期分散型の複合機械学習フレームワークを開発する。理化学研究所と全脳アーキテクチャ・イニシアティブが共同開発したBriCA V2 (Brain-inspired ComputingArchitecture; Takahashi
et. al. JSAI15, BICA15, Proc. Comput. Sci. 2016)をベースとし、新規開発する。BriCA は任意の機
械学習器に時間進行と非同期ベクトル通信ポートを提供し、これらのモジュールが多数、多階層的に構成される大規模な複合学習アーキテクチャを効率的に実行可能な計算プラットフォームである。関数型とオブジェクト指向のハイブリッド方式によりモジュールの内部状態が隠蔽され並行的な状態更新が可能であるため高い並列性能が発揮できる。これを元に、数万から数十万スレッド以上の大規模分散メモ
リ環境に展開可能な新規通信機構および計算手法を開発、実証する。ベースアプリケーションである
BriCA V2 はOSI認証済みのオープンソースライセンスであるApache License 2で公開されており、本プ
ロジェクトの成果もこのライセンス形態を踏襲する。また、PFN 社が開発した Chainer(MIT License)
や、海外でユーザーが多いTensorFlow、Caffeなどとの互換性を確保し、利便性を高める。
具体的には、２８年度では非同期学習手法の実装と比較を行い、共有メモリでの数十スレッドまでのスケーリングを行う。検討する学習手法としては、pipelined back-propagation、Synthetic
gradient、Deep PredNet、Direct Feedback Alignmentなどを取り上げる。また、サブ課題Eと共同で新規手法も開発する。共有メモリでの並列化モデル、メモリ管理方式、通信方式などを決定する。２９年
度では、マルチノードでの分散並列計算手法を確立し、検討した学習手法のうち大規模スケーリングに適したものについて、数百から数千スレッドでのスケーリングを実現する。さらに３０年度では数万から数百万スレッドまでのスケーリングを試みる。３１年度では、サブ課題Gなどと連携し、大規模分散
並列学習手法の実応用での実証を行う。
（３）目標・期待される成果＜アウトプット成果＞
・平成 29 年度終了時
分散計算に適した非同期型人工神経回路モデルおよびそのための計算・通信方式が確立されている。
・本格実施フェーズ終了時
新皮質全体に匹敵する規模での非同期計算までスケール可能な計算手法およびソフトウエアが整備されている。
・ポスト「京」運用開始 5 年後
ポスト「京」を用いて、新皮質全体に匹敵する規模でのリアルタイム計算。
＜アウトカム成果＞
・ポスト「京」運用開始 5 年後-不確実性を伴う実環境において人と協調するロボットや知的エージェントなどで必要となる高度な認知＝行動サイクルの実行-開発した非同期離散事象計算方式の細胞シミュレーションや社会シミュレーションなどの隣接した分野の高度化に向けての提供

別添 2-23

・ポスト「京」運用開始 10 年後-

一部タスクでヒト並を目指す高度な認知アーキテクチャの実現、およびその産業応用に向けたパッケージ化（４）「京」でできていること、ポスト「京」でなければできないこと「京」ではヒト脳の数パーセントの規模の神経回路（約17 億細胞、10 兆シナプス）の生物時間1 秒のシミュレーションに40 分の計算が必要であった。ポスト「京」で２桁性能向上すれば、回路規模ではこれを全脳規模に展開できる。その一方で、人工知能研究で重要なリアルタイム・オンライン計算に向けては時間尺度であと３桁以上の改善が必要である。そこで、神経生理学的に忠実な細胞モデルから人工知能分野で一般的な発火率符号化方式のANN モデルへの切り替えで、「京」で全脳の10%規模、ポスト「京」では全脳規模でのリアルタイム計算を実現する。さらに、サブ課題E との連携のもと、皮質
マクロコラムレベルまで粗視化した階層ベイズネットワークモデルの構築も試みる。
今日広く使われているTensorFlowなどの人工知能エンジンは、GPUでの同期的処理に最適化され、その性能を引き出すための用途が限られている。一方BriCAは非同期計算を前提に設計しているため、ポスト「京」のような超並列マシンの性能をフルに引き出し、サブ課題E, Gなどで開発する人工知能アプ
リケーションにおいて、世界最高レベルの性能を実現するためのプラットフォームを提供する。
（５）実施体制
サブ課題Fは理化学研究所生命システム研究センター生化学シミュレーション研究チームが担当する。当チームは、本プロジェクトのベースアプリケーションである脳型人工知能用基盤ソフトウエア
BriCAを、全脳アーキテクチャ・イニシアティブ、ドワンゴ人工知能研究所、慶應義塾大学環境情報学
部と共同で開発した。プロジェクト遂行においては、慶應義塾大学SFC研究所AI社会共創ラボラトリおよびその傘下のAI社会論研究会、また科学技術振興機構社会技術研究開発センター「人と情報のエコシ
ステム」研究開発領域（AI社会共創ラボラトリが中心となって受託）との連携のもと、法学、哲学、経営学、経済学、などの人文社会科学者や芸術家、建築家などとも密接に交流し、今後のAI技術開発の方
向性や具体的な技術開発について文理融合の体制で幅広く議論する。

別添 2-24

２－７．サブ課題 G．脳型人工知能の大規模実問題への応用（１）目的・意義
静止画からの画像認識において，深い構造を持つ畳み込みニューラルネットワークの GPU 上の効率的な実装により，人手によりラベル付けされ整備された大規模なデータセットが準備できれば，人と同程度の性能が得られることが分かってきた．しかし，一目で内容がわかる静止画に人手でラベルを付与する場合とは違い，視聴に時間のかかる動画像の処理では人手でラベルを付与したデータセットを準備することは現実的ではなく，静止画認識で成功したアプローチをそのまま転用することはできない．また，動画像のデータ量は膨大であり，例えば 30fps かつ 1 時間の動画をフレームバイフレームで処理した場合，1枚の静止画処理の約 10 万倍の計算コストが必要となる．本サブ課題では，少量のラベル付きデータしか存在しない状況でも学習可能かつ高効率で動作する視覚処理アルゴリズムを開発し，脳型人工知能計算
プラットフォーム上に実装し，また，それを大規模動的画像データからの予測問題に適用することでアルゴリズムと脳型人工知能アーキテクチャの有効性を実証することを目的とする．
（２）実施内容
動的視覚システムでは，何が，どのような状況で，何を行ったかを理解することが重要であり，それぞれ「物体」，「シーン」，「動作」の認識が必要となる．現実世界での動画像認識では，上記の物体，シーン，
動作の組み合わせを理解する必要があり，膨大な計算が必要となるが，脳型人工知能計算プラットフォー
ムを活用した効率的な分散計算により解決する．静止画認識で利用した情報や，ラベル付けされていない
膨大な画像情報，テキスト情報，物理シミュレーションで生成されるデータなど，各種の情報を統合的に利用して動画像認識性能をブーストさせる半教師付き学習や転移学習の手法を開発する．また，人の注
視・興味・トピックのモデルを用いて，膨大な動画像中から重要となる時空間的構造を発見する教師なし
学習アルゴリズムを開発する．得られた時空間的構造のデータ量は，元の動画像のものから大幅に削減されている．この少量の情報に基づく特徴量に基づき，深層ネットワークの高度化計算プラットフォームにより実装することで，実環境情報のセマンティックレベルの時空間の領域切り分けや，現在の動画像情報から将来起こりうる事象を予測する知的動画処理技術を実現する．
（３）目標・期待される成果＜アウトプット成果＞
・平成 29 年度終了時-- 並列分散処理が可能な動画像処理アルゴリズム
・本格実施フェーズ終了時-- 高速かつ高精度の動画像認識，学習を可能とするシステム
・ポスト「京」運用開始 5 年後-- 自然言語処理との融合による，動画像シーンの自然言語要約-- 実世界で起きる様々な事象をほぼ時間遅れなく言語で検索できるシステム＜アウトカム成果＞
・ポスト「京」運用開始 5 年後-- セマンティックレベルのリアルタイム予測

別添 2-25

-- 膨大な監視カメラ群からの危険予測システム
・ポスト「京」運用開始 10 年後-- サービスロボットなどによる人の先回りをする気の利いた次世代人工知能（４）「京」でできていること、ポスト「京」でなければできないこと
本サブ課題では，1 時間程度の動画像に対して，数千種類の物体やシーンと数百の動作を学習しリアルタイムで認識する動的視覚システムの構築を目指している．現状のシステムでは，最大 100 クラス，かつ，動作を含む動画像を学習するのに，平均 200 フレーム（10 秒程度）の動画像，クラスごとに 100 本の動画が存在する状況で，4TFLOPS の計算機 1 台で 2 日かかっている．また，200 フレームの動画像からの識別には 4TFLOPS の計算機 1 台で 100 秒ほどかかっている．現状では前段階として ImageNet で事前学習されたモデルを用いているが，end-to-end の学習を上記規模で行うには，約 10 倍の学習コストがかかる上に，必要となる訓練動画数も各クラス 10,000 本程度必要となる．これらにより，100 クラスの動画像認識には 4TFLOPS の計算機を 1 台で 2000 日かかる計算となる．1PFLOPS を活用できるのであれば，1 週間程度で学習可能となる．上記の見積もりは 1 本の動画の長さが高々10 秒程度を想定したものであり，
動画中の物体認識を含んでいない．1 時間程度の動画像の場合は単純にフレーム数だけから計算しても300 倍程度の計算コストが必要であり，ポスト「京」のターゲットレンジとなる．
（５）実施体制
本サブ課題は，サブ課題代表者と東京大学大学院情報理工学系研究科の牛久祥孝講師で実施する．実装の一部については代表者の研究室の大学院生と共同で作業を行う．
本サブ課題は，全脳シミュレーションの動画像処理への応用を担当する．はじめの 2 年間で，動画像の内容理解と予測の基本的なアルゴリズムを構築した上で、それらをサブ課題 E の脳型人工知能アーキ
テクチャ BundleNet 上で実行可能とすることで，並列分散可能なアルゴリズムを実現する．また 3 年目
以降では，それらをサブ課題 F で開発する脳型人工知能用大規模高性能計算プラットフォーム BriCA を活用して実装することにより，ポスト「京」で実行可能な大規模動画像処理技術へ発展させる．

別添 2-26

３．採択時の留意事項への対応状況(1) ポスト「京」の利用による進化の目標、シミュレーションの妥当性の検証方法について明確にすること（サブ課題 A-D）
ポスト「京」による進化の大きな目標は、ヒト全脳レベルの神経回路シミュレーションを実現することである。このことについて１（２）で明示するとともに、２－２において、「京」で実現した
世界最大規模の神経回路シミュレーションは、小型霊長類の全脳レベルであり、ヒト全脳シミュレーションには少なくともその数十倍の計算資源が必要であることを記述した。また、脳の特定領域に関するシミュレーションでも、学習機能を検証するための長時間回路動作の再現、さらに実時間での運動制御を行うには「京」の数十倍の計算スピードが必要なことを２－３において記述した。
シミュレーションの妥当性については、回路動作のミクロレベルと、感覚運動機能の実現というマクロレベルの双方で検証を行う。ミクロレベルでは、２光子顕微鏡などによる局所回路の神経活動データとシミュレーション結果が、発火頻度、そのばらつき、相互相関などの特徴量に関して一
致するかどうかを検証する。また、大脳皮質における感覚認知と運動生成、小脳における内部モデ
ル学習、大脳基底核における行動選択と強化学習など、これまで神経科学実験により想定されている機能が実現できるかを、それぞれの回路モデルおよびそれらを接続した全脳シミュレーションにより検証する。これについて１（２）で記述した。

(2) 提案内容におけるビッグデータとシミュレーションの関係、従来の脳シミュレーションとの差について明確にすること（サブ課題 A-D）
詳細なモデルのシミュレーションには、その構造とパラメタを決定するために十分なデータが必要である。サブ課題 A が「革新脳」などで得られるビッグデータをもとに解析するナノ、メゾ、マ
クロレベルの神経結合構造は、サブ課題 B で構築する大脳皮質の局所回路モデルにおけるシナプス
結合パラメタの設定、またサブ課題 C、D で構築する小脳、大脳基底核モデルを含め、脳の領野間をつなぐ結合のトポロジーと出力細胞、入力細胞の同定に必要な情報を提供する。これらについて２−１〜４において明示した。
脳の回路モデルは、個々の神経細胞のスパイク発火を扱うスパイキングモデルと、大脳皮質カラ
ムや領野など、数百から数万個のニューロンの平均発火率を扱う連続値モデルに大きく分けられる。
本研究のサブ課題 B-D で扱うのは前者のスパイキングモデルである。これまでの全脳レベルのスパ
イキングモデルのシミュレーションとして、Izhikevich & Edelman (2008, PNAS)、Eliasmith etal. (2012)などがある。Izhikevich らのシミュレーションは、ヒトの拡散 MRI により推定された脳の領域間の結合データをもとに構成したモデルで、どのような自発的な振る舞いが見られるかを調べたものであり、脳機能の再現をめざしたものではない。Eliasmith らのシミュレーションは、脳の各部位の機能に関する仮定をもとに必要な結合を設定し、脳全体の行動機能の実現を確認したものである。本研究のモデルシミュレーションは、脳の各部位の解剖学、生理学の詳細な知見をベースに、さらにサブ課題 A で得られる新たな結合データも取り込んだデータ駆動の形で構成した上で、これまで想定されているような脳機能が実現できるかを検証するという点で新たなものである。この点について１（３）で明示した。

別添 2-27

(3) ポスト「京」の利用によって新しく得られるものについて具体的に明確にすること（サブ課題 E-G）
２－５〜７において、ポスト「京」利用によるブレークスルーについて、具体的に記載した。サ
ブ課題 E では、分散メモリ・非同期計算型のノードを多数同時に稼働させつつ、非同期ノード間通信によって協調して課題に対処するアーキテクチャの開発を進める。このアーキテクチャの有効性を示した後、多数の分散メモリ型ノードを擁するポスト「京」の特色をフル活用したアプリケーシ
ョンへとつなげる。サブ課題 F では、大規模な脳型人工知能計算を非同期分散により高性能実行する基盤を新たに整備し、ポスト「京」で稼働させることで、サブ課題 E で開発するアーキテクチャを大規模に展開し、またこれを用いてサブ課題 G が取り組む動画像の理解、記述、予測の実時間実行を実現する。サブ課題 G では、実時間での動画像の内容を実時間で理解して記述するだけではな
く，将来的に起こりうる事象も実時間で予測する、これまでにない新規技術の構築を達成する。

(4) ポスト「京」利用に向けて、計算の大規模化等の利用準備の具体的なシナリオを明確にすること（サブ課題 E-G）
２－５〜７において、計算の大規模化等の利用準備状況について記載した。サブ課題 E では、29
年度末までの予備的実装フェーズではクラスタ計算機上のマルチスレッド実装にフォーカスし、本格実装フェーズでは、「京」およびポスト「京」を用いて数百～数千ノードの並列動作を順次試験評
価してゆく。サブ課題 F の開発する非同期分散計算用のソフトウエア基盤では、最初の１年で共有
メモリモデルにおける数十スレッドまでの並列計算を実現、2 年目、3 年目でクラスタ計算機や「京」を用いて分散メモリモデルにおける非同期計算による数百から数万並列以上まで性能を発揮する計
算・通信機構を開発するとともに、３年目以降でサブ課題 E が開発するアーキテクチャおよびそのサブ課題 G の実問題応用を実現する。サブ課題 G では、はじめの 2 年間で、動画像の内容理解と予測の基本的なアルゴリズムの構築だけではなく、サブ課題 E のアーキテクチャ上で実行可能とする
ことで、並列分散可能なアルゴリズムを実現する。3 年目以降では、サブ課題 F で開発するプラットフォームを活用して、「京：およびポスト「京」で実行可能な大規模動画像処理技術へ発展させる。

(5) 産学連携による波及効果についても検討を行うこと（サブ課題 E-G）
人工知能の大規模計算は、用いるデータの大規模化と対象の複雑度の上昇に応じて、ますます必要度があがっている。本課題では、人工知能の産業応用を進める Preferred Networks 社と連携し、動画解析、少ないデータ量からの学習、歩行ロボット・多指ロボットの制御などにおいて技術交流、
および、データ共有を進めることとしている。本課題により、これまでの GPU ベースの実装を超えた計算手法が確立されれば、「京」およびポスト「京」の人工知能分野への応用が進むことが期待される。これらについて１（４）で記述した。

別添 2-28

（別紙１） 実施機関一覧
実施機関
学校法人沖縄科学技術大学院大学学園
国立大学法人京都大学

備考
代表機関（課題責任者）
分担機関（サブ課題責任者）

サブ課題Ｂ

国立研究開発法人理化学研究所
九州工業大学
中部大学大学院
Juelich Research Centre

分担機関（サブ課題責任者）
協力機関
協力機関
協力機関

サブ課題Ｃ

国立大学法人電気通信大学

分担機関（サブ課題責任者）

サブ課題D

学校法人沖縄科学技術大学院大学学園

サブ課題Ａ

代表機関（課題責任者）

Juelich Research Centre
Université Pierre et Marie CURIE

分担機関（サブ課題責任者）
協力機関
協力機関

サブ課題E

国立大学法人京都大学
株式会社Preferred Networks

分担機関（サブ課題責任者）
協力機関

サブ課題F

国立研究開発法人理化学研究所
株式会社ドワンゴ
慶應義塾大学分担機関（サブ課題責任者）
協力機関
協力機関

サブ課題G

国立大学法人東京大学

分担機関（サブ課題責任者）