プロジェクト報告書（最終） Project Final Report

提出日(Date) 2023/01/18

脳をつくるプロジェクト
Make Brain Project中村仁 Jin Nakamura

1.

背景

既存の描画研究は心理実験による考察が主であり、理論的な手法に欠けている。そこで、深層学習モデルを用

いわゆる「脳科学」の分野において、低コストな脳をいて、描画研究に関連する心理実験の再現を行い、深層数理モデル化する取り組みや、脳の認識機能に関する学習モデルでの心理実験の代用可能性、描画能力の計研究などが進められている。また、いわゆる「人工知能」

算論的視点からの研究を試みた。の分野においては、ニューラルネットワークと脳における機能や構造の類似性に関する研究が進められている。本プロジェクトでは、①脳から人工知能、②人工知能から脳を見つめるという 2 つのアプローチを採用し

3.

課題解決の過程と結果

3.1 「全体」た。上記２つの研究領域における背景と採用したアプ

一般に、課題解決のためには、方針の決定と組織によローチを鑑み、①脳構造の工学的な応用と②人工知能る実行が必要である。これを実現させるためには、主にを用いた認知特性の説明を試みた。

次の 3 点が不可欠であると考え、関連する施策断行に

本プロジェクトは 9 名の学部 3 年と、4 名の教員に邁進した。

よって構成されている。Teaching Assistant や外部講師

1.

指揮系統確立のための担当業務の割り振り等は存在せず、最後まで学生が独立してプロジェクト

2.

トップダウン型意思決定方式のための組織作りを遂行した。学生は、世界モデル班:「世界モデルを用3.

徹底した情報共有および報告連絡相談を行うたいた自動運転の実現」、描画研究班: 「深層学習モデルの描画研究への応用」という 2 班に分かれ活動した。
以降、「全体」は 2 班の学生全体を表す。

2.

課題の設定と到達目標

2.1 世界モデル班

めの仕組み作り

3.1.1

所掌業務の確定

誰が、何をするのかを決定した。まず、プロジェクトリーダーとグループリーダーの決定である。どちらのリーダーも限られた時間内でプロジェクトを進めるた
めには重要な役割であり、今後起こるであろう事案を既存の強化学習手法には、サンプル効率の悪さや汎想定しつつ、総合調整もしなくてはいけない。そこで、化性能の低さといった欠点が存在する。この解決策と最初の１か月は両リーダーをメンバー内で回し、これして「脳型人工知能」が注目されており、様々なタスクを担う者を決定した。前者は中村、後者は立山および加への応用が期待されている。本グループでは「脳型人工藤木となった。次に、デザイン担当、レク担当を割り振

知能」の 1 つである「世界モデル」[1]を用いた AI カ

り、業務を分担管理した。

ーを構築し、シミュレーション環境と実環境における自動運転の実現を試みた。

2.2 描画研究班

3.1.2

組織の創設

組織作りは、主に日本国政府の仕組みを参考にして進めた。まず「リーダー会議」を組織した。これは上記描画行為は人間特有の行動であり、これに関する研のリーダー３名で構成する「全体」に置かれる組織とし、究は人間特有の創造力の考察に繋がる可能性がある。

基本的な方針に関する企画及び立案並びに総合調整を行った。ただし、ボトムアップ型の意思決定方式も活用用して学習を進めた。学習する中で、世界モデルの一種するため、重要な決定を含む会議はプロジェクト全員である Dreamer[2]を用いて自動運転を試みることをにも参加してもらい、意見を出してもらうよう心掛け決定した。また、実環境に応用するにあたり有効であるた。その他、先生方との日程調整や各グループ間の各種アーキテクチャに関する情報収集を行い、Jetson Nano調整、発表会に関する準備等も行った。次に、「官房」という GPU 搭載の小型マイコンを利用することが決を創設した。これを、リーダー3 名と一定の業務を分担定した。

管理している者で構成する「全体」の補助機関とし、各種調整やアクシデント対応などを想定した。

3.1.3

情報共有ツールの利用

3.2.2

PC の環境構築

前項の調査後、PC の環境構築を行った。次項で述べる Donkey Car をシミュレーション環境で実行するた情報共有のため、主に Notion や Slack、一部ではめの環境や Dreamer コードを実行するための環境、並Discord や Zoom を活用した。特にクラウド型ワークス

びに Jetson Nano の OS として機能する Jetpack のライペースである Notion はプロジェクトの基盤として利ブラリ環境などの互換性を踏まえて環境構築を行った。

用するため最初の 1 か月で迅速な整備を行った。

3.1.4

結果

3.2.3

Donkey Car のセットアップ作業

Donkey Car とは、ラジコンカーなど小型自動車向け役割分担がうまくなされた結果、各々が責任感を持のオープンソースの自動運転プラットフォームであり、って業務に取り掛かることができた。例えば、デザイン車体の重さなども反映された精度の高いシミュレーシ担当の前澤により素晴らしいロゴやデザインを重視しョン環境を提供している。

たポスターが製作された。

シミュレーション環境「リーダー会議」は、グループリーダーの二人からの上記のシミュレーション環境内における報酬設定を、強い支えもあり「全体」の司令塔としての役割を果たし実環境での自動運転を見据えたものに変更した。

た。発表会や提出物に関する重要な会議や連絡会議は実環境

20 回以上開催され、組織全体の密な連携を可能にした。

まず、カメラや各種モーター、Jetson Nano、これら特に、後期では各種製作物を想定の約 2 週間の前倒し制御するための特殊な拡張ボード等を用いて、カーので着手するようメンバーを導き、比較的余裕をもって組み立てを行った。次に、Jetson Nano とそのメモリに発表会や提出日を迎えることに成功した。「官房」は、関連する設定と適切なソフトウェアのインストールをプロジェクトの続行が困難となる事案等も発生しなか行った。この際、ハードウェアを制御する際に要する特ったため、プロジェクトリーダー選出や記録に関する殊な Jetpack を使用した。最後に、学習する環境となる活動程度に収まった。

サーキットを製作した。

Notion は、情報共有ツールは基盤として機能したが、初期はメンバーによる使いにくさが見受けられた。よりシンプルなシステムにし、有料テンプレートも検討

3.2.4

世界モデルの学習シミュレーション環境すべきであった。ただし後半では、各自でも使用し、過Dreamer は、入力情報として観測、行動、報酬、エ去の情報の利用が推進されるようにもなったため、ピソード毎の終了フラグを必要とする。そのため、Notion 自体は活動に貢献したと認識している。

Dreamer エージェントがこれらの情報をシミュレーシ

3.2 世界モデル班
3.2.1

関連研究の理解と調査

世界モデルに関する理解を深めるため、論文等を使ョン環境から取得できるようコードを修正した。また、報酬計算を実環境でも使用が可能な式を考案し変更した。次に、汎化性能を高めるため、ファインチューニングを行った。即ち、一つのシミュレーション環境で学習した結合加重（学習モデル）を、別のシミュレーション実環境環境でも更新させた。

実環境

ファインチューニングを行った学習モデルを用いて、図１に示すプロセスに沿って、学習モデルの更新を実環境におけるサーキットで自動走行を試みた。報酬

実環境で行った。まず、シミュレーション環境で更新し設定の見直しなどにより、直線や L カーブ、S 字カーた学習モデルと実環境からの観測情報を用いてエージ

ブにおける適切な自動走行を実現させた。これにより、ェントに行動を決定させ、走行をさせる。走行時に収集当初の目的であった「自動運転を用いた世界モデルのしたデータを用いて学習モデルに対するファインチュ実環境への応用」を一定のレベルで達成させた。

ーニングを PC で行う。更新された学習モデルを用いて再度走行させることで、学習データが作られる。このサイクルを何度も回し、学習モデルを更新した。

3.3 描画研究班
3.3.1 関連研究の理解と調査
深層学習モデルで行う描画実験を決めるために、描画能力の中でも特に認識部分に着目した実験に関する文献調査を行った。また、深層学習モデル実装のために、深層学習用のフレームワークである PyTorch を用いた学習モデルの構築方法を学習した。

図1

3.2.5

実環境における Dreamer の学習プロセス

3.3.2 実験の概要「深層学習モデルの描画研究への応用」というグル

結果

ープテーマのもと、深層学習モデルの特性が人間の視シミュレーション環境
図 2 より、Dreamer による観測情報の再構成が適切覚特性とどの程度類似しているのかを調べた。次に述べる 2 つの描画研究と同様な数値実験を、深層学習モに行われていることを確認した。図 3 より、観測や報デルを用いて行い、元の研究との比較を行った。

酬に関する予測誤差である Model loss が 5 万ステップ

実験 1辺りから概ね収束していることから、学習が適切に行われていることを確認した。

図 4 に示す様に変形させた顔画像に対する人間の認識精度と平均反応時間を調査した心理実験[3]と同様な数値実験を、深層学習モデルを用いて行った。

Dreamer による観測情報(左)とこの再構成(右)図4Model loss

図2

心理実験で使用された画像. 文献[3]より引用

実験 2
顔の特徴的な部分を誇張した顔画像に対する認識精度が、正確な顔画像に対するものより高いことを示し
ステップ数

図3

ステップ数に対する Model loss

た心理実験[4]と同様な数値実験を、深層学習モデルを用いて行った。

3.3.3 実験の結果
実験 1存在する。これは、特定の個人の顔は、規範的な顔からどの程度逸脱しているかによって表現されるという仮説である [5]。一方で、この仮説は顔認識におけるもの我々が行った実験の結果と先行研究の結果[5]を図 5であり、より広範な物体認識の領域では提案されていと図 6 に示す。全ての条件で傾向が一致することはなない。今回の実験では、物体認識を行うように事前に訓かったが、一部の条件においては認識精度の偏りが定練されたネットワークをファインチューニングするこ性的に類似した。とによって顔認識のモデルを作成したため、精度が低下したと考えられる。

4.

今後の課題

4.1 世界モデル班
今回の学習環境は、黄色い中央線と両端の白線という非常に単調であった。今後は、シミュレーション環境、実環境をより現実世界における道路状況に近いものに
図 5 我々の実験における正立条件に対する正答率(%)

する。これにより、標識等を観測情報に加え情報量を大きくした場合でも、適切な学習がなされ、自動運転が実現されるのかを検証する。

4.2 描画研究班
今回焦点を当てて調査した認識能力は、描画能力を構成するうちの 1 つである。そのため描画能力を深層学習モデルで完全に代用するためには、長期記憶や、実際に描くというプロセスなど、他の描画能力を構成す
図 6 先行研究[5]における正立条件に対する正答率(%)

実験 2
変形を行ってない画像の認識精度は 93%に対し、る要素についても追加の実験などを行う必要がある。

参考文献

Grad-CAM によって変形を行った画像による認識精度[1] Ha, D., & Schmidhuber, J. (2018). Recurrent world models facilitate

は 85%と、変形を行っていない画像に対し 8%低下しpolicyた。

systems, 31.

3.3.4 考察実験 1
深層学習モデルは、先行研究で示された人間の知覚

evolution. Advances

inneuralinformation

processing[2] Hafner, D., Lillicrap, T., Fischer, I., Villegas, R., Ha, D., Lee, H., &Davidson, J. (2019, May). Learning latent dynamics for planning frompixels. In International conference on machine learning (pp. 2555-2565).
PMLR.

特性の一部を再現したと言える。これにより、同様に顔[3] Hole, G. J., George, P. A., Eaves, K., & Rasek, A. (2002). Effects of

認識を主題にした心理実験を必要とする研究において、

geometric

人間の被験者の代わりに、人間と類似した知覚特性をperformance. Perception, 31(10), 1221-1240.

一部持つ深層学習モデルよって代用が出来る可能性が[4]示唆される。

recognition. Memory & Cognition, 20(4), 433-440.

実験 2[5] Valentine, T., & Bruce, V. (1986). The effects of distinctiveness in「ノルム基準顔符号化」という神経符号化の仮説がMauro,

distortions

R.,&Kubovy,onM.

(1992).

face-recognition

Caricatureandrecognising and classifying faces. Perception, 15(5), 525-535.

face