情報処理学会第 82 回全国大会

6R-01

予測を対象とする深層生成学習モデルを用いた実世界理解への取り組み
黒田彗莉 ††

小林一郎 ‡

お茶の水女子大学 理学部情報科学科 ‡ お茶の水女子大学 基幹研究院自然科学系

1 はじめに成する Prediction モジュール，入力と予測との差分を生近年，機械学習や深層学習を用いた研究が広く行われ， 成する Error ユニットになっている．PredNet モデル全体
我々の生活にもその技術の一部が浸透している．それら の流れは，上位層で生成された予測が Representaion モの技術は，ヒト脳内の意味表象を解読する手法の開発なジュールを介して下位層へ，下位層で生成されたエラーどにも盛んに用いられ，Brain Machine Interface (BMI)

シグナルが上位層へ伝播をすることで，情報のやり取り開発における研究の基盤技術の開発や深層学習モデルをが行われている．

作業モデルとしたヒト脳の機能解明などの研究も進められている．しかし，ヒトが時間を認識することに着目した機械学習モデルについては未だ研究はそれほど進んでいるとは言えない．本研究では，大脳皮質における予測メカニズムを模倣した深層学習モデル [1] と様々な時間間隔での将来の予測が可能である深層学習モデル [2] を用いて，前者のモデルでは不規則な時間幅での予測が不可能であったものを様々な時間幅で予測を行えるヒト脳内の情報処理機構を模倣した予測を行う深層生成モデルを構築する．さらに，実験を通して構築したモデルの有効性について検証する．

図 1: PredNet 概要図．

3

TD-VAE
Temporal Diﬀerential Variational Auto-Encoder (TD-VAE) とは，部分観測値を元に隠れマルコフモデルに基2 PredNetづき状態遷移を行う強化学習モデルである Partially ObPredNet [1] とはヒト脳内の大脳皮質における予測符号 servable Markov Decision Process (POMDP) に対して信化の処理を模倣した機械学習モデルであり，動画像を与 念状態を取り入れた深層生成モデルであり，動画像を与えられた元で次の画像を予測するモデルとして提案されえられた元で自由な時間間隔での予測を可能にしたモデている．予測符号化とは，ヒト脳内の大脳皮質で行われルとして提案されている．TD-VAE では、系列データをているとされる処理である．PredNet では画像の特徴を扱うのに適した Recurrent Neural Network の一種である捉えるのに適した Convolutional Neural Network(CNN)， Long-Short Term Memory (LSTM) を用いて，予測タスク系列データを扱うのに適した Recurrent Neural Networkを行っている．また，TD-VAE は入力情報を観測し，そ(RNN) の一種である Long-Short Term Memory(LSTM)と CNN を結合したモデルである Convolutional LSTM をの背景に信念という状態変数を用いて予測対象となるシ用いて予測タスクを行っている．また，PredNet は同じ入れて予測を行う．TD-VAE 全体の流れは，入力情報を構造を持つモジュールを階層的に表現した形をとってお観測し，その情報がシステムの挙動が組み込まれた信念

ステムの振る舞いを，第三者となる観測者の視点を取りり，4 つのモジュールから構成されている．それぞれのモ層に伝播され，prediction モジュールを介して任意の時

ジュールは，脳内の予測モデルを表現した Representation間における予測の推論を行う．その推論情報は decoder

モジュール，入力処理を行う Input モジュール，予測を生モジュールを通ることで任意の時間間隔での予測として生成される．

A Study on Predicting the Real World using Deep Generative Models†Eri KURODA(g1620515@is.ocha.ac.jp)‡Ichiro KOBAYASHI(koba@is.ocha.ac.jp)

2-293

Copyright 2020 Information Processing Society of Japan.
All Rights Reserved.

情報処理学会第 82 回全国大会

4 提案モデル

伝播させる仕組みはヒトの脳内のボトムアップの仕組み

本研究では，上記二つの先行研究 [1][2] を元に，予測を模倣している．そして，時刻 t1 における推論 zt1 からを対象とした深層生成モデルの構築を行った．ヒト脳内prediction 層を経て時刻 t2 における推論 zt2 を生成する．

における情報処理機構を模し，その上で自由な時間幅でその推論 zt2 が decoder 層を経て出力画像が生成される．の予測が可能なモデルの構築を行った．概要を図 2 に示

5 実験
先行研究 [2] と同様の Moving MNIST [3] における学す．

習により，モデルの有効性を確認する．

5.1 実験設定
新しいモデルの実装に際しては，深層学習のフレー
ムワーク Pytorch を用いて，学習に関するハイパーパラメータは先行研究 [2] の設定に基づいた．学習は最下層における推論と，任意時刻からの推論の誤差を最小化する形で行った．

5.2

Moving MNIST を用いた実験

先行研究 [2] における動画像データセット MovingMNIST を用いて学習を行った．この実験は先行研究 [2]内でも任意の時間間隔での予測の可否を調査するため行

図 2: 提案モデルの概要図．
先行研究 PredNet [1] は，ヒト脳内における予測符号化を模倣したモデルになっている．しかし，PredNet における学習は過去の事象に基づいて少し先の将来を予測するものであるため，予測時間幅に対する柔軟性が欠如している．一方，先行研究 TD-VAE [2] は，任意の時間間隔での予測を可能にしたモデルになっている．しかし，ヒトの脳内情報処理機構が反映されておらず，脳内の予測機構を表現できているかは確認できていない．これらわれている．また，今回用いた Moving MNIST は数字
手書き画像に正解ラベルが付与されたデータセットであり，これを用いて任意時間経過した後の数字の挙動についての予測の可否を調査するとともに，モデルが正しい推論を行っているかの確認を行った．

5.3 結果と考察実験の結果を図 2 に示す．出力は予測の幅が 1，3，ランダムとなるように生成した．

を踏まえた上で，本研究ではヒトの脳内情報処理機構を模倣した，任意の時間間隔での予測が可能な深層生成モデルの提案を行う．

(i) 間隔 1

新しく構築したモデル全体の流れについて説明する．

(ii) 間隔 3(iii) 間隔ランダム

本研究では，TD-VAE モデルを元に PredNet のモデルを

図 3: 任意の時間間隔における出力結果．

組み込むことで構築を行った．現在の時刻を t1 ，予測し実験結果より，本研究において提案した新しいモデルがたい未来の時刻を t2 と仮定する．扱うデータは系列情深層生成モデルとして正しく挙動したことが確認できた．

報であり，信念層と呼ばれる層に観測情報が直接入力さ6 おわりにれる．信念層はモデルのシステムの動きを客観的に見る

本研究では，大脳皮質における予測符号化を模倣したために定義された層であり，この層には過去から現在ま深層予測モデルと任意の時間間隔での予測を可能にしたでの観測した情報が蓄積されている．時刻 t1 から時刻機械学習モデルを組み合わせ，新しいヒトの予測を模しt2 を予測するために，まず信念層から時刻 t1 におけるた深層生成モデルの提案を行った．また，実験を通じて推論 zt1 が生成される．また，本モデルでは系列状態を提案モデルの有効性を検証した．

扱っているので，信念層は全ての系列情報を知っている

参考文献ことになる．そのため，時刻 t2 から時刻 t1 の推論 ẑt1 が[1] W. Lotter, G. Kreiman, and D. Cox. ”Deep Predictive Coding
Networks for Video Prediction and Unsupervised Learning.”
arXiv preprint arXiv:1605.08104.
[2] K. Gregor, G. Papamakarios, F. Besse, L. Buesing, and T.
Weber. ”Temporal Diﬀerence Variational Auto-Encoder.” InICLR, 2019.
[3] N. Srivastava, E. Mansimov, and R. Salakhutdinov. ”Unsupervised Learning of Video Representations using LSTMs.”
In ICML, 2015.

生成可能である．このことが PredNet とは異なり，様々な時間幅での予測を可能にしている．推論 zt1 と推論 ẑt1
は同じ時刻 t1 の状態を表現しているので，推論が等しくなる必要がある．学習は双方の推論の誤差が小さくなるように行う．そしてその差分をエラーシグナルとして信念層の上位層に伝播させる．このように誤差を上位層に

2-294

Copyright 2020 Information Processing Society of Japan.
All Rights Reserved.