階層化された砂時計型ニューラルネットによる自律的な内部表現獲得
Hierarchical Information Integration Model using Unsupervised Autoencoder Neural Networks
山川宏*

Hiroshi YAMAKAWA

木本隆**

柳沼 義典**

Takashi KIMOTO*ＲＷＣＰつくば研究センタ
Real World Computing Partnership

Yoshinori YAGINUMA**ﾊ(株)富士通研究所
FUJITSU LABORATORIES LTD

Abstract - For acquiring abstract internal representation from real world data, gradual learning and hierarchical architecture areessential. We propose hierarchical information integration model using auto-encode neural networks, which can learn highlevel internal representation form raw sensor data. We demonstrate that the hierarchical model, which takes two camera imagesof one target from different view, learns to restore three dimensional potion of that target.

1.はじめに
人間は認識・行動において様々な内部表現を利用しながら情報を段階的に統合する。これは現実世界と直接相互作用する際に取り扱う多様かつ大量の感覚情報や自身の運動情報などに対処する方策であると考えられる。本報告書ではこの内部表現を階層的に自動獲得する方法を提案するが、これに先立ち、内部表現とその自動獲得さらにその階層性の必要性について述べる。
内部表現の重要な役割は、その時に対処している課題に関する情報のみを適切な形で表現することである。もし、コンパクトな内部表現を使わずに解決処理を行うと、課題と無関係な情報を同時に取り扱うことになるため、しばしば考慮すべき組み合わせが膨大になり現実的な速度で実行できない。
内部表現を獲得するには、外部からの設計とシステム合した表現を学習する方が容易である。さらに、この様に階層化を行うと、同じような処理系統を複数作ることを避けられるので、処理資源の点からも効率的である。
そこで本報告書では、内部表現を自動的に獲得する能力を有する砂時計型のニューラルネットワークを階層化することでセンサ情報(低次)から内部表現(高次)を自律的に獲得する情報統合モデルを提案する。

2. 砂時計型ニューラルネットワークモデルと階層化
2.1 砂時計型ニューラルネットワークモデル
砂時計型ニューラルネットワークモデル(以下、砂時計ネットワークと呼ぶ)は、入力層と出力層のユニットの数が同じで、しかも最もユニットの数が少ない中間層(圧縮層と呼ぶ)のユニットの数が入出力層のユニット数よりも小さい３層以上のニューラルネットワークである(図1)。

自身による学習がある。人間の場合には遺伝という情報伝達手段に制約されるため、多くの内部表現を後天的に獲得せざるを得ないが、人工的なシステムにおいては内データセット部表現を望むだけ設計できるので(設計者の作業量は増大するが)、自動獲得の能力はそれほど重要でなく思える。
しかし、設計の段階で将来システムが必要とする全ての内部表現を用意することは不可能なので、システムが外界に対して高度に柔軟な適応能力を持つためには、人工的なシステムにおいても内部表現の自動獲得能力を欠くことはできない。
内部表現を階層的に積み上げる利点として、獲得済の内部表現の流用による学習コストの削減が揚げられる。
例えば、すでに"カップ"と"グラス"を区別できる形に関する内部表現と色を区別できる内部表現を持つシステム

入力層
逆モデル
(情報圧縮)

onati 内部表現

圧縮層順モデル(情報復元)

ro-pk
acg
pa

= 変動部分

B

不変部分

出力層

が、"赤いカップ"と"青いグラス"を区別する内部表現を生成するケースでは、新たにセンサ情報から内部表現を直接生成するよりも、前記二つの内部表現からの出力を統

図１ 砂時計ネットワークと学習

恒等写像を誤差逆伝搬法で学習したネットワークでは、圧縮層にデータセットの変動部分に応じた情報を

3. 計算機シミュレーション
3.1 課題

マップする内部表現空間が形成され、入力層-圧縮層間に逆モデルが、圧縮層-出力層間にデータセットの不変部分提案したモデルの動作確認のために、２台の固定カメ
ラから得られる画像情報から対象物体の三次元情報を復に関する情報をもつ順モデルが、形成される。
砂時計ネットワークの優れた特徴として、少なくとも以下の３つが上げられる。

元するシステムを自律的に形成するという、簡単なシミュレーションを行う。
【view 1】

(1)内部表現の自動獲得と補間機能：
しばしば認識では、変化する部分が重要な意味を持つから、自動獲得される内部表現が変動部分であることは有用である。
また、同じデータセットに対して獲得される内部表現には任意性があるが、空間の連続性は保たれる。そして、入出力層、圧縮層ともに補間機能を持つ。

Z

出現エリア

対象物体３)。立方体の中を蝿のように飛び回る対象物体を二方向view1、view2からY
XO【view 2】【view 1】

観測し画像１と画像２を得る(数値実験とカメラの位置が違う)。下位ネット【view 2】(2)逆モデルの生成が容易：
ある入力に対して一意に出力を決定できない写像(一対多)を要求する内部状態の設計に起因する、学習困難な逆モデルの設計を避けられる。

下位ﾈｯﾄﾜｰｸ１

下位ﾈｯﾄﾜｰｸ２
ZY(3)教師なし学習：画像1

学習は入力層と出力層に同じデータセットを与える恒等写像

X

ワーク１は画像１から対象物の位置(X,Y)を本質的に含む情報を抽出し、下位ネットワーク２についても同様である。上位

画像２

X

OO学習なので、教師が不必要であり自律的システム構築に有利。

砂時計ネットワークの応用例としては、画像圧縮に用いた先駆的な研究[1]や、実行時の圧縮層の出力を特徴量X,Yの情報を含む２次元表現する研究[7]もある。

2.2. 階層化された砂時計ネットワーク
階層的に高次の内部表現を獲得するために、各砂時計ネットワークを折り曲げて圧縮層の出力を上位側の入出力層に連結する階層モデルを提案する(図２)。
このモデルでは、各砂時計ネットワークが自律的に学習可能なので、下位の砂時計ネットワークから段階的に上位のネットワークを学習させることで、システム自身位ネットワークからの情報を統合して本質的に位X,Y,Zの情報を含む 置(X,Y,Z)を含む情報を抽３次元表現出する。

上位ﾈｯﾄﾜｰｸ

学習時にはまず、画像を各下位ネットワークに与えて恒等写像の教師無し学習を行い、次に上位ネットワークは下位ネットワークの出力を利用して学習を行う。結果として、２つの画像情報を統合して対象物体の図３ シミュレーションの原理３次元位置を復元する機構を自律的に獲得する。
シミュレーションでは、原点からx軸沿いに左右に6離テストデータ・セット

左カメラ-6

下位ネットワーク用(２次元)
上位ネットワーク用(３次元)

20゜
20゜
45゜
0.4-2.2

により次第に高次の内部表現を獲得できる。

12個

0.40Z+2.2

上位

ネットワークは二つの下X,Zの情報を含む
２次元表現として利用して画像情報から人の性別・表情などの識別する例[2,3]や、実行時の入力層と出力層の誤差量から入力データが学習データセットに含まれるか否か識別する
研究[4,5]がある。さらに、圧縮層の最小次元数を自動的に探し出す過負荷学習法[6]や、抜けがある不完全なデータセットにiterative inversion法を組み合わせることで対処

まず、学習後の階層的な情報復元を説明する(図12個

45゜右カメラ

20゜
20゜

出現エリア

+6X

3.98.1

12個-1.4

下位0+1.4

センサ入力

センサ入力

センサ入力

図２ 階層化された砂時計ネットワーク

8個

20゜0.420゜0.4y

図４ カメラと対象物体の配置

ZエレメントCy

0.5

下位ネットワーク

上位ネットワーク25-10-2-10-25
（5層）
5.0
0.4
[0.0, 1.0]
20000

4-6-3-6-4
（5層）
5.0
0.4
[0.0, 1.0]
80000

1.0

レイヤー構成0.5-1.0

1.0

重みの学習定数
重みのモメンタム
出力の範囲
学習回数

Cx

Or

受光部

表１ 各砂時計ネットワークの実験条件-1.0

クと、下位ネットワークから出力されるの合計４次元の情報から対象物体の３次元的な位置情報を復元する上位ネットワークにより構成される。
実験に使用したデータセットは以下である。
(a)学習データセット

対象物体の像u i(r)

0.90.1

エレメントの出力
1.00.0r

対象物体を出現エリア内のランダムな位置にセットした1000個のデータ。

図５ 受光部のエレメント配置と出力特性(b)テストデータセット(b-i)下位ネットワーク用（２次元）

れた二つのカメラが45度内側を向き、各カメラの視野角は上下左右とも20度である(図４)。なお対象物体の出現カメラの視野角内をスキャン。つまり、Cx-Cyの各軸に対し0.25刻みで対象物体像を移動した、81個(=9*9)のデータ。

エリアは x = -2.2〜+2.2, y = -1.4〜+1.4, z =3.9〜8.3 とした。
各カメラ内の受光部上でのCx-Cy座標においての Cx =-1〜+1 、Cy = -1〜+1 が視野角に対応する(図５)。受光部(b-ii)上位ネットワーク用（３次元）
対象物体を出現エリア内でX,Y,Z各方向に0.4刻みでスキャンした、1152個(=12*9*12)のデータ。には上記範囲内に等間隔(0.5)で25個(=5*5)の受光エレメントが配置されている。エレメント(ｉ番目)は受光部座標上での、それ自身と対象物体の像との距離(r)に依存した出

3.2 結果力特性、後に同じ学習データセットに対する下位ネットワークのui(r) = 0.9 - 0.8r
if r < 1.0
ui(r) = 0.1
elseを持つ。下位ネットワークの入出力ユニット同士は空間的な隣接関係の情報を持たないため、対象物体の位置をぼかすような前処理によりデータセットが隣接関係の情報を持つことは、学習にとって重要である。
両カメラの受光部からの25次元アナログ出力は階層モデルに伝達される(図６)。階層モデルは、対応するカメラから画像情報を受け取り対象物体の画像上での位置に対応する２次元情報を出力する左右２つの下位ネットワー

圧縮層の出力を利用して同様に上位ネットワークの学習を80000イテレーション行った。
学習した下位ネットワーク(左)にテストデータセット(b-i)を与えた時の圧縮層の出力を示す(図７)。ここではほぼユニット１の出力がCyに、ユニット２の出力がCxに対応している。一方、下位ネットワーク(右)では逆にユニット１の出力がCxに、ユニット２の出力がCyに対応している。よって何れの下位ネットワークとも期待通りに入力情報の変動部分が内部表現に抽出された。
引き続く上位ネットワークの学習では、同じ学習デー

110.8

0.8

0.60.6

unit2

unit2

上位ﾈｯﾄﾜｰｸ

下位ネットワークは学習データセット(a)に対して誤差
逆伝搬法で恒等写像を20000イテレーション学習し、その

0.4

Cx

0.2
25個

Cy+1.00
+0.75
+0.50
+0.25
+0.00

0.4-0.25

Cy -0.50

0.2-0.75

25個

受光部

受光部

左カメラ

右カメラ

0Cy
00.2

0.40.6

1-1.00Cx
00.20.4

unit1

左カメラ
図６ 実験に用いた階層モデル

0.800.6unit1

右カメラ

図７ 下位ネットワークの内部表現

0.81タセット(a)に対する二つの下位ネットワークの圧縮層の出力を利用して80000イテレーションの誤差逆伝搬法をに、モデルの基本的な動作確認のために、計算機シミュレーションにより提案したモデルが２台の固定カメラの行った。学習させたネットワークにテストデータセット(b-ii)を与えたときの上位ネットワークの圧縮層の出力を前で動き回る物体の画像情報から３次元情報をコードする内部表現を学習により復元できることを示した。
このように、本報告書では内部表現の自動獲得機構の実現という問題意識に基づき、これを階層化する方法の図８に示す。このように上位ネットワークは対象物体の３次元位置に対応する内部表現を獲得した。
実験において、下位ネットワークが獲得した内部表現提案を行った。今回提案したモデルでは、高次の内部表現を獲得するには各ニューラルネットワークの構造やそは圧縮層の出力空間の大部分を利用している。これは、入力層と出力層との誤差を小さくする恒等写像の学習が、圧縮層を通過する情報の解像度を落とさないようにの接続関係をあらかじめ与える必要があり、その点は自律的でなく、さらに研究を進める必要がある。しかし、現状においても表現それ自体を与えるよりも少ない情報利用可能な空間をできる限り使用したためではないかと考えられる。これに対して、上位ネットワークの内部表
現は圧縮層の出力空間の一部分しか使用しておらず、さらに学習を続けても状況の変化はなかった。その点は疑問が残り、今後の検討が必要であると思われる。

からシステムを構築できるので十分に有用である。

参考文献
1. Cottrell,G. W.,Muno,P.,and Zipser,D.,"Image Compression by Back
Propagation. An Example of Extensional Programmins",ICS Report
8702,InstituteforCognitiveScience,UCSD,1987.
2. Cottrell,G. W.and Metcalfe,J.,"EMPATH: Face, Emotion, and Gender
RecognitionUsingHolons",NIPS3,pp.564-572,1991.
3. DeMers,D.and Cottrell,G. W.,"Non-Linear DimensionalityReduction",NIPS5,pp.580-587,1993.
4. 鈴木,安藤,"モジュール学習による３次元物体の認識と類別",信4. まとめ現在のコンピュータなどによる知的システムには、多種多様かつ矛盾や曖昧さを含んだ情報から必要な情報を取捨選択・統融合する高度の能力が必要とされつつある。これらの能力はシステムが、現実世界と直接相互作用して大量かつ多様な情報を扱う場合や、情報のデジタル化・マルチメディア化が進展したネットワーク社会の学技報,NC93-62,pp.59-66,1993.
5. 柳沼義典, 木本隆,山川宏,"砂時計型ニューラルネットによる物体認識のための複数センサ情報の融合",第11回ファジィシステム
シンポジウム講演予定,1995.
6. 野田,"過負荷学習を用いた恒等写像学習による内部表現獲得",日本神経回路学会第５回全国大会講演論文集,pp. 80-81,1994.
7. 木本隆,柳沼義典,山川宏,"不完全なデータに対応する砂時計型ネットワーク",信学技報,NC94-62,pp.17-24,1995.

なかで活躍する場合に重要である。
上記能力の実現にはシステム自身による内部表現の柔軟な操作が一つの重要な基盤技術であると考えられる。
そこで本報告書では、砂時計型のニューラルネットワー
クの階層化により、センサ情報(低次)から内部表現(高次)を自律獲得する情報統合モデルの提案を行った。さらz3.94.3
4.7
5.1
5.5
5.9
6.3
6.7
7.1
7.5
7.9
8.3

yunit30.5
0.4
0.3
0.20.6山川宏〒305 茨城県つくば市竹園1-6-1
つくば三井ビル 16F
ＲＷＣＰ つくば研究センタ
能動知能研究室
TEL:0298-53-1664,
FAX: 0298-53-1652
E-mail: yamakawa@rwcp.or.jp

0.5
0.4

x0.3

z0.7

連絡先

0.6

unit2

0.2
0.1

0.5
0.4
unit1

0.3

0.2

0.100図８ 上位ネットワークの内部表現
上位ネットワーク用の12*9*12個のテストデータ(図４参照)の入力に対する上位ネットワー
ク圧縮層の３ユニットの出力を示した。カメラ座標のｘ軸がユニット２に、y軸がユニット３に、z軸がユニット１に、ほぼ対応する結果が得られた。

木本隆、柳沼義典〒211 神奈川県川崎市上小田中1015（株）富士通研究所
知識処理研究部
TEL:044-754-2667,
FAX: 044-754-2664
E-mail: kimoto@flab.fujitsu.co.jp
yaginuma@flab.fujitsu.co.jp