通時的誤差逆伝播法を用いた視覚情報に基づく隘路幅識別学習

Learning of Discrimination of Aperture Widths by Back
Propagation Through Time Based on Visual Information
摂南大 ○ 穴吹 卓哉, 片田 喜章○ Takuya ANABUKI and Yoshiaki KATADA, Setsunan University
Abstract: Raw visual sensory signals are desirable for visual pattern recognitions in some kind of task.
However, either general mechanisms or methodologies to extract invariants from raw visual signals havenot been proposed in ecology and engineering. In this paper, recurrent neural networks were employedusing back propagation through time. Two types of visual signal were used. One was a binarized image
and the other was a full-color image. We conducted a series of real experiments with a cognitive problem
in order to investigate whether a robot can learn to judge the passability of openings relative to their own
body size using visual sensory signals.

1.

はじめにロボットで視覚センサを扱う場合，そのタスクに関する人間の「知識」をもとに特徴量を抽出し，それに基づいて状態を識別し，ロボットの行動を決定するというのが一般的な解法である [1][2][3]．しかしながら，われわれが目指すべき “真の” 適応システム [4] の構築を考えた場合，この解法には以下の問題が含まれる．1
つ目は，この視覚センサ信号の前処理にはあらかじめタスクに関する人間の知識が必要となる上に，フレーム問題 [5] を引き起こす原因にもなり得ることである．
2 つめの問題は，陽として特徴量を扱えるタスクに適用が限られることである．3 つめの問題は，前処理では注視すべき領域の二値化による重心・面積算出やエッジ検出などが多く用いられるが [6]，これによりロボッ
トが存在する環境を構成する物体の面・面上の肌理・面と面が成す配置に関する情報 [7] の欠落が起こることである．
何ら前処理をしていない視覚センサ信号とは，カメラで撮った原画像における各画素の輝度である．具体的にはモノクロ画像であれば，画像を構成する各画素における濃淡を表す輝度であり，フルカラー画像であれば，各画素における R,G,B 成分の輝度である．したがって，人工の適応システムとしては，原画像を扱い，何の加工も行われていない入力信号に対し適応できることが望ましい．
原画像を視覚センサ信号として使う理由について，もっともらしい説明を与える理論として，アメリカの認知心理学者 J.J.Gibson によって提唱された生態学的視覚論がある [7][8]．ここでは，環境はあらゆる方向からくる光によって「包囲」されており，観察地点を包囲する光にはその地点を含む環境を構成する面に応じた構造があると考えられている．これは包囲光配列と呼ばれる．包囲光配列は観察者の移動や環境の変化にともなって多様に変形する．Gibson はこの変化から不変なものが知覚されると主張し，これを不変項と呼んだ．したがって，環境や対象のもつ性質は動くことによって包囲光配列の変形から不変なものを知覚することで得られる．一方で，観察者が不変項を抽出するために利用する変形を記述することは難しいだろ
うと Gibson は予想している．また，不変なものを知覚する，そのメカニズムの工学的実現性の問題についても指摘されている [9]．
そこで，本研究では，タスクとして不完全知覚問題の 1 つである隘路幅識別問題を取りあげ，前処理をしていない視覚センサ情報を入力とし明示的に特徴量を与えることなく，システムが自律的に不変項を獲得し，対象を識別できるかどうかを検証する．上述のように不変項を抽出する一般的なメカニズムは明らかになっておらず，また，取りあげるタスクは時系列情報を扱う必要があるため，学習器として通時的誤差逆伝播法を用いたリカレントニューラルネットワークを採用する．なお，不完全知覚問題を取りあげた理由は，不完
全知覚状態ではスナップショット的な視覚センサ情報のみでは正確な識別が行えず，動きの中から識別に必要な特徴量を獲得しなければならず，前処理をしていない視覚センサ情報を入力として扱う問題として適切であると考えたからである．以下，第 2 節では，本稿で用いるリカレントニューラルネットワークの学習法である通時的誤差逆伝播法について述べる．第 3 節では，不完全知覚を生じる環境における，通時的誤差逆伝播法を用いたロボットによる隘路幅識別学習を行う．
CCD カメラから 2 値画像を取得しニューラルネットワークの入力とすることで学習および識別の可能性について検証する．また，未学習の隘路幅に対する汎化能力を検証する．第 4 節では，CCD カメラからフルカラー画像を取得し，第 3 節と同様の実験を行う．

2.

通時的誤差逆伝播法を用いた学習法

2.1.

リカレントニューラルネットワーク

ここで，e(t) は教師信号 di (t) と出力ユニットの出力yi (t), i ∈ O の誤差を表す．E(t) を極小化する結合荷重の更新式 (学習則) は次のようになる．

本稿では，視覚情報の時系列を扱うためにリカレントニューラルネットワーク (RNN) を用いる．ここでは，入力ユニットは全ての隠れユニットと出力ユニットに結合され，隠れユニットと出力ユニットは完全相互結合 (非対称) しており自己結合をもつ．このようなリカレントニューラルネットワークにおいて，時刻t におけるユニット i の出力を zi (t) とおき，入力ユニットの出力を zi (t) = xi (t), i ∈ I ，隠れユニットと出力ユニットの出力を zi (t) = yi (t), i ∈ H ∪ O とする．ここで，I, H, O はそれぞれ入力ユニット，隠れユニット，出力ユニットを表す添字の集合を表す．離散時刻 t + 1 における隠れユニットと出力ユニットの入出力関係は，次のように表される．

yi (t + 1)

=si (t + 1)

=fi (si (t + 1)), i ∈ H ∪ O(1)XX
wij xj (t) +wij yj (t)
j∈I

=t−1
X

δi (τ + 1)zj (τ )wij zj (t)(2)

ここで，wij はユニット j からユニット i への結合荷重，si (t + 1) はユニットの内部状態を表し，入出力関数 fi (·) はシグモイド関数を用いる．
通時的誤差逆伝播法

Williams ら [10] はフィードバック結合のある非階層的なネットワークを離散時刻に対応する階層型ネットワークとみなし (Fig.1)，誤差逆伝播法 (BP) を適用する通時的誤差逆伝播法 (BPTT) と呼ばれる学習法を提案した．以下に概略を述べる [11]．
時刻 t0 における入力 xi (t0 ) と時刻 t のみにおける教師信号 di (t) を与えたとき，時刻 t における出力yi (t), i ∈ O が教師信号 di (t) になるような学習を考える．ネットワーク全体の 2 乗誤差関数は次のようになる．
1X
E(t) =(e(t))2 ,(3)2

ここで，η は学習率を表し，

δi (t) =0fi (si (t))(di (t) − yi (t)),

(5)

X(6)

(τ = t)δi (τ ) =0fi (si (τ ))wli δl (τ + 1),l∈H∪O(t0 + 1 ≤ τ ≤ t − 1),となり，δi (t) と δi (τ ) は BP における δ 項に相当する．
式 (4) より，結合荷重 wij (t) は以下のように更新される．
wij (t + 1) = wij (t) + ∆wij (t)(7)

3.

2 値画像を用いた隘路幅識別学習実験

本節および次節では，人間型ロボット HOAP3(富士通オートメーション社製) (Fig.2) を用いて，隘路幅識別学習実験を行う．このロボットには縦 240 画素 × 横320 画素のカラー CCD カメラが搭載されており，各画素に R,G,B 成分をもち，それぞれは 8 ビット，つまり 256 階調で表される．この CCD カメラで撮影された画像を用いて視覚情報を設定し，実験を行う．

3.1.

不完全知覚状態の検証

本節では，上述のロボットを用いて，2 つの壁の間にできる隘路に対し決められた位置から前へ進み，目前の隘路がロボットにとって通り抜け可能かどうかを識別する実験 [12] を行う (Fig.3)．この環境では，視覚を持つロボットは遠距離から観測した広い隘路と近i∈Ot0
Input Unit

t0+1

Hidden Unit

t-1t

Output Unit

Fig.1 Unrolling a reccurent network in time to obtain a feedforward network

(4)

τ =t0

j∈H∪OXj∈I∪H∪O

2.2.

∆wij (t) = −ηFig.2 Humanoid robot: HOAP3

Table 1 Observed aperture width by binarized image for thedistance between a robot and walls [pixel](a) Full-color image

HHdH o100
dw HH
H
10
37.6
15
57.0
20
73.1
25
95.5
30
115.3
35
135.1
40
155.1
45
174.6
50
190.4
55
213.0
60
228.8
65
252.4

(b) Binarized image

150200

250

300

25.4
38.7
49.8
64.1
78.0
91.7
105.0
118.4
128.2
143.8154.6
170.4

18.2
28.7
36.9
47.7
58.6
69.0
79.4
89.2
96.4
109.4
117.2
129.5

14.2
22.6
29.3
38.2
47.9
55.3
63.5
72.3
77.3
87.6
94.2
104.0

11.7
18.7
24.4
31.6
39.1
46.1
53.5
59.9
64.5
73.2
79.0
87.1

250

Fig.3 CCD camera image plane

距離から観測した狭い隘路を同一の隘路幅として認識する可能性がある．したがって，ロボットはスナップショット的な視覚情報のみでは対象の隘路が通り抜け可能であるかを判断できないという問題 (不完全知覚)に直面する．
本タスクが不完全知覚状態を含むことを確認するた
め，青色に塗装された 2 つの壁から構成される隘路幅dw と，ロボットと壁との間の距離 do を変化させてロボットのカメラから画像を取得する．測定方法はまず，
隘路幅 dw を 10 [cm] から 65 [cm] まで 5 [cm] ずつ大きくしていく．そして，各隘路に対し，壁から do = 300[cm] 離れた場所からロボットを壁に対して 50 [cm] ずつ近づけ，計 5 ステップの間に画像を取得する．次に取得した画像に 2 値化処理を行い，壁に相当する青色の部分を抽出する．これに基づいて 2 つの壁の間にできる隘路の幅 (画素数) を各行で計算し，その平均値をロボットが知覚した隘路幅とする．
各隘路幅を 10 回測定し，その平均を Table1, Fig.4に示す．ロボットが壁に近づくほど，知覚される隘路幅は大きくなることがわかる．また，隘路幅が 25 [cm]で 150 [cm] 離れた場所と 50 [cm] で 300 [cm] 離れた場所，および，隘路幅が 25 [cm] で 100 [cm] 離れた場
所と 50 [cm] で 200 [cm] 離れた場所では，知覚される隘路幅の画素数がほぼ同じ大きさとなっており，不完全知覚状態となっていることがわかる．

3.2.

隘路幅識別学習実験

3.2.1

実験設定

隘路幅識別学習実験を行う環境の模式図を示す(Fig.5)．ロボットは識別対象となる 2 つの壁の間に

Observed aperture width [pixel]

200

150

100

500100150200250300

Distance between a robot and walls [cm]
10 cm
15 cm

20 cm
25 cm

30 cm
35 cm

40 cm
45 cm

50 cm
55 cm

60 cm
65 cm

Fig.4 Observed aperture width by binarized image for thedistance between a robot and walls

できる隘路から 3m 離れた位置を初期位置として，壁に対して 1 ステップ当たり 50cm 近づき，5 ステップ移動する．この間に獲得した視覚情報をもとに出力ユニットから値が出力される．この値が 0 に近いほど通れることを，1 に近いほど通れないことを判断しているとする．本研究では，識別が可能になったと見なす基準として，出力ユニットからの出力と教師信号の 2乗誤差の値を用いる．つまり，この値がそれぞれのパターンで 0.125 よりも小さくなれば識別は可能になったと見なす．また，ロボットの両幅は 33cm であること (Fig.2)，および，3.1. の結果より，通り抜け可能かどうかを学習する隘路幅は dw ∈ {25, 50} [cm] と設定する．この 2 パターンで 1 試行とし，100 試行学習を行う．
CCD カメラで撮影された画像を，壁の色である青色を示すしきい値で 2 値化を行う (Fig.3(b))．ANN への入力は青色を示す画素を 1，それ以外の色を示す画素を 0 とする．したがって，ロボットに実装する ANNの構成は入力ユニット数 I = 240 × 320 = 76800，隠(a) Impassable

0.5 [m]
3 [m](b) Passable
Fig.5 Experimental setup for a real robot

れユニット数 H ，出力ユニット数 O = 1 とし，バイアスユニットを 1 つもつ．予備実験より，H = 30 とし，各学習パラメータを Table2 のように設定する．ここで，W は ANN の結合荷重の初期値の振れ幅の最大値，η は学習率を表す．

3.2.2

実験結果

視覚情報に 2 値画像を用いた実験におけるロボットの学習結果を Fig.6 に示す．100 試行で 2 つのパターンに対し，2 乗誤差値が十分に小さくなっている．この結果から，学習に用いた隘路幅が通り抜けられるかどうかをロボットは正確に識別できるようになったことがわかる．
さらに獲得した ANN の隘路幅に関する汎化能力を調べる追加実験を行った．隘路幅を dw = 0, 5, · · · ,140, 150, · · · , 250 [cm] に設定し，各幅について 5 ステップの移動ののち識別を行うという実験を 5 回行う．
それぞれの幅に対する ANN の出力値の平均を Fig.7に示す．dw ≤ 25 cm のとき出力値は 1 に近くなり，50 cm ≤ dw ≤ 100 cm では 0 に近くなっている．しかし，dw が 110 cm を越えると出力値はしだいに大きくなり，0.82 付近に収束する．ANN の識別の境界値は 0.5 であることから，dw ≤ 40 cm のときは通れないと識別し，45 cm ≤ dw ≤ 115 cm のときは通れると識別している．しかし，dw ≥ 120 cm のときは正しく識別できていないことがわかる．
隘路の幅が 120cm を越えると，4 ステップ目以降のTable 2 Parameters of learning for the real experiment withbinarized image

W
8.33 × 10−5η
1.04 × 10−30.4
Square error

3 [m]0.30.20.10010 20 30 40 50 60 70 80 90 100Number of trials(a) For impassable aperture width

0.4
Square error

0.25 [m]ロボットの視野に壁が入らず，ANN の入力が全て 0になる．学習過程では全てのステップにおいてロボットの視野に壁が入る状態であったため，幅が 120cm を越えると未学習のため，適切な識別ができなかったと考えられる．しかし，隘路幅に応じて ANN の出力が変化することから，隘路幅が識別に必要な特徴であると認識しているといえる．このことは，画像処理により明示的に隘路幅を抽出して学習する場合には当然の結果であると考えられる．しかし，本実験のように各画素で 2 値化を行い，そのまま ANN の入力とする場
合は識別の際の特徴を ANN が学習を通して獲得したと考えられ高い適応能力が示されたといえる．
本節で行った実験では，ANN の入力値は 0 もしくは 1 のみであり，壁が視野に映っているかそうでないかのみの入力情報であった．次節ではあるかないかだ
けではなく，1. で述べた物体そのものの面・面上の肌理も扱えるようにフルカラー画像を用いて正しい識別が行えるようになるかを検証する．

0.3
0.2
0.1
00

10 20 30 40 50 60 70 80 90 100
Number of trials(b) For passable aperture widthFig.6 Learning curves for the real experiment with binarized
image

0.5

0.8

0.4

0.6

0.3

Square error

Output value of ANN

1.0

0.4

0.1

0.2
0.0

0.2

0050100

1502002500Aperture width [cm](a) For impassable aperture widthFig.7 Generalization ability of the obtained ANN with binarized image for each aperture width

実験設定

本節ではフルカラー画像 (Fig.3(a) 1 ) を用いて識別実験を行う．ANN への入力は各画素における R,G,B 成分を正規化した値を用い，I = 240 × 320× 3 = 230400となる．前節と同様に，ロボットに実装する ANN の構成は隠れユニット数 H = 30，出力ユニット数 O = 1とし，バイアスユニットを 1 つもつ．予備実験より，各学習パラメータを Table3 のように設定する．なお，学習の試行回数を 1100 とする．

4.2.

実験結果

視覚情報にフルカラー画像を用いた実験におけるロボットの学習結果を Fig.8 に示す．820 試行あたりで一度 2 乗誤差値が小さくなったが，870 試行付近で誤差値が大きくなり，その後 900 試行あたりからそれぞれのパターンに対する誤差値が十分に小さくなっている．このことから，2 値画像を用いた実験に比べ学習の収束に時間がかかるものの，ロボットはフルカラーの視覚情報を用いて隘路幅の識別ができるようになることがわかった．この実験は多くの試行回数を要し，実験時間は約 50 時間かかった．この間，実験環境に差し込む窓からの光や蛍光灯の明かりなどの照明条件は一定ではなく，実験中ごく稀であるがロボットの視界に人が映ることもあった．このような環境状況であっても学習はうまくいき，学習器の耐性をうかがわせる．
3. と同様に獲得した ANN の隘路幅に関する汎化能力を調べる追加実験を行った．隘路幅を dw =0, 5, · · · , 80, 90, · · · , 250 [cm] に設定し，それぞれの幅
Table 3 Parameters of learning for the real experiment withfull-color image

W
2.78 × 10−5η
3.47 × 10−40.4
Square error

4.1.

0.5

0.3
0.2
0.1
00100 200 300 400 500 600 700 800 900 1000 1100
Number of trials(b) For passable aperture widthFig.8 Learning curves for the real experiment with full-colorimageに対する ANN の出力値の平均を Fig.9 に示す．dw ≤35 cm のときは出力値は 0.7 から 0.9 付近をとり，dw = 45 cm で 0.5 以下となり，それ以上の幅では出力値は 0 に近づく．以上より，dw ≤ 40 cm のときは通れないと識別し，dw ≥ 45 cm のときは通れると識別している．
3. で行った汎化実験では，120cm より広い幅では正しく識別できていなかったの対し，本実験ではこの範囲においても正しく識別することができている．3. でも述べたように，隘路の幅が 120cm を越えると，ロ1.0
Output value of ANN

フルカラー画像を用いた隘路幅識別学習実験

4.

100 200 300 400 500 600 700 800 900 1000 1100
Number of trials

0.80.60.4
0.2
0.0050100150200Aperture width [cm]Fig.9 Generalization ability of the obtained ANN withfull-color image for each aperture width

1 誌面ではモノクロになっている

250

ボットの視野に壁が入らず，入力が全て 0 になるステップがある．しかしながら，フルカラー画像を用いた識別学習では各画素における R,G,B 成分を ANN の入力としているため，視野に壁が映らなくなってもそれ以前の物体の面および面上の肌理の時系列情報を利用し，正しく識別していると考えられる．

5.

おわりにロボットで視覚センサを扱う場合，人の知識に基づいてタスクに関連する特徴量を抽出し，それに基づき状態を識別し，行動を決定するアプローチが一般的である．しかしながら，陽として特徴量を扱えない場合など，システムが自律的に視覚センサ信号から特徴量を獲得し，状態を識別できることが望ましい．本稿では，不完全知覚問題の 1 つである隘路幅識別問題を取りあげ，視覚センサ情報として 2 値画像およびフルカラー画像をそれぞれ RNN の入力とし，通時的誤差逆伝播法を用いて学習を行った．得られた結果について次にまとめる．

• 視覚情報に 2 値画像を用いる場合，学習した隘路幅は正確に識別できることを確認した．しかし，隘路幅に関する汎化能力を調べた結果，あるしきい値以上の未学習の隘路幅を正確に識別できないことがわかった．
• 視覚情報にフルカラー画像を用いる場合，2 値画像に比べて学習に相当時間がかかるものの，隘路幅を正確に識別できるようになることを確認した．
また，隘路幅に関する汎化能力を調べた結果，未学習の隘路幅を含めて，通り抜けられるかどうかを正確に識別できることがわかった．
以上より，多入力となる 2 値画像・フルカラー画像から不完全知覚状態を含む隘路幅の識別が学習可能であることを確認し，何ら前処理をしていない視覚センサ信号をニューラルネットワークの入力として扱うことの可能性を示した．多入力のため学習の収束に時間がかかるので，リカレントニューラルネットワークにおける他の学習法 [11] を用いるなど，学習速度の改善を検討したい．また，本稿では，ロボットの出力 (移動) は人が行ったが，自律ロボットの観点 [5] からモータ出力を含むセンサ・モータ協応に前処理をしていな
い視覚センサ信号を用いることも今後の課題である．

参考文献[1] 浅田 稔，野田 彰一，俵積田 健，細田 耕: 視覚に基づく強化学習によるロボットの行動獲得, 日本
ロボット学会論文誌, Vol.13, No.1, 68/74 (1995)[2] 関森 大介，臼井 智也，升谷 保博，宮崎 文夫: 全方位視覚を用いた移動ロボットの高速な障害物回避と自己位置推定, コンピュータビジョンとイメー
ジメディア, Vol.125, No.017, 125/131 (2001)[3] ロボットの目をつくる, CQ 出版社 (2006)[4] J. H. Holland: Adaptation in Natural and Artificial Systems, University of Michigan Press(1975)[5] R. Pfeifer and C. Scheier: Understanding Intelligence, The MIT Press (1999)[6] 安居院 猛，長尾 智晴: C 言語による画像処理入門, 昭晃堂 (2000)[7] J. J. ギブソン (著)，古崎敬 (訳): 生態学的視覚論–ヒトの知覚世界を探る, サイエンス社 (1986)[8] 佐々木 正人: アフォーダンス-新しい認知の理論,
岩波科学ライブラリー 12, 岩波書店 (1994)[9] 羽倉 淳, 横井 浩史, 嘉数 侑昇: アフォーダンス理論に基づく自律エージェントの環境認識機構, 第5 回マルチエージェントと協調計算ワークショッ
プ (1995)[10] R. J. Williams and D. Zipser: Gradientbased learning algorithms for recurrent networks and their computational complexity,
Back-propagation: Theory, Architectures andApplications, Lawrence Erlbaum Publishers,
433/486 (1995)[11] 坂井 正敏，田中 雅博: ニューロコンピューティ
ング入門, 森北出版 (1997)[12] A. Slocum, D. Downey and R. Beer: FurtherExperiments in the Evolution of Minimally Cognitive Behavior: From Perceiving Affordances
to Selective Attention, From Animals to Animats 6: Proceedings of the Sixth International
Conference on Simulation of Adaptive Behavior,
MIT press, 430/439 (2000)