社団法人 電子情報通信学会
THE INSTITUTE OF ELECTRONICS,INFORMATION AND COMMUNICATION ENGINEERS

信学技報
TECHNICAL REPORT OF IEICE.

動的なテンプレートを用いた CNN の動画像処理における出力推移の調査
川原 雅一†

上手洋子†

西尾 芳文†† 徳島大学 〒 770-8506 徳島県徳島市南常三島町 2-1
E-mail: †{kawahara, uwate, nishio}@ee.tokushima-u.ac.jp
あらまし

本研究では，動的なテンプレートをもつセルラニューラルネットワーク (D-CNN) の動画像処理時における出力推移の調査を行う．我々が提案した D-CNN は，更新されるごとにテンプレートが変化していく特徴を持つ．さらに動画像処理に適した更新方法を調査するため，以前の研究では，D-CNN の更新条件を変化させた場合における出力画像の特性を調べた．そこで本研究では，その更新条件を変化させた場合における出力値の変化を更に詳しく調査する．
キーワード

セルラニューラルネットワーク，動画像処理

Investigation of Updated Template in Cellular Neural Networks withDynamic Tamplate for Motion Picture Processing
Masakazu KAWAHARA† , Yoko UWATE† , and Yoshifumi NISHIO†† Dept. of E.E. Eng., Tokushima University,
2-1 Minami-Josanjima, Tokushima, 770-8506, JAPANE-mail: †{kawahara, uwate, nishio}@ee.tokushima-u.ac.jp
Abstract In the previous study, we have proposed CNN with dynamic template (D-CNN). In D-CNN, templateis dynamically changed at each update of learning. In this study, we investigate the process of output values inD-CNN for motion pictures. Also, we investigate output characteristics of D-CNN for motion pictures from twotypes input images. We compare the output values of the cell by using two updated equations. From these obtainedresults, we make clear the mechanism of D-CNN for motion pictures.
Key words Cellular Neural Netwrks, Motion Picture Processing

1. ま え が きしている.

CNN はテンプレートとよばれる与えられたパラメータに応

近年, 情報化社会が進むにつれて日常に情報が氾濫し, 一度じて処理を行う．しかしながら，テンプレート自体は一定の値に処理すべき情報の量が増加してきている. しかし, これまをもつため，単純な処理しか行うことができない．この特徴はでディジタル回路で行われてきた情報処理は逐次処理を行う

テンプレートの良い点でもあるが，悪い点でもある．

ため, 情報処理が遅くなり, リアルタイムな信号処理ができな

以前の研究で，我々は動的なテンプレートを持つ CNN(D-いという問題がある. そこで人間の神経系を基に考案されたCNN) を提案した [4][5]．この D-CNN の特徴はテンプレートニューラルネットワークを用いた情報処理が盛んに行われ, 既が更新するごとに動的に変化するところにある．以前の研究結に各方面での実用化が進んでいる. その応用は連想メモリ, パ果から，従来の CNN の収束する値は 1 つであるのに対して，ターン認識, 画像処理など幅広いものがある．さらにニューラ

D-CNN の収束する値は 2 つまたは 3 つに変化することが確認

ルネットワークとセルラオートマトンの概念を組み合わせたできた．また，D-CNN は収束するまでの時間が, 従来の CNNニューラルネットワークの一種である，セルラニューラルネッよりもずっと早いことも確認できた．さらに，その収束点が変トワーク (Cellular Neural Networks: CNN) [1] が 1988 年に化する特徴を活かすため，テンプレートの更新方法を変化させ，L. O. Chua らによって開発された. CNN は局所的結合の特性

D-CNN を動画像処理に応用させる研究を行った [6].

を持つため LSI 化に適している. また CNN の構造は動物の網本研究では D-CNN の動画像処理における出力推移の調査を膜の構造に類似しており, 様々な画像処理 [2][3] を行うのに適行う．二種類の更新式, および，二種類の入力画像を使って得—1—



られる出力推移の調査や濃度分布の調査を行い，D-CNN のメ

anow
12anow
13nowAnow(i,j) =  a21

anow
22

anow
,
23

anow
31

anow
32

anow
33

bnow
11bnow
12bnow
13

now
B(i,j)=  bnow
21bnow
22bnow
,23bnow31bnow32

bnow
33



カニズムの解明を行う．

2. 動的なテンプレートをもつセルラニューラル
ネットワーク (D-CNN)
本研究では，ある一定時間ごとに入力画像を変化させた場合における D-CNN のテンプレートの調査を行う．D-CNN は，従来の CNN とは違い，テンプレートが順位学習によって処理anow
11now
I(i,j)= I now .

(4)ごとに更新される．次に提案した D-CNN のアルゴリズムについて詳しく説明する．

[Step1]: まず始めに，D-CNN の全てのセルの状態値と出力値を，従来の CNN の状態方程式と出力方程式で更新する．
状態方程式:

例 え ば, 式 (4) に お い て ，“winner” が (i, j) “second”が(i − 1, j − 1) だとすると，図 2 のように，A テンプレートnow
は，anowの 2 つが更新され，B テンプレートは，bnow
22 , a11
22 ,bnowの 2 つが更新されることになる．また，今回の更新方法
11j+r
i+r
XXdvxij= −vxij +A(i,j;k,l) vykl (t)dtにおいては，閾値 I は更新されない.

k=i−r l=j−r

j+r
i+r
X
X+

B(i,j;k,l) vukl (t) + I.

(1)

k=i−r l=j−r

出力方程式:

vyij (t) =1(|vxij (t) + 1| − |vxij (t) − 1|).
2(2)[Step2]: 次に，図 1 のように，更新されたセルの出力値と,その一つ前のセルの出力値および，その周りのセルの出力値 9つを以下の式 (3) で比較する．
pastnow
Dif (i, j; k, l) = |vy,(i,j)− vy,(k,l)|.

(3)
図 2 Winner, Second と更新されるテンプレートの要素の関係

D-CNN のアルゴリズムにおいて，“winner” と “second”にそれぞれ学習率係数を定義し，変化させる．“winner” と “second”の学習率係数はそれぞれ以下のように表される．
学習率係数:µ
R1 = R10
図 1 出力値の比較

N umber of calculation
1−
N umber of calculationmaxµR2 = R20 1 −[Step3]: 計算した Dif (i, j; k, l) の値 9 つの中で，最も小さN umber of calculation
N umber of calculationmax

¶.

(5)

¶.

(6)

い値を “winner”, 2 番目に小さい値を “second”とそれぞれ定本研究において，学習率係数の値は時間と共に減少していく．

義する．本手法において，D-CNN の更新方法で，更新される

今回 N umber of calculationmax の値は 10 に設定した. すな

テンプレートの要素は 2 つだけである．このステップでは，更わち，“winner”と “second”の学習率係数は 10 回更新を行うま

新されるテンプレートの要素を決定することができる．また，で計算される. N umber of calculationmax が 10 を超えた場

9 つの Dif (i, j; k, l) の値がすべて同じ場合，テンプレートの更合,“winner”と “second”の学習率係数が 0 となり，それ以上テ新は行わない．

ンプレートは更新されない. この学習率係数を与えることにこのステップで決められた “winner”と “second”の場所は更新されるテンプレートの要素と対応している．

[Step4]: 更新された “winner”と “second”に対応するテンプレートの要素を以下の手順に従って更新を行う．

(更新方法): 例として，式 (4) のようなテンプレートを仮定する．
更新前のテンプレート :よって，テンプレートの要素が徐々に更新される．本研究では，比較のために二種類の更新式を用いた．
更新式 (Type1):
now
past
now
aupdatedwinner = awinner + R1 (vy,(i,j) − vy,(i,j) ).

(7)

now
past
now
aupdatedsecond = asecond + R2 (vy,(i,j) − vy,(i,j) ).

(8)

更新式 (Type2):—2—

now
past
now
aupdatedwinner = awinner − R1 (vy,(i,j) − vy,(i,j) ).

(9)

now
past
now
aupdatedsecond = asecond − R2 (vy,(i,j) − vy,(i,j) ).

(10)

この２つの更新式の違いは，更新されるテンプレートがプラスに変化するかマイナスに変化するかである．また，式 (5)，(6)により, R1 と R2 は更新するごとに徐々に減少する. B テンプ
レートの要素においても A テンプレートと同様に更新される．
また，“winner”と “second”の初期の学習率係数は以下のように表される．
初期学習率係数:(0 <= R10 <= 0.1).

W inner : R10(a)

(b)

(c)

(d)

(11)

Second : R20 = R10 /4.

(12)

この更新方法により，式 (7), (8) または，式 (9), (10) を使って更新を行った後のテンプレートは以下のように表される．
更新後のテンプレート :aupdated
11anow13

aupdated
22anow
,
23anow
31

anow
32

anow
33

bupdated
11bnow
12bnow
13

bupdated
22bnow
,23bnow
32

bnow
33

Aupdated=  anow
21(i,j)



anow
12

updatedB(i,j)=  bnow
21bnow
31



図 3 入力画像. (a) 入力画像 1. (b) 入力画像 2. (c) 入力画像 3.

(d) 入力画像 4.

updated
I(i,j)= I now .

(13)[STEP 5]: STEP1 から STEP4 までを繰り返す．

3. シミュレーション結果
(a)

(b)

本章では，動画像処理時における D-CNN のテンプレートの出力推移の調査結果を示す．本研究では，背景と，移動物体の値が近い，二種類の画像を用意し，二種類の更新式においての図 4 出力画像. (a) 出力画像 (更新式 Type1). (b) 出力画像 (更新式Type2).

比較を行う．初期テンプレートとして以下のテンプレートを与
図 4 は出力画像を表している．入力画像が変化した順に徐々える．に不鮮明にはなっているものの，入力画像が変化した部分の初期テンプレート:

0A = 00000000
0.07

 , B =  0.1

0.10.07

0.32

0.1

0.07

0.10.07

エッジが検出されている．また，Type1 と Type2 の２つの更 , I = 0. (6)

新方法を比較すると，3 枚目の入力画像の変化にほとんど差はまず，背景が-1(白) に近い画像を使い，白い物体が移動するような動画像を，D-CNN を使って処理した場合の出力値の調査を行う．本研究では，入力画像を 4 枚用意し，10[τ ] ごとに入力画像を変化させる．
図 3 は入力画像を示している．図 3 の (a) から (d) の順に入力画像を変化させることにより，白い丸が左から右，上から下，右から左へと移動していくように画像が変化しているのがわかる．このように入力画像を変化させた場合において，出力画像の変化および，更新式の違いによる影響を調査する．

現れていない．しかし，二枚の出力画像を比較すると，図 4(b)のように Type2 の更新式を用いたほうが，より鮮明に入力画像の順に検出されるエッジの濃度が黒 (1) から白 (-1) へと変化していくことから，一枚の出力画像から，出力される順番も識別することができる.
次に，入力画像がどのように反映されているのかをグラフを使って調査を行った．図 5 は各入力画像が反映される領域から，1 つの画素を抜き出し，その出力値の推移を表している．図 4の出力画像の結果と同様に，反映される入力画像が，変化する順に −1 から 0 に向かっていくことから、出力される順番を識—3—

表 1 図 4 の出力画像の濃度分布 (更新式 Type1).

(a)

表 2 図 4 の出力画像の濃度分布 (更新式 Type2).

(b)
図 5 出力の推移. (a) 出力の推移 (Type1). (b) 出力の推移 (Type2).

別することが出来る．また，図 5(b) のほうが，入力画像 2 や3 の出力値と，背景の出力値との差が大きいことから，より鮮明な移動物体の検出が出来ていると考えられる．次に，それぞれの出力画像全体の画素の濃度分布の調査を行った．各々の入力画像が反映された領域での濃度分布を調べるために，図 6 の様に出力画像を A〜D まで 4 分割し，それぞれの濃度分布の調査を行った．

している．また，表 2 のほうがより背景との差が大きいところまで分布していることから，Type2 の更新式のほうがより鮮明な移動物体の検出が出来ていると考えられる．また，Ｂの領域や，特に画像ではわかりにくかった C 領域の出力値に関しても，Type2 の更新式のほうが．より鮮明な移動物体の検出が出来ていることが確認できる．
図 6 出力画像の分割の図.

次に，背景が 1(黒) に近い画像で，黒の物体が移動するような動画像を処理した場合の D-CNN の出力値の調査を行う．

表 1 および表 2 は，それぞれの更新式を変化させた場合における出力画像の各領域の濃度分布を表している．2 つの表から，背景の色の濃度である −0.6〜−0.5 に多くの画素が集まっていることが確認できる．これら 2 つの表を比べると，A の領域の分布において，表 1 の場合は −1 に近い値に分布していることが確認できる．一方，表 2 より，背景より −1 に近い値に分布

図 7 の (a) から (d) の順に入力画像を変化させることにより，
図 3 と同じように黒い丸が移動していくように画像が変化しているのが確認できる．このように入力画像を変化させた場合において，更新された D-CNN のテンプレートの変化を調査する．
図 8 は出力画像を表している．図 4 の場合と比べると，変化した物体の検出がより鮮明に行われている．また，図 8 の 2 枚—4—

(a)

(b)
(a)

(c)(d)

図 7 入力画像. (a) 入力画像 1. (b) 入力画像 2. (c) 入力画像 3.

(d) 入力画像 4.
(b)
図 9 出力の推移. (a) 出力の推移 (Type1). (b) 出力の推移 (Type2).
表 3 図 8 の出力画像の濃度分布 (更新式 Type1).

(a)(b)

図 8 出力画像. (a) 出力画像 (Type1). (b) 出力画像 (Type2).の出力画像を比較すると，図 8(a) の方が入力画像が変化する
につれ，検出される移動物体のエッジ付近の濃度が黒から白へと変化していくことから，一枚の出力画像から，出力される順番も識別できる．
図 9 は図 5 の場合と同様に，各入力画像の変化した領域から，1 つの画素を抜き出して出力の推移を表している．この結果か
ら，反映される入力画像が変化する順に 1 から 0 に向かっていくことから、出力される順番を識別することができる．
次に先ほどの調査と同様に，得られた出力画像を 4 分割した，それぞれの出力値の濃度分布の調査を行った．
表 3 および表 4 は，それぞれの更新式を変化させた場合における出力画像の分布を表している．例として，A の領域を見て域でも同様のことが言える．以上の結果から，背景が黒に近い画像を用いた場合には，先ほどの結果とは反対の Type1 の更新式を用いたほうが，鮮明な移動物体の検出が出来ていると考えられる．

考えると，背景の画素である 0.4〜0.5 の値から離れた値により以上の 2 種類の画像を使って出力値の調査を行った結果か多く分布しており，特に 0.2〜0.3, 0.9〜1.0 のところの分布をら，背景や，検出したい移動物体の値に応じて更新式を変化さ見ると，その違いを確認することが出来る．他の B や C の領せることで，わずかな差ではあるが，移動物体の軌跡が識別で—5—

表 4 図 8 の出力画像の濃度分布 (更新式 Type2).

き，より鮮明な移動物体の検出が可能であるということが確認できた．

4. ま と め
本研究では，動的なテンプレートをもつセルラニューラルネッ
トワーク (D-CNN) の動画像処理時の出力推移の調査を行った．

D-CNN は，更新されるごとにテンプレートが変化していく特徴を持つ．調査方法としては，変化させていく各入力画像がどのように反映されているのか調査するため，背景の値と，移動物体の値が違う二種類の画像および，2 種類の更新式を用意し，それぞれの出力値の推移および，出力画像の濃度の分布を調べた．シミュレーション結果から，状況に応じて更新式を使い分けることによって，より鮮明な移動物体の検出を行うことができることが確認できた．調査結果から，D-CNN のメカニズムの解明につながったと考えられる．
文

献[1] L. O. Chua and L. Yang, “Cellular Neural Networks:Theory,” IEEE Trans. Circuits Syst., vol. 32,
pp. 1257-1272, Oct. 1988.
[2] F. Dirk and T. Ronald, “Coding of Binary Image Data using
Cellular Neural Networks and Iterative Annealing,” Proc. ofECCTD’03, vol. 1, pp. 229-232, Sep. 2003.
[3] M. Namba and Z. Zhang, “Cellular Neural Network for
Associative Memory and Its Application to Braille Image
Recognition,” Proc. of IJCNN’06, pp. 4716-4721, Jul. 2006.
[4] M. Kawahara, T. Inoue and Y. Nishio, “Cellular Neural
Network with Dynamic Template and its Output Characteristics,” Proc. of IJCNN’09, pp. 1552-1558, Jun. 2009[5] M. Kawahara, T. Inoue and Y. Nishio, “Image ProcessingApplication Using CNN with Dynamic Template” Proc. ofCNNA’10, pp. 41-46, Feb. 2010.
[6] 川原雅一, 上手洋子, 西尾芳文, “動的なテンプレートを持つセルラニューラルネットワークの動画像処理時のテンプレート調査” 電子情報通信学会 非線形問題研究会 & 回路とシステム研究
会 技術報告, no. NLP2010-80 & CAS2010-64, pp. 171-174,
Aug. 2010.

—6—