社団法人 電子情報通信学会
THE INSTITUTE OF ELECTRONICS,INFORMATION AND COMMUNICATION ENGINEERS

信学技報
TECHNICAL REPORT OF IEICE.

分割ホップフィールドニューラルネットワークによる画像処理の研究
志摩知哉†

生田智敬†

上手洋子†

西尾芳文†

† 徳島大学工学部 〒 770–8506 徳島県徳島市南常三島町 2-1
E-mail: †{s-tomoya, ikuta, uwate, nishio}@ee.tokushima-u.ac.jp
あらまし 人間の記憶能力は，人間のもつ高次情報処理能力のひとつである．本研究では，人工ニューラルネットワー
クを用いて人間の脳の記憶能力を実現するために，「分割ホップフィールドニューラルネットワーク（PHNN)」を提案する．コンピュータシミュレーションにより，PHNN が局所的な記憶画像から，画像全体を想起することを示す．
キーワード

ホップフィールドニューラルネットワーク，画像処理，連想記憶

Investigation of Image Processing by Partitioned
Hopfield Neural Network
Tomoya SHIMA† , Chihiro IKUTA† , Yoko UWATE† , and Yoshifumi NISHIO†† Department of Electrical and Electronic Engineering, Tokushima University
2-1 Minami-Josanjima, Tokushimashi, Tokushima, 770-8506, Japan
E-mail: †{s-tomoya, ikuta, uwate, nishio}@ee.tokushima-u.ac.jp
Abstract Memory ability of human is one of interesting high-functional information processing. In this study, inorder to realize the memory ability of the human brain by using a artificial neural network, a “Partitioned Hopfield
Neural Network (PHNN)” is proposed. By computer simulations, we confirm that the proposed PHNN recalls thewhole image from a part of the stored images.
Key words Hopfield Neural Network, Image Processing, Associative Memory

1. ま え が きた．今回，HNN を画像処理に適用するにあたり，画像の 1 ピクセルの値を 1 個のニューロンの出力とした．これにより，HNN

人間の脳は，視覚から情報を得たとき，形，大きさ，配置等は複数の記憶している画像から，入力画像全体と類似しているのたくさんの情報を記憶する [1]．この記憶能力は人間のもつ画像を想起する．しかし，この連想記憶の機能は，例にあげた高次情報処理能力のひとつである [2]．例えば，画像 A を記憶

人間の脳の記憶能力とは異なる．

した後に，画像 B を見たとする．画像 B には画像 A と同じパターンが含まれており，この画像 B に含まれているパターンを見ることによって，人間は記憶していた画像 A 全体を思い出すことができる（図 1 に画像 A，B を示す）．すなわち，人間は入力された多くの情報の中から，必要な情報だけを選択す(a)ることが可能である．もし，この記憶能力が工学的分野で応用されれば，少ない情報からたくさんの情報を得られるようにな

図1(b)画像の例．(a) 画像 A ．(b) 画像 B．

ると考えられる [3]- [6]．この記憶能力を実現するために，我々はホップフィールドニューラルネットワーク（Hopfield Neural

Network: HNN）を用いた新しい画像処理の提案を行う．

そこで我々は，例にあげた人間の脳の記憶能力を実現するために「分割ホップフィールドニューラルネットワーク (Partitioned

HNN は，1982 年に John Hopfield によって提唱された人工HNN: PHNN)」を提案する．この手法では，画像をセルと呼ばニューラルネットワークのひとつで，生物学のニューロンモデれる小さな範囲ごとに分割する．各セル内に，スモール HNNルを基にしたモデルである [7]．HNN は連想記憶や組み合わせ（ニューロンユニット数の少ない，小さな HNN のこと）を配置最適化など多くの応用例が提案されている [8]．我々は，このすることで，入力画像に類似している局所的なパターンのみをHNN による連想記憶の機能に注目し，画像処理の応用を考え想起することができる．本研究では，コンピュータシミュレー—1—

ションによって，PHNN が画像の局所的な特徴から画像全体を想起できることを示す．

2. HNN による連想記憶
本章では，HNN を用いた連想記憶の方法について説明する．
なお我々が従来の HNN を画像処理に用いる場合，画像の 1 ピ
クセルは 1 個のニューロンに相当する．

HNN は自己結合をもたない相互結合型ニューラルネットワー
クであり，ニューロンユニット間の結合荷重を決めることで，複数のパターンを記憶することが可能である．結合荷重は，{wij =1P∑P(p) (p)p=1 xi xj

0(i =| j)(i = j),(1)とのピクセル値，そして w は結合荷重を表している．各ニューているパターンのみを想起．
（ 5 ） 想起された画像と記憶されている画像を比較し，想起されたパターンが完全に一致しているセルの数を算出．

ロンの状態方程式は，式 (2) のように表される．

ui (t) =（ 4 ） 各スモール HNN は HNN の更新ルールを繰り返すことにより，セル上にある入力画像の局所的なパターンと類似しの式で表される．ここで，P はパターン数，x は各パターンごn∑

図 2 PHNN の構成．

（ 6 ） PHNN は複数の記憶画像の中から，同じパターンのwij (t)xj (t),(2)セルをより多く含んでいる記憶画像全体を想起．
図 3 に PHNN による想起の例を示す．

j=1

ここで，u はニューロンの内部状態，x は入力もしくは出力を表している．次に，ニューロンの出力は式 (3) によって表される．

xi (t + 1) ={ 1,−1,(ui (t) >= 0)(ui (t) < 0),(3)

この式より，u が 0 より小さい場合，ニューロンの式は −1 となる．それ以外では，ニューロンの出力は 1 となる．
以下に HNN の想起までの手順を示す；（ 1 ） 式 (1) を用いて，HNN が複数のパターンを記憶．
（ 2 ） HNN に未知の画像を入力．
（ 3 ） u が結合荷重と他のニューロンからの入力により決定．
（ 4 ） ニューロンの出力を式 (3) により決定．
（ 5 ） HNN はこの更新を繰り返すことにより，記憶されているパターンのうちのひとつを想起．

3. PHNN による連想記憶
HNN のときと同様に，画像の 1 ピクセルは 1 個のニューロンに相当する．ただし，PHNN の場合は，シミュレーションに応じて画像を小さな正方形の領域ごとに分割する．我々はこの領域を「セル」と呼ぶ．各セルはピクセルで構成されており，それぞれのセルにはスモール HNN が含まれている．このスモール HNN の更新ルールは，上記の HNN で使われていた式と同様のものである．図 2 に PHNN の構成例を示す．図 2 において，各セルは 2 × 2 のピクセルを持っており，これは各セルが 2 × 2 のスモール HNN を持っているということを意味している．本研究で行うシミュレーションの場合は，このスモール

HNN は 4 × 4 ，もしくは 8 × 8 のニューロンユニットを持つ．
（ 1 ） PHNN を画像のセルごとに配置．
（ 2 ） 各スモール HNN は式 (1) を用いて，セル上のパターンを記憶．

図 3 PHNN の想起の例．

（ 3 ） 未知の画像をそれぞれのセルに分割して入力．

—2—

像である．HNN は図 4(a) より HD が近い図 4(b) を想起した

4. シミュレーション結果

ので，HNN の結果は HD に依存しているといえる．それに対本章では，「PHNN による画像の想起」と，「PHNN による看して，図 5(b) は局所的に想起して図 4(a) の看板の絵を鮮明に板の検出」の 2 つのシミュレーションを行い，PHNN と従来の想起することにより，図 5(c) のような想起結果が得られた．しHNN の振る舞いを確認し，比較検討する．我々は比較の指標たがって，PHNN の結果は HD に依存することなく，図 4(c)として，ハミング距離（Hamming Distance: HD） に着目しの看板の部分によって図 4(a) を想起できたといえる．

た．HD とは，2 枚の画像間で，対応する位置にある異なったピクセル値の個数を表したものであり，今回はこの HD を記憶画像と入力画像から得る．HD が近ければ近いほど，画像間で等しい値のピクセル数が多い，つまり記憶画像と入力画像が類似しているといえる．一般的に，画像全体を想起する HNN では，複数の記憶画像のうち，より HD の近い記憶画像を想起することが知られている．なおシミュレーション中は，HNN はセルのことは考慮せず，すべてのニューロンが互いにつながっていることとする．また画像は 64 × 64 ピクセルの大きさのも(a)(b)のを用いる．

4. 1 PHNN による画像の想起
初めに，PHNN による局所的な画像からの画像全体の想起を行う．PHNN の振る舞いを表すために，3 枚の 2 値画像（図4 の (a)，(b)，(c)）を用意した．図 4 の (a) と (b) は記憶画像，図 4 の (c) は入力画像で，それぞれ画像の中には看板のパターンが含まれており，図 4(c) の看板は，図 4(a) の看板と完全に一致している．図 4(a) の HD は 2161，図 4(b) は 1297 で(c)あるため，従来の HNN が図 4(b) を想起すると考えられるが，

図 5 「PHNN による画像の想起」のシミュレーションにおける想起

PHNN は局所的な画像を想起するため，同じ看板のパターンを含む図 4(a) を想起すると考えられる．なお，このシミュレー

画像．(a) HNN による想起画像．(b) PHNN による局所的な想起画像．(c) PHNN による全体の想起画像．

ションでは，各セルに 4 × 4 のニューロンユニットを用いる．
我々は記憶画像 (図 6(c) と (d)) を増やし，同様のシミュレーションを行った．図 7 の結果から，たとえ記憶画像が増えた場合でも，図 5 のときと同様の結果を得ることが可能だといえる．これらの結果から，HNN が HD に依存すること，およびPHNN が局所的な画像から画像全体を想起可能であることを示せた．

4. 2 PHNN による看板の検出
ここでは PHNN が他の記憶画像からの影響を受けずに，局(a) HD = 2161(b) HD = 1297

所的な記憶画像を想起できるかどうかを，2 種類の入力画像を用いたシミュレーションにより示す．1 回目のシミュレーションでは，図 8(e) を入力画像とし，2 回目のシミュレーションでは，図 8(f) を入力画像とする．記憶画像には図 8 の (a)〜(d)の 4 枚の画像を用いる．図 8(a) は同じパターンの看板が，画像スペースに規則正しく配列されている画像であり，図 8(e),(f)にもこの看板と同じパターンが含まれている．また図 8(b) は最も図 8(f) に近い HD を持っている画像であり，図 8(c) は最(c)も図 8(g) に近い HD を持っている画像である．なお，このシ

図 4 「PHNN による画像の想起」のシミュレーションにおける記憶ミュレーションでは，各セル 8 × 8 のニューロンユニットを用画像と入力画像．(a) 記憶画像 (COOL!)．(b) 記憶画像 (GO!)．

(c) 入力画像．

いる．
図 9(a) と図 9(b) は，それぞれ入力画像が図 8(e)，(f) のときに，HNN によって想起された画像である．HNN は，それぞ

図 5(a) は HNN により想起された画像，図 5(b) は PHNN

れ最も HD が近い図 8(b)，(c) を想起したので，HNN は HDにより想起された画像，図 5(c) は PHNN による全体の想起画に依存しているといえる．図 9(c) と図 9(d) は，それぞれ入力—3—

(a) HD = 2161(b) HD = 1297(c) HD = 1989(d) HD = 1836

(a)

(b)

(c)
図 7 記憶画像を画像を増やした場合の，「PHNN による画像の想起」のシミュレーションにおける想起画像．(a) HNN による想起画像．(b) PHNN による局所的な想起画像．(c) PHNN による全体の想起画像．

(e)
図 6 記憶画像を画像を増やした場合の，「PHNN による画像の想起」のシミュレーションにおける記憶画像と入力画像．(a) 記憶画像

(COOL!)．(b) 記憶画像 (GO!)．(c) 記憶画像（NOISE）．(d)
記憶画像 (PATTERN)．(e) 入力画像．

画像が図 8(e)，(f) のときに，PHNN によって想起された画像である．PHNN の想起画像である図 9(b)，(d) は，両方とも図8(a) の看板の絵を完全に想起している．したがって，PHNNは他の記憶画像の影響を受けずに，局所的な記憶画像を想起できることを示せた．

5. ま と め

cessing Leters, vol. 95, pp. 537-544, 2005.
[3] Y.T. Zhou, R. Chellappa, A. Vaid and B.K. Jenkins, “ImageRestoration Using a Neural Network,” IEEE Trans. Acoust.
Speech. Signal Processing., vol. ASSP-36, pp. 1141-1151,
1988.
[4] Y. Chigusa, K. Suzuki, A. Hattori, M. Ikegami, M. Tanaka,“An Image Reconstruction System By Neural Network withMedian Filter,” IEEE ISCAS’93, pp. 2446-2449, 1993.
[5] G. Palm,“On Associative Memory,” Biol. Cybern., vol. 36,pp. 19-31, 1980.
[6] N. Ikeda, P. Watta, M. Artiklar and M. H. Hason, “A TwoLevel Hamming Network fo High Performance AssociativeMemory,” Neural Networks, vol. 14, pp. 1189-1200, 2001.
[7] J.J. Hopﬁeld, “Neural Networks and Physical Systems withEmergent Collective Computational Abilities,” Proc. Natl.
Acad. Sci. USA, vol. 79, pp. 2554-2558, 1982.
[8] S.S. Young, P.D. Scott and N.M. Nasrabadi, “Object Recognition Using Multilayer Hopﬁeld Neural Network,” IEEETrans. Image Process., vol. 6, no. 3, pp.357-372, 1997.

本研究において，我々は PHNN を提案し，画像処理に応用した．この PHNN はセルごとに配置され，セル上の局所的な入力画像と類似しているパターンのみを想起する．我々はふたつのシミュレーションによって，PHNN の振る舞いを表した．
最初のシミュレーションでは，PHNN が局所的な画像から画像全体を想起することを示し，もう一方のシミュレーションでは，PHNN が他からの影響を受けることなく，局所的な記憶画像想起することを示した．これらの結果により，我々は HNN とは異なる PHNN の振る舞いを表すことができた．
文

献[1] M.J. Tarr and H.H. Bülthoﬀ, “Image-Based Object Recognition in Man, Monkey and Machine,” Cognition, vol. 67,
pp. 1-20, July 1998.
[2] A. Knoblauch, “Natural Associative Memory for BrainModeling and Informatation Retrieval,” Information Pro-—4—

(a) HD = 2294(b) HD = 839(c) HD = 1756(d) HD = 1606

(e)

(f)

図 8 「PHNN による看板の検出」のシミュレーションにおける記憶画像と入力画像．(a) 記憶画像 A ．(b) 記憶画像 B ．(c) 記憶画像 C ．(d) 記憶画像 D．(e) 入力画像 1．(f) 入力画像 2．

(a)

(b)

(c)

(d)

図 9 「PHNN による看板の検出」のシミュレーションにおける想起画像．(a) 入力画像 1 のときの HNN による想起画像．(b) 入力画像 2 のときの HNN による想起画像．(c) 入力画像 1 のときの PHNN による局所的な想起画像．(d) 入力画像 1 のときのPHNN による局所的な想起画像．

—5—