ディープ GMDH-type ニューラルネットワークを用いた臓器の医用画像認識
Medical Image Recognition of Organs Using Deep GMDH-type Neural Network
近藤 正（京都情報大学院大学）
Tadashi Kondo（The Kyoto College of Graduate Studies for Informatics）
Abstract

本研究では，多層構造型 GMDH（Group Method of Data Handling）-type ニューラルネットワークとコンボリューショナルニューラルネットワーク（CNN）を組み合わせて構成したハイブリッド型ディー
プニューラルネットワークを，AIC（赤池の情報量規準）や PSS（予測誤差平方和）などの予測誤差評
価基準を最小にするように構成する。CNN の内部では多くの画像特徴量を畳み込み積分やプーリング処理によって自動的に発生させ，これらの発生した画像特徴量を，従来の画像認識で用いられていた画像
特徴量と合わせてディープ GMDH-type ニューラルネットワークの入力変数として用いる。ディープ
GMDH-type ニューラルネットワークのアルゴリズムでは，中間層の層数，最適なニューロンの構造，
有益な入力変数などが自己選択され，これらの自己選択されたハイパーパラメータを用いて，多くの中間層を備えたディープニューラルネットワーク構造を自動的に構成する。このディープニューラルネッ
トワークのアルゴリズムを頭部の医用画像認識に応用し，脳の実質，白質，脳室などの臓器をディープ
多層構造型 GMDH-type ニューラルネットワークを用いて画像認識してこれらの領域を抽出する。
In this study, the deep multi-layered Group Method of Data Handling (GMDH)-type neuralnetwork is combined to the Convolutional Neural Network (CNN), and the hybrid deep neuralnetwork is organized so as to minimize prediction error criterion defined as Akaikeʼs Information
Criterion (AIC) or Prediction Sum of Squares (PSS). In the convolutional neural network, many
image features are automatically generated using the convolutional calculations and the pooling
calculations, and these generated image features are used as the input variables of the deep GMDHtype neural network appending the conventional image features which were used in the conventional
image recognitions. The deep GMDH-type neural network algorithms have abilities of self-selecting
the number of hidden layers, the optimum neuron architectures and useful input variables, and they
can automatically organize the deep neural network architectures which have many hidden layers.
This deep neural network algorithm is applied to medical image recognitions of brain regions, andthe organs such as brain, the white matter and the lateral ventricle, are recognized and these regions
are extracted using the deep multi-layered GMDH-type neural networks.

■ 1．はじめに4

type ニューラルネットワークスは，脳，肝臓，骨，血管，脾臓などのいろいろな臓器の医用画像認識問

本研究では，ディープ多層構造型 GMDH-type

題に応用されている [1]-[3]。また，肺がんの医用画

ニューラルネットワークとコンボリューショナル

像診断にも応用されている [4]。 ディープ多層構造

ニューラルネットワーク（CNN）を用いたハイブ型 GMDH-type ニューラルネットワークは，進化

リッド型ニューラルネットワーク [1] を用いて，頭論的計算法の一種である改良形発見的自己組織化法

部臓器の医用画像認識を行う。ディープ GMDH-を用いて，多層構造をしたディープニューラルネッ

type ニューラルネットワークのアルゴリズムは，トワークを自動的に構成することができる。中間層

著者らのグループにより，各種のアルゴリズムが提の個数，最適なニューロン構造，有益な入力変数の案されている [1]-[5]。 これらのディープ GMDH-

選択などのネットワークの構造パラメータ（ハイNAIS Journalパーパラメータ）を，予測誤差評価基準（情報量規ニューラルネットワークの構造選択に用いる。

準 AIC [8] や予測誤差平方和（PSS）[9]）を最小に2）入力変数の組み合わせの発生するように，自動的に決定している。さらに，ニューロンの活性化関数として，シグモイド関数型活性化

すべての入力変数の組み合わせを発生させる。
3）最適なニューロン構造の発生関数，放射基底関数（Radial Basis Function（RBF））

各々の組み合わせに対して，トレーニングデータ

型活性化関数，多項式型活性化関数などの中から，を用いて回帰分析を行い，最適なニューロン構造を対象となる非線形システムの特徴に最も適した活性発生させる。発生したニューロンの出力を中間変数化関数を予測誤差評価基準（PSS または AIC）をと呼ぶ。

最小にするように自己選択する機能を備えている。

4）中間変数の自己選択

本研究では，医用画像からコンボリューショナル

テストデータに対する誤差（テストエラー）を小

ニューラルネットワークを用いて画像特徴量を発生さくする L 個の中間変数を自己選択する。

させ，これらの画像特徴量に，従来から用いられて

5）総合特性変数の発生いる画像特徴量や位置情報などを加えて，ディープ

自己選択した L 個の中間変数を用いて，トレー

多層構造型 GMDH-type ニューラルネットワーク

ニングデータにより回帰分析を行うことにより，総の入力変数とする。ディープ GMDH-type ニュー合特性変数を発生させる。

ラルネットワークでは，すべての入力変数に対して，

6）多層構造の構成

これらの入力変数の高次の項を含めた非線形な組み

自己選択した L 個の中間変数と総合特性変数を合わせを発生させて統計解析することにより，有益次層の入力変数にセットして，入力変数のすべてのな変数の組み合わせのみを自己選択して，複雑な構組み合わせを発生させて繰り返し計算を行い，多層造をした非線形システムの特徴に最も適するように構造を構成していく。

ディープニューラルネットワーク構造を自動的に自7）多層構造の繰り返し計算の停止

己組織化する。本研究では，ハイブリッド型ディー

この繰り返し計算は，テストエラーが減少しなく

プニューラルネットワークを頭部臓器の医用画像認なった層で停止する。そして，ディープニューラル

識に応用する。医用画像としては頭部 MRI 画像を

ネットワーク構造は，各層で自己選択したニューロ

用いて，脳の実質，白質，脳室などの領域を画像認

ンを用いて構成する。

識させて領域抽出する。そして，自己組織化された以上の手続きにより構成される発見的自己組織化

ディープニューラルネットワークの構造を比較検討

法は基本的な概念が進化論的計算法と同じである。

する。

■ 2．改良形発見的自己組織化法 [1, 4]
ディープ GMDH-type ニューラルネットワーク■

3．デ ィープ多層構造型 GMDH-type ニューラル
ネットワークスと CNN を用いたハイブリッド型ディープニューラルネットワーク [1]スのアルゴリズムは，GMDH 法で用いられている

ディープ多層構造型 GMDH-type ニューラルネッ

発見的自己組織化法 [6, 7] に基づいて，ニューラル

トワークとコンボリューショナルニューラルネット

ネットワークスの構造を自己組織化している。以下

ワークを用いたハイブリッド型ディープニューラルに改良形発見的自己組織化法 [1, 4] について述べる。
改良形発見的自己組織化の原理では，次に示す 7
つのステップによりディープニューラルネットワー
ク構造を構成する。
1）原データのトレーニングデータとテストデータ
への分割
トレーニングデータはニューロンの活性化関数のパラメータの推定に用い，テストデータはディープ

ImagefeaturesPixelvaluesMedical
Image

CNN
and
Filteringφ.
.
(Conventional
input variables)

.
.

x1
xp

.
.

.
.

.
.

.
.

Optimum activation function is automatically selected from
Sigmoid function, Radial basis function and Polynomial
Fig.1 Hybrid deep neural network architecture of deep multi-layered
GMDH-type neural network and convolutional neural network (CNN)

NAIS Journal5Σ: (Nonlinear function)

ネットワークの構造を，Fig.1 に示す。
このニューラルネットワークでは，CNN とフイ
ルターリングによって画像特徴量を発生させる。さらに，従来から医用画像に用いられている画像特徴

zk=w1ui+w2uj+w3uiuj+w4ui2+w5uj2-w0θ1 

（2）

or

量や位置情報などと合わせてディープ多層構造型

zk=w
 1ui+w2uj+w3uk+w4uiuj+w5uiuk+w6ujuk+w7ui2+w8uj2+w9uj2-w0θ1 （3）

GMDH-type ニューラルネットワークの入力変数に

f : (Nonlinear function)する。ディープ多層構造型 GMDH-type ニューラ

yk= 1 / (1+exp ( - zk))

ルネットワークでは，これらの入力変数のすべてのii）2 型ニューロン構造
Σ: (Linear function)

非線形な組み合わせを発生させて，有益な変数の組
み合わせのみを自己選択する。自己選択した変数のzk= w1u1+w2u2+w3u3+····+wrur - w0θ1 ( r<p )組み合わせを用いてディープニューラルネットワー

f : (Nonlinear function)

ク構造を自己組織化する。

yk= 1 / (1+exp ( - zk))

3.1

（4）

（5）
（6）

2）放射基底関数（RBF）型ニューラルネットワークス

CNN とフイルターリング

本研究では，学習に用いる大量の画像データを準備できなかったために，CNN での学習は行わずに，
CNN のフイルターの値としてはあらかじめ既存のものを準備する。そして，フイルターとしてはガウ
シアンフイルターとラプラシアンフイルターを用い

i) 1 型ニューロン構造
Σ: (Nonlinear function)zk=w1ui+w2uj+w3uiuj+w4ui2+w5uj2 - w0θ1

（7）

or

てコンボリューション層で計算を行い画像特徴量を

zk=w1ui+w2uj+w3uk+w4uiuj+w5uiuk+w6ujuk+w7ui2+w8uj2+w9uj2-w0θ1
（8）発生させる。次に，プーリング層では，最大値，最f : (Nonlinear function)

小値，範囲などのフイルターリングを行い，画像特yk= exp ( - zk2)ii）2 型ニューロン構造
Σ: (Linear function)

徴量の抽出を行う。
3.2

デ ィープ多層構造型 GMDH-type ニューラル

zk= w1u1+w2u2+w3u3+····+wrur - w0θ1 ( r<p )ネットワークf : (Nonlinear function)

本アルゴリズムの概要を以下に示す。本研究では，

yk= exp ( - zk2)

原データをすべてトレーニングデータとして用い

3）多項式型ニューラルネットワークス

る。そして，予測誤差評価基準（AIC または PSS）i) 1 型ニューロン構造
Σ: (Nonlinear function)

をテストデータの代わりに用いる。

zk=w1ui+w2uj+w3uiuj+w4ui2+w5uj2 - w0θ1

（10）
（11）

（12）

or

［1］第 1 層
uj=xj

（9）

(j=1,2,…,p)（1）

ここで，xj はシステムの入力変数を示す。

zk=w1ui+w2uj+w3uk+w4uiuj+w5uiuk+w6ujuk+w7ui2+w8uj2+w9uj2-w0θ1
（13）
f : (Linear function)［2］第 2 層
入力変数どうしを組み合わせて，すべての組み合
わせを発生させる。ニューロンは 1 型と 2 型の 2ii）2 型ニューロン構造
Σ: (Linear function)

種類を用い，さらに 1 型と 2 型に 3 種類のニュー

zk= w1u1+w2u2+w3u3+····+wrur - w0θ1 ( r<p )ロン構造を発生させて，対象となる非線形システム

f : (Linear function)の特徴に最も適したニューロン構造を，予測誤差がyk= zk		（zk > 0 の場合）最小になるように自己選択する。

yk=0（zk < 0 の場合）

1）シグモイド関数型ニューラルネットワークス

ここで，各々のニューロンは Σ と f の 2 個の関数i）1 型ニューロン構造

6

（14）

yk= zk

NAIS Journal

（15）

（16）

から構成され，w はニューロンの重み係数，p は入きる。そして 3 種類のニューロンを各々の入力変力変数の個数を示す。
ディープ GMDH-type ニューラルネットワーク

数の組み合わせに対して構成する。

スは，上記の 6 種類の活性化関数の中から，対象

主成分回帰分析を用いたニューロンの学習計算でとする非線形システムの特徴に最も適した活性化関は，入力変数の組み合わせに対して主成分の抽出を

数を，AIC または PSS を用いて自己選択する能力行う。（2）式のニューロンの場合を例にとる。

がある。ここで，もしニューロンの活性化関数としまず，固有ベクトルを計算する。

て，（5）式と（6）式のみを用いた場合，従来から

v = H・u

よく用いられている多層構造をしたシグモイド関数

（20）

ここで，

型ニューラルネットワークを，ディープ GMDH-

v = (v1,v2,…,v5)

type ニューラルネットワークアルゴリズムを用い

u = (ui uj, uiuj, ui2, uj2)て構成でき，学習アルゴリズムとして誤差逆伝播法

v は固有ベクトル，H は固有行列で次式により固（BP 法）を適用できる。次に，ニューロンの活性有値問題を解くことによって計算する。
（21）化関数として，（10）式と（11）式のみを用いた場

R・H ＝ H・Λ合，多層構造をした放射基底関数（RBF）型ネット

ここで，R は相関行列を表す。次に，変数 zk を

ワークをディープ GMDH-type ニューラルネット
ワークアルゴリズムを用いて構成できる。次に，（15）式と（16）式のみを用いた場合，ディープラー

直交回帰分析により計算する。
zk = wT・v（22）= w1v1+w2v2+…+w5v5

ニングで用いられているディープニューラルネット

この場合，出力変数として zk を用いる。そして，

ワ ー ク と 同 様 な ネ ッ ト ワ ー ク 構 造 を， デ ィ ー プ

AIC または PSS を変数選択の評価基準として変数

GMDH-type ニューラルネットワークアルゴリズム

選択型重回帰分析法 [10] を用いて有益な主成分のを用いて構成できる。さらに，ニューロンの活性化

みを選択する。

**

関数として，（12）式，（13）式と（14）式のみを

次に，各々の組み合わせに対して，シグモイド関

用 い た 場 合， 非 線 形 シ ス テ ム 同 定 手 法 で あ る

数 型 ニ ュ ー ロ ン，RBF 型 ニ ュ ー ロ ン， 多 項 式 型

GMDH 法と同じ高次非線形多項式ネットワークをニューロンの 3 種類のニューロンを発生して，発構成できる。

生した 3 種類の各々のニューロンに対して，AIC

次に，ニューロンの重み w の値は，主成分回帰値または PSS 値の小さいものを L 個選択する。

分析 [10] を用いて次のように推定する。
5）総合特性変数（ϕ*）の発生
総 合 特 性 変 数（ϕ*） は， シ グ モ イ ド 関 数 型，

4）重み w の推定
まず，各々のニューロンに対して zk** の値を計算

RBF 型，多項式型ニューラルネットワークの 3 種する。

類のニューラルネットワークに対して，次の線形結i）シグモイド関数型ニューロン
zk**=loge(ϕ’/(1- ϕ’))

合式を用いて計算する。

ii）RBF 型ニューロン
zk**=(-loge ϕ’)1/2
iii）多項式型ニューロン
zk**= ϕ（17）L

ϕ*= a0 + ∑ ak yk 
（18）

k=1

（23）

ここで，L は中間変数の個数，yk は中間変数を示（19）

す。yk は AIC または PSS を用いた変数選択型重回

ここで，ϕ はシステムの出力変数，ϕ’ は 0 から 1

帰分析法により，AIC または PSS 値の小さいものの間の値に規準化された出力変数を示す。重み w は，を 自 己 選 択 す る。 次 に，（23） 式 の AIC ま た は

次に示す主成分回帰分析 [10] を用いて推定する。

PSS 値が小さなニューロン構造を 3 種類の構造の各々のニューロンに対して，トレーニングデータ

中から，ディープ GMDH-type ニューラルネットを用いて，主成分回帰分析により重み w を推定する。

ワークの構造として自己選択する。次層の計算では，主成分回帰分析を用いることにより，層を通過する

自己選択したニューロン構造のみを用いてニューラと発生していた中間変数間の多重共線性を防止する

ルネットワークスの計算を行う。具体的には，総合特性変数（ϕ*）と自己選択した L 個のニューロン

ことができ，高精度な学習計算を実行することがで

NAIS Journal

7の出力値を次層の入力変数にセットして，次層の計散，標準偏差，及び位置情報（x と y 座標）の合計算に移る。

10 個の入力変数を用いた。これらの特徴量の中か
ら，平均値，標準偏差，分散，x 座標，y 座標，範［3］3 層以上の層囲（レンジ）の 6 個の変数がニューラルネットワー

3 層以上の層では，第 2 層と同じ計算を繰り返す。

クスにより有益な入力変数として自己選択された。

ただし，ニューロンの構造は自己選択した構造のみ

近傍領域の大きさ N は，2 から 10 の値に対してを使用する。そして，（23）式の AIC または PSS

ニューラルネットワークスを自己組織化した。そのの値が減少しなくなる層で中間層の計算を停止す

結果，N が 3 の場合に，最も良い画像認識精度を得る。中間層の計算を停止した場合，最終の中間層をた。ニューラルネットワークスの出力変数は，0 か

出力層とする。そして，ディープニューラルネット

1 の値をとり，対象臓器の領域内部では 1 の値を出ワーク構造は，各層で自己選択したニューロンを用力するように学習させた。ディープ GMDH-type

いて構成する。

ニューラルネットワークスは，ニューラルネット

以上の手続きにより，多層構造をしたディープ

ワーク構造としてシグモイド関数型ネットワーク構

GMDH-type ニューラルネットワークスを構成でき造を選択した。Fig.3 に，第 2 層で計算された 3 種る。

類のニューロンの誤差を示す。ディープ GMDH-

本研究で使用したディープ多層構造型 GMDH-

type ニューラルネットワークスの計算は第 9 層でtype ニューラルネットワークでは，入力層に近い終了した。そして，各々の中間層では 5 個のニュー層で，対象となる非線形システムの部分的な特徴を

ロンが自己選択された。Fig.4 に，各層における同定しており，層を積み重ねることにより，徐々に

PSS 値 の 変 化 を 示 す。 層 を 通 過 す る こ と に よ り

非線形システムの全体的な特徴を同定するように

PSS 値は徐々に減少して予測誤差が小さな値に収なっており，層を積み重ねてネットワークが十分な束した。

複雑性を備えて，非線形システムの全体の特徴を
ネットワーク上に記憶したときに，ネットワークの層の積み重ね計算を停止している。そして，予測誤差評価基準の AIC 値または PSS 値が最も小さくなるディープニューラルネットワーク構造を自動的に自己組織化している。

■ 4．頭部臓器の医用画像認識への応用

Fig.2 Original image

本研究では，ディープ多層構造型 GMDH-type
ニューラルネットワークスを用いて，頭部臓器の医用画像認識とその領域抽出を行った。本研究では，医用画像として MRI 画像を用いた。なお，本研究では予測誤差の評価基準として PSS を用いた。
4.1

脳実質領域の医用画像認識と領域抽出

Fig.2 に，ニューラルネットワークスを自己組織

29.0

°

28.0

°

PSS 27.0

化するために用いた原画像を示す。ニューラルネッ
トワークスの入力変数としては N × N 近傍領域の画像特徴量を用いた。これは，CNN において，ガウシアンフイルター，ラプラシアンフイルター，最大値フイルター，最小値フイルター，レンジフイル
ターにより発生した 5 個の画像特徴量と，従来から用いられている統計学的特徴量である平均値，分8

NAIS Journal

26.0
25.0

°
Sigmoid

RBF Polynomial

Fig.3 PSS values of three types of neuron (1)た，中間層のニューロン数（m）を変化させた場合に，異なった出力画像が得られた。従来型のニューラル
ネットワークスでは，ネットワーク構造の自己選択機能を持たないため，中間層のニューロンの個数や中間層の個数などの構造パラメータを変化させて，より望ましいネットワーク構造を見つけ出す必要がある。このため，構造パラメータを変化させて，非常に多くの繰り返し計算を行う必要がある。さらに，
Fig.4 Variation of PSS in the deep GMDH-type of NN(1)解が局所解に収束した場合には，良い精度が得られないために結合加重の初期値を変化させてさらに多自己組織化されたディープ多層構造型 GMDH-

くの繰り返し計算を行う必要がある。これに対して，

type ニューラルネットワークスによって脳実質領

ディープ多層構造型 GMDH-type ニューラルネッ

域を出力する。Fig.5 に，ニューラルネットワーク

トワークでは，このような構造パラメータを変化さの出力画像を示す。脳実質領域が抽出されている。

せた繰り返し計算を必要としないため，1 回の計算

脳実質の外部の領域（孤立点）はほとんど含まれてで複雑な構造をしたニューラルネットワークを自己いないことがわかる。次に，出力画像に対して画像

組織化できる。

の後処理が行われた。ニューラルネットワークの出力画像に対する後処理では，画像の膨張処理と収縮処理を行い，脳実質領域の内部に孤立した部分がある場合や，脳実質領域の外部にある孤立点が除去された。そして，脳実質領域の輪郭を N/2 画素分だ
け外側に拡張した。Fig.6 に，ニューラルネットワー
クスの出力画像に後処理を行った画像を示す。原画像との一致性を確認するために，原画像との重ね合わせを行った。Fig.7 に原画像と後処理後の出力画像を重ね合わせた画像を示す。この画像から，ニューFig.5 Output image of the neural network (1)ラルネットワークスによって画像認識された脳実質領域は，原画像の脳実質領域によく一致していることがわかる。そして，脳実質領域を，原画像（Fig.2）
から後処理後の画像（Fig.6）を差分することにより抽出した。Fig.8 に差分画像（グレー画像）を示す。
誤差逆伝播法（BP 法）を用いて学習する従来型
ニューラルネットワークを用いて脳実質領域の画像認識を行い，画像認識結果の比較を行った。ニュー
ラルネットワークは，入力層，中間層，出力層の 3層構造とした。学習データは，ディープ GMDH-

Fig.6 Output image after the post-processing (1)type ニューラルネットワークと同じものを用いた。
学習では，各々の学習データを 100,000 回学習させた。結合加重の初期値は乱数により設定した。本
研究では，中間層のニューロン数（m）を変化させて画像認識を行った。Fig.9 に，m=5，m=7 と m=9の場合の出力画像を示す。出力画像は Fig.5 に対応している。これらのニューラルネットワークの出力
画像には，孤立点や脳領域でない領域を多く含んでおり，画像認識精度が十分でないことがわかる。まFig.7 Overlapped image (1)NAIS Journal

9

4.2

白質領域の医用画像認識と領域抽出

白質領域の抽出を目的にした新しいニューラル
ネットワークスを自己組織化した。ニューラルネッ
トワークスの入力変数としては 4.1 のニューラル
ネットワークと同じ 10 個の入力変数を用いた。そして，平均値，X 座標，Y 座標，範囲，ガウシアン
フイルターの出力値，ラプラシアンフイルターの出
力値の 6 個の入力変数が自己選択された。近傍領
Fig.8 Extracted gray scale image (1)域の大きさ N は，2 から 10 の値に対してニューラ
ルネットワークスを自己組織化した。その結果，Nが 3 の場合に，最も良い画像認識精度を得た。ニュー
ラルネットワークスの出力変数は，0 か 1 の値をとり，白質の内部では 1 の値を出力するように学習させた。ディープ多層構造型 GMDH-type ニュー
ラルネットワークスは，ニューラルネットワーク構造としてシグモイド関数型ネットワーク構造を選択した。Fig.10 に，第 2 層で計算された 3 種類のニューロンの誤差を示す。ディープ多層構造型 GMDHtype ニューラルネットワークスの計算は第 15 層で(a) m=5終了した。Fig.11 に，各層における PSS 値の変化を示す。層を通過することにより PSS 値は徐々に減少して予測誤差が非常に小さな値に収束した。

12.0

°

11.0

PSS
(b) m=7

°

10.0
9.0

°

8.0

Sigmoid

RBF Polynomial

Fig.10 PSS values of three types of neuron (2)(c) m=9
Fig.9 Output images of the conventional sigmoid
function neural network (1)10NAIS Journal

Number of hidden layers
Fig.11 Variation of PSS in the deep GMDH-type NN (2)Fig.12 に最終層で得られた出力画像を示す。次に，像を示す。Fig.16 に BP 法を用いて学習する 3 層

こ の 出 力 画 像 に 対 し て 画 像 の 後 処 理 を 行 っ た。

構造の従来型ニューラルネットワークによって得ら

ニューラルネットワークの出力画像に対する後処理れた画像認識結果を示す。学習方法は 4.1 の脳の実では，画像の収縮処理と膨張処理を行い，白質領域

質領域の場合と同じである。

の外部にある孤立点が除去された。そして，白質領域の輪郭を N/2 画素分だけ外側に拡張した。Fig.13に，ニューラルネットワークスの出力画像に後処理を行った画像を示す。原画像との一致性を確認するために，原画像との重ね合わせを行った。Fig.14に原画像と後処理後の出力画像を重ね合わせた画像を示す。この画像から，ニューラルネットワークス
によって画像認識された白質領域は，原画像の白質領域によく一致していることがわかる。そして，原画像から差分を行うことにより白質領域のグレー画像が抽出された。Fig.15 に，白質領域のグレー画

Fig.12 Output image of the neural network (2)Fig. 13 Output image after the post processing (2)Fig. 14 Overlapped image (2)Fig.15 Extracted gray scale image (2)(a) m=5(b) m=7(c) m=9
Fig.16 Output images of the conventional sigmoid
function neural network (2)NAIS Journal

11

4.3

脳室領域の医用画像認識と領域抽出

脳室領域の抽出を目的にした新しいニューラル

12.0

ネットワークスを自己組織化した。ニューラルネッ
トワークスの入力変数としては 4.1 のニューラル
ネットワークと同じ 10 個の入力変数を用いた。そして，平均値，X 座標，Y 座標，範囲，ガウシアン
フイルターの出力値，最大値の 6 個の入力変数が

°

11.0

PSS
10.0

自己選択された。近傍領域の大きさ N は，2 から10 の値に対してニューラルネットワークスを自己9.0

組織化した。その結果，N が 3 の場合に，最も良い画像認識精度を得た。ニューラルネットワークスの出力変数は，0 か 1 の値をとり，脳室領域では 1の値を出力するように学習させた。ディープ多層構
造型 GMDH-type ニューラルネットワークスは，

°

°

8.0

Sigmoid

RBF Polynomial

Fig.17 PSS values of three types of neuron (3)ニューラルネットワーク構造としてシグモイド関数型ネットワーク構造を選択した。Fig.17 に，第 2層で計算された 3 種類のニューロンの誤差を示す。
ディープ多層構造型 GMDH-type ニューラルネッ
トワークスの計算は第 6 層で終了した。Fig.18 に，各層における PSS 値の変化を示す。層を通過することにより PSS 値は徐々に減少して予測誤差が非常に小さな値に収束した。Fig.19 に最終層で得られた出力画像を示す。次に，この出力画像に対して
画像の後処理を行った。ニューラルネットワークの出力画像に対する後処理では，画像の収縮処理と膨Number of hidden layers
Fig.18 Variation of PSS in the deep GMDH-type NN (3)張処理を行い，脳室領域の外部にある孤立点が除去された。そして，脳室領域の輪郭を N/2 画素分だ
け外側に拡張した。Fig.20 に，ニューラルネット
ワークスの出力画像に後処理を行った画像を示す。
原画像との一致性を確認するために，原画像との重ね合わせを行った。Fig.21 に原画像と後処理後の出力画像を重ね合わせた画像を示す。この画像から，
ニューラルネットワークスによって画像認識された脳室領域は，原画像の脳室領域によく一致している
ことがわかる。そして，原画像から差分を行うこと

Fig.19 Output image of the neural network (3)により脳室領域のグレー画像が抽出された。Fig.22に，脳室領域のグレー画像を示す。Fig.23 に，BP法を用いて学習する 3 層構造の従来型ニューラル
ネットワークによって得られた画像認識結果を示す。学習方法は 4.1 の脳の実質領域の場合と同じである。

Fig. 20 Output image after the post processing (3)12NAIS Journal

Fig. 21 Overlapped image (3)(c) m=9
Fig.23 Output images of the conventional sigmoid
function neural network (3)

4.4

考察

本研究では，脳実質，白質，脳室の各々の領域を画像認識して領域抽出する，3 つのディープニュー
ラ ル ネ ッ ト ワ ー ク ス を 自 己 組 織 化 し た。 ま ず，Table1 に，各々のディープニューラルネットワー
クの層数とニューラルネットワークの種類を示す。
層数では，脳の実質では 9 層，白質では 15 層，脳室では 6 層のディープニューラルネットワークス
が自己組織された。また，3 つのディープニューラ
Fig.22 Extracted gray scale image (3)ルネットワークの種類としては，すべてシグモイド
関数型ニューラルネットワークが自己選択された。
画像認識結果（Fig.4, Fig.11, Fig.18）から，予測
誤差評価基準値（PSS）は，層を積み重ねるごとに徐々に減少していき，最終層では PSS 値が小さな値に収束した。第 1 層の PSS 値と比較すると，最終層では PSS 値が大幅に減少したことがわかる。
次に，Table2 に有益な入力変数の自己選択結果を示す。従来のディープ GMDH-type ニューラル
ネットワークの研究では，平均値，分散，標準偏差，
X 座標値，Y 座標値の 5 つの入力変数がよく用いられていた。本研究では，
3 つのニューラルネットワー(a) m=5クで共通に自己選択された入力変数は，平均値，範囲，X 座標，Y 座標の 4 変数であった。CNN やフイルターリングで発生された画像特徴量も自己選択されており，対象となる臓器の画像認識に最も適した画像特徴量が，各々のディープニューラルネット
ワークスにおいて自己選択されていることがわかる。
今後の研究では，学習に用いる医用画像を大幅に増やして CNN において学習を行い，CNN で発生させた画像特徴量をディープ GMDH-type ニュー
ラルネットワークの入力変数に加えて自己選択させることにより，さらに予測精度の向上を試みる予定(b) m=7である。

NAIS Journal

13

Table 1 Number of layers and type of neural networks
Regions

Number of layers Type of neural network

Brain

9

Sigmoid function NN

White matter

15

Sigmoid function NN

Lateral ventricle

6

Sigmoid function NN■ 5．むすび
本研究では，ディープ多層構造型 GMDH-type
ニューラルネットワークとコンボリューショナル
ニューラルネットワーク（CNN）を用いたハイブ
リッド型ニューラルネットワークを用いて，頭部臓器の医用画像認識を行った。ディープ多層構造型
GMDH-type ニューラルネットワークスは，対象となる複雑な構造をした非線形システムの特徴によく適合するように，ディープニューラルネットワーク
スの種類の自己選択（最適なニューロンの活性化関数の自己選択），中間層の層数の自己選択，有益な入力変数の自己選択などの機能を備えており，予測
誤差評価基準（AIC や PSS）を最小にするように，複雑な構造をしたディープニューラルネットワーク
構造を自動的に自己組織化している。このため，
ニューラルネットワークの構造パラメータ（有益な入力変数の選択，層数の選択，ニューロンの活性化関数の選択，各層のニューロン数の選択，BP 法における乱数の初期値の選択など）を変化させて，最適なディープニューラルネットワーク構造を見つけるために学習計算を繰り返す必要がないため，実際問題への応用が非常に容易である。本研究では，頭部臓器の医用画像認識問題へ応用して，画像認識結network and its application to medical image
recognition of spleen regions, Proceedings of the TwentyThird International Symposium on Artificial Life and Robotics
2018 (AROB 23rd 2018), pp.84-88 (2018)[2] S. Takao, S. Kondo, J. Ueno and T. Kondo: Deep
feedback GMDH-type neural network and its application
to medical image analysis of MRI brain images, Artificial
Life and Robotics, vol.23, No.2, pp.161-172 (2018)[3] S. Takao, S. Kondo, J. Ueno and T. Kondo: Medical
image analysis of abdominal X-ray CT images by deep
multi-layered GMDH-type neural network, Artificial
Life and Robotics, vol.23, No.2, pp.271-278 (2018)[4] T. Kondo, S. Kondo, J. Ueno and S. Takao: Medical image
diagnosis of lung cancer by deep logistic GMDH-type
neural network using revised heuristic self-organization,
Proceedings of the Twenty-Second International Symposium on
Artificial Life and Robotics 2017 (AROB 22nd 2017), (2017)[5] T. Kondo: GMDH neural network algorithm using theheuristic self-organization method and its application
to the pattern identification problem, Proc. of the 37th
SICE Annual Conference, pp.1143-1148 (1998)[6] S. J. Farlow ed.: Self-organizing methods in modeling,
GMDH-type algorithm, New York: Marcel Dekker
Inc. (1984)[7] A. G. Ivakhnenko: Heuristic self-organization in
problems of engineering cybernetics, Automatica, vo.6,
no.2, pp.207-219 (1970)[8] H. Akaike: A new look at the statistical model
identification, IEEE Trans. Automatic Control, vol.AC-19,
no.6, pp.716-723 (1974)[9] H. Tamura, T. Kondo: Heuristics free group method ofdata handling algorithm of generating optimum partial
polynomials with application to air pollution prediction,
Int. J. System Sci., vol.11, no.9, pp.1095-1111 (1980)[10] N. R. Draper, H. Smith: Applied Regression Analysis,
New York: John Wiley and Sons (1981)

果を比較してその有効性を確認した。
参考文献[1] S. Takao, S. Kondo, J. Ueno and T. Kondo: Hybrid
deep neural network of deep multi-layered GMDHtype neural network and convolutional neural◆ 著者紹介近藤

正Tadashi Kondo

京都情報大学院大学教授

Table 2 Selection of useful input variables in the deep multi-layered GMDH-type neural networks


Input variables
Regions

GaussianfilterLaplacianfilterMaximum
filter

   Brain14

   White matter○

   Lateral
ventricle○

NAIS Journal○○

Minimum
filterRange
filterMean

X

Y

Variance

Standard 
deviation

○

○

○

○

○

○

○

○

○

○

○

○

○

○