脳が⾏なっているような画像処理AIを作ってみよう
2019/03/27, 28
電気通信⼤学 ⼤学院情報理⼯学研究科
電気通信⼤学 脳科学ライフサポートセンター
電気通信⼤学 ⼈⼯知能先端研究センター
庄野 逸: shouno@uec.ac.jp

1

⾃⼰紹介+TA紹介
⽒名: 庄野 逸 (しょうの はやる)
 略歴:
⼤阪⼤学→奈良⼥⼦⼤学→⼭⼝⼤学→電気通信⼤学
 興味のあること:
画像処理， 医⽤画像処理，ニューラルネットワーク，脳/視覚モデル，機械学習
TA 遠藤 瑛泰（えんどう あきひろ）
庄野研 M2 TA ⼩林 源太（こばやし げんた）
庄野研 M1

2019/03/27, 28 @ BLSC スプリングスクール

2

1時間⽬
⽣物の視覚システム(1)原始的な視覚システム

2019/03/27, 28 @ BLSC スプリングスクール

視覚の獲得と⽣存性の向上
カンブリア爆発
 ⽣物が視覚を獲得することで「種」が爆発的に増加

⽣物が視覚を獲得

https://www.amazon.co.jp/dp/4794214782/
2019/03/27, 28 @ BLSC スプリングスクール「⽣命進化40億年の⾵景」より

初期の視覚システム(1)三葉⾍は複眼システムを持っていた
 現代ではカブトガニが近い複眼システム持っている この複眼システムは，側抑制による信号制御を⾏う[Ratliff 65]

2019/03/27, 28 @ BLSC スプリングスクール

⾃分の周りの細胞の信号を抑制
空間フィルタと呼ばれる演算

初期の視覚システム(2)三葉⾍は複眼システムを持っていた
 現代ではカブトガニが近い複眼システム持っている この複眼システムは，側抑制による信号制御を⾏う

Mach‐Band

192
64

192
64
2019/03/27, 28 @ BLSC スプリングスクール

⼀番強く反応するパターン

192
64

2019/03/27, 28 @ BLSC スプリングスクール2時間⽬
画像のフィルタリング

2019/03/27, 28 @ BLSC スプリングスクール

初期の視覚システムとフィルタリング
三葉⾍は複眼システムを持っていた
 現代ではカブトガニが近い複眼システム持っている この複眼システムは，側抑制による信号制御を⾏う

空間フィルタ演算
 側抑制は画像のエッジ情報に強く反応する
 単純なフィルタ結果でも結構役に⽴っていた
2019/03/27, 28 @ BLSC スプリングスクール

フィルタリング演算
⼊⼒を画像の場合は２次元の構造を持つ
 フィルタ演算は ある画素の周辺画素に対して係数をかけて⾜し込む

側抑制は周辺が抑制で中⼼が興奮 画像全体で同じ操作を⾏う

x‐1 +2 ‐1y2019/03/27, 28 @ BLSC スプリングスクール

微分型のフィルタの適⽤

微分型は明るさが変化する場所（エッジ）を検出

2019/03/27, 28 @ BLSC スプリングスクール

積分型のフィルタの適⽤

局所積分型は画像をぼかす作⽤

2019/03/27, 28 @ BLSC スプリングスクール

Hermann 錯視

2019/03/27, 28 @ BLSC スプリングスクール

Hermann 錯視はフィルタで説明できるか？
画像に微分形フィルタと積分形フィルタを適⽤

交差点部分に明るさが異なる成分が発現する
2019/03/27, 28 @ BLSC スプリングスクール

⽣物の視覚システム
ヒトやサルの視覚システム

2019/03/27, 28 @ BLSC スプリングスクール

視覚情報の処理過程
TE, TEO[Felleman+91, DiCarlo+12, Kruger+13]

視覚野: 階層構造を持ち，階層ごとに視覚課題を解決
 初期視覚野: 狭い受容野，単純な特徴抽出
単純型細胞，複雑型細胞の存在 ⾼次視覚野: 広い受容野，中程度に複雑な特徴に選択的

2019/03/27, 28 @ BLSC スプリングスクール

16

初期視覚野 (V1野) の受容野
1個の細胞の観えている範囲(受容野)は狭い→ 情報処理範囲が制限
 空間フィルタ演算で記述可能
 視覚野中の局所的な“エッジ” や “線分” 成分に反応

単純型細胞(simple cell)と複雑型細胞(complex cell)が存在

http://ohzawa-lab.bpe.es.osaka-u.ac.jp/resources/text/KisokouKoukai2009/Ohzawa2009Koukai04.pdf

2019/03/27, 28 @ BLSC スプリングスクール

17

初期視覚野の性質



線分やエッジなどの成分に反応 Simple cell: ⽅位，位相に敏感 Complex cell: 位相には許容的

2019/03/27, 28 @ BLSC スプリングスクール

18

Hubel-Wiesel の階層仮説



単純型細胞の出⼒合成で，複雑型細胞出⼒が説明可能[Hubel & Wiesel 59]

2019/03/27, 28 @ BLSC スプリングスクール

19

⾼次視覚野の性質
Halle Berry(Kobatake & Tanaka 94 を改変)

“Yes, It’s Halle Berry”

巨⼤な受容野 中程度に複雑な特徴に反応
 顔細胞の存在
 分散表現 時空間的な変化に許容的

2019/03/27, 28 @ BLSC スプリングスクール

20

３時間⽬
AIの視覚システムを作るには？
ディープラーニング

2019/03/27, 28 @ BLSC スプリングスクール

ディープラーニング(深層学習)とは？
ニューラルネットモデルを⽤いた機械学習(AI)技術
 脳の働きを模した構造と学習⽅式
 深い階層構造を持つことが特徴

第3次AIブームの中核技術
 画像処理，⾳声処理，テキスト処理などの分野で無類の強さを発揮中In p ut

Recog n ition
It’ s “5”Modified from http://thebrain.mcgill.ca/
2019/03/27, 28 @ BLSC スプリングスクール

Neocognitron/CNN [Fukushima 80]

22⽣理学的な知⾒とCNN
狭い受容野

機能 単純特徴

広い受容野

抽象特徴

https://grey.colorado.edu/CompCogNeuro/index.php/CCNBook/Perception

単純型/複雑型細胞

ハードウェアの実態

Convolution Neural Network: CNN, Neocognitron
2019/03/27, 28 @ BLSC スプリングスクール

23

CNNの動作原理


局所特徴抽出(畳み込み)＋変形に対する不変性(プーリング)
Preferred feature

S-cell (Conv.)
Layer＋ReLU 変調
2019/03/27, 28 @ BLSC スプリングスクール

C-cell (Pool) Layer＋Sigmoid 変調

24CNNの動作イメージ


局所特徴抽出(畳み込み)＋変形に対する不変性(プーリング)

2019/03/27, 28 @ BLSC スプリングスクール

統計的機械学習の枠組み


識別問題を例にCNNの学習を考えてみる
 ⼊出⼒をマッピングする関数がほしい

ただし関数の具体的な形はわからない．

 ユーザー側が持っているのは(⼤量の)⼊出⼒データ
 正解データ（先⽣）との⽐較結果を学習機械内部のパラメータに反映

ラベル → ‘5’ ‘4’ ‘0’
画像 →

‘9’
先⽣

学習機械（⽣徒）2019/03/27, 28 @ BLSC スプリングスクール

⽐較‘9’ です

CNNの学習とは“学習” は畳み込みフィルタの係数(w)の調整
 ⼊出⼒のマッピングが合致するように“先⽣” と機械が同⼀の答えを出すように調整
 先⽣の答えと⽣徒の答えの差異→ロス関数 E(w)‘5’ ‘4’ ‘0’‘9’
先⽣

ロス関数の例

⽐較‘7’ です

学習機械

先⽣の答え

機械の答え

E(w) ⼩さくする w を求めたい
2019/03/27, 28 @ BLSC スプリングスクール

勾配法を⽤いた学習“学習” はパラメータ w の調整
 ロス関数 E(w) を最⼩化するために “勾配” を使う


勾配法のパラメータ更新則‘5’ ‘4’ ‘0’

‘9’
先⽣

⽐較

‘7’ です

E(w)

学習機械

w
2019/03/27, 28 @ BLSC スプリングスクール

CNN の動作イメージ
CNN による顔認識タスク“福笑い” を例に考えてみる

特徴の組み合わせの位置関係を保持しながら新たな特徴を抽出していく
https://happylilac.net/fukuwarai2.html

2019/03/27, 28 @ BLSC スプリングスクール

CNN 応⽤事例: ⼀般物体認識
AlexNet: ILSVRC 2012 の勝者
 ビルディングブロック: Conv + Pool が基本1000 カテゴリ × 約1000枚の訓練画像

conv + pool

Krizhevsky et al. NIPS 2012

SIFT + FVs: 0.26 test err.
DCNN: 0.16 test err.
2019/03/27, 28 @ BLSC スプリングスクール

30

まとめ

2019/03/27, 28 @ BLSC スプリングスクール

まとめ



１時間⽬
古⽣物学的な視覚システムである側抑制について学び，Mach-band 現象といった錯視が説明できそうなことがわかった．
２時間⽬
フィルタ処理を⽤いた画像処理の概要と，視覚システムとの関わりについて学んだ．
３時間⽬
視覚システムを模倣した畳み込みニューラルネット(CNN) を構築し，数字⽂字認識を⾏った．

2019/03/27, 28 @ BLSC スプリングスクール