第５回（平成２6年度第２回）CRCフォーラム（平成２6年９月１９日（金）開催）「安全・安心のための画像・映像技術」

動的背景差分による移動物体の検出
中島 克人 教授
未来科学部情報メディア学科

平成 26 年度 東京電機大学 第２回 CRC フォーラム「安全・安心のための画像・映像技術」

動的背景差分法による移動物体の検出
2014.9.19
東京電機大学 未来科学部 情報メディア学科
中島 克人

目次
 差分画像 背景差分法による移動体物体検出
 動的な背景画像の推定
 実時間物体追跡に適した動的背景推定・背景差分法（事例紹介）
 国土監視のための動的背景差分法
 まとめ
 参考文献1

差分画像
 差分画像（subtraction image）
 2枚の画像において，同じ位置にある画素の差がある閾値
よりも小さければ0（黒），大きければ1（白）とする2値画像y
同じ位置にある画素の差

画素時間t
0時間t に撮影された画像

x

時間t＋Δt に撮影された画像

異なる時間に撮影された画像の差分

2

背景差分法による移動物体検出
 原理
入力画像と予め撮影しておいた背景画像の差分領域（前景）に追跡対象物体が存在すると仮定（絞込み）

－
入力画像

差分領域
（前景）

＝
背景画像

差分画像

 課題：入力画像の背景（の一部）が刻々と変化するとそれらも前景となり，追跡対象領域を絞りきれない 雲の動き，木々の揺れ，水面の波，日照（照明）変化，影，....

 解決策：動的な背景画像の推定

3動的な背景画像の推定
 異なる時間に撮影した複数枚の画像から背景画像を推定，または，移動物体の領域を直接取り出す
 フレーム間差分法（frame subtraction method）
 時間t－Δt, t, t＋Δt の3枚の画像（A,B,C）から移動物体領域を取り出す
 背景画像（前景の無い画像）が不要
 課題z Δtに対して移動量が十分大きいことが前提

時間 t－Δt の画像A
差分画像AB 動的背景推定・差分法
 時間を空けた3フレーム以上を利用
 背景変化に対応
 物体移動速度の制約緩和

時間 t の画像B

AND
画像Bにおける移動物体差分画像BC

時間 t＋Δt の画像C

フレーム間差分法の原理 [1]4動的背景推定
推定された
背景画像

入力画像

5

動的な背景画像の推定
 動的背景推定・差分法
 一定間隔ごとに記録した複数枚の画像を用いて，各画素位置で背景らしい画素値を推定し，それと入力画像との差分から移動物体領域を取り出す

差分

背景推定

入力画像

N枚の過去画像

１．逐次更新法
２．統計的背景差分法
３．統計モデル法
４．中央値法移動物体（進入物）

6

動的な背景画像の推定
１．逐次更新法 [2] 入力値Aが現在の背景推定値Bと閾値α以上異なる場合に，背景推定値Bを1だけ入力値Aに近づける
if（ 入力値A－推定値B ＞α ） then 推定値B＝B＋1
else if （ 推定値B －入力値A ＞α ） then 推定値B＝B－1
 課題z 単純で処理は軽いが，背景の変動に追随できない場合がある
z 擬色（実際に入力されていない画素値）を推定値としてしまう

7

動的な背景画像の推定
２．統計的背景差分法 [1] 背景の定常的な変動を考慮に入れることにより，樹木の揺れ等を移動体ではなく背景に分類できる
 背景映像を一定フレーム数蓄え，各画素位置での画素値の統計（ヒストグラム＝確率分布）を求めておく
度数
画素値
背景の画素値分布

 移動物体の画素値の統計（ヒストグラム）も求めて（推定して）おくz 移動物体の画素値を推定できない場合は画素値が等確率だとする

 入力画像の各画素位置での画素値が背景と移動体のどちらに属する可能性が高いかを，2つのヒストグラムを用いて判断する 課題
z 各画素位置でヒストグラムが必要なため膨大なメモリが必要
z 背景の動的な変動への対応が困難

8動的な背景画像の推定
２．統計的背景差分法（続）背景画像のあるフレーム

入力画像のあるフレーム度数

背景の画素値分布

画素値

度数
背景画像

移動物体が通過したシーンの画像

背景画像と対象画像の差分画像

統計的背景差分法による検出結果

移動物体の画素値分布 画素値
度数

この入力画素値が観測 画素値されたなら背景と推定する

統計的背景差分法の原理 [1]9動的な背景画像の推定
３．統計モデル法 [3,4,5]
 各画素位置でのヒストグラムに代えて，その分布を混合ガウス分布でモデル化[2,3]z 混合するガウス分布のパラメータ（μ，σ）は背景と見なす新しい画素値に基づき刻々と更新
z 混合するガウス分布の数を自動決定するものもある
確率分
布
画素値

3つのガウス分布の混合
 課題
z 各画素位置で混合ガウス分布との比較やモデル更新をするため，実時間処理に不向き
z 背景の周期的な変動はそもそも確率分布では扱えない

10動的な背景画像の推定４．中央値法 [6,7] 一定期間ごとに蓄積したNフレームの画素値の中央値（vector median）を背景画素と推定する
入力画像の過去NフレームG

背景推定

z 中央値は他の画素への色距離

色空間（2次元での例示）

Rの合計が最も小さい（分布の最も中央の）画
素値
z 推定値は実際の値から選ばれるため，擬色とならない

11動的な背景画像の推定４．中央値法 [6,7] メモリは蓄積フレーム数（N）分必要
 Nフレームの画素値の中央値を求めるため，処理コストはN2のオーダ
z [6]はRGB色空間内でのユークリッド距離に基づく中央値を利用
z 「実時間物体追跡に適した動的背景推定・背景差分法」[7]は一様な照明変動に影響を受けにくく，かつ，実時間処理が可能な動的背景差分法を提案⇒ 研究事例紹介

12実時間物体追跡に適した動的背景推定・背景差分法[7] 概要
過去N枚の画像と現在の背景推定画像1枚を元に，各画素位置で中央値を取り，それを背景推定値とする
中央値を決める際に，用いる画素値間の距離（類似度）を独自に定義
z 照度変動の影響を受け難い独自定義の色空間内で，その距離に非線形の相互類似度を独自定義
背景差分時にも，背景推定値と入力画素値の比較に相互類似度を用い，その閾値には，背景推定時の統計情報を用いる
入力画像の過去N枚

相互類似度は各画素位置で計算される

背景推定画像1枚

13

実時間物体追跡に適した動的背景推定・背景差分法[7] 特徴
 照度変動の影響を受け難い色空間の定義
 前景（移動物体）の色の差異の影響を避ける非線形の相互類
似度の定義
 処理の高速化のために，複雑な計算を事前計算した表の検索に置き換え
 相互類似度を求める際の統計値を用い，背景差分の閾値を自動調整
 入力ノイズの削減にメディアンフィルタと縮小処理を併用

14

実時間物体追跡に適した動的背景推定・背景差分法[7] 評価
 比較対象z Wren[2] … 逐次更新法
z Stauffer[3]… 統計モデル法（混合ガウス分布，混合数固定）
z Zivkovic[4,5]… 統計モデル法（混合ガウス分布，混合数可変）
z Cucchiara[6] … 中央値法
z McFarlane[8] … 複数フレームの平均値を逐次更新
 利用プログラムz 公開されたベンチマーク用プログラムz http://dparks.wikidot.com/local‐‐files/source‐code/BGS.zip [9]15実時間物体追跡に適した動的背景推定・背景差分法[7] 評価用動画 背景推定・差分評価用

公開データセット[10,11] 6種類の状況を表現したCG動画
SABS データセット(左：実動画，右：真値)(a) Basic(b) Bootstrap(c) Camouflage(d) Darkening(e) Light Switch(f) Noisy Night16

実時間物体追跡に適した動的背景推定・背景差分法[7]真の前景 比較指標 Precision‐Recall 曲線

前景と判断
FB

z FF：前景画素が正しく前景と判断された画素数

BFFF

z FB：前景画素が背景と判断された画素数（検出ミス）
z BF：背景画素が前景と判断された画素数（誤検出）BBz BB：背景画素が正しく背景と判断された画素数

FF
Precision =BF + FF

FFRecall =FB + FF F‐measure （F値）

Precision × Recall
F = 2×
Precision + Recall

17実時間物体追跡に適した動的背景推定・背景差分法[7]曲線
 評価結果（1/3）：Precision‐Recall）：
goodbad18

実時間物体追跡に適した動的背景推定・背景差分法[7]F‐measure（最良F値）
 評価結果（2/3）：Best）：

19実時間物体追跡に適した動的背景推定・背景差分法[7] 評価結果（3/3）：処理時間）：
フレームレート換算
24 fps.

フレームレート換算
100 fps.

20

実時間物体追跡に適した動的背景推定・背景差分法[7] 差分画像例 ((a)Basic)

動画 (a) Basic21実時間物体追跡に適した動的背景推定・背景差分法[7] 差分画像例 ((c)Camouflage)

動画 (c) Camouflage

22実時間物体追跡に適した動的背景推定・背景差分法[7] 差分画像例 ((d)Darkening)

動画 (d) Darkening23

国土監視のための動的背景差分法
 想定課題 通年（年中）監視z 日照変動，気象変動，季節変動
z 自然物の動き（樹木等の風による揺れ，波，反射光の変動）
z 人工物の動き（観測対象外の車や人や動物等の移動） 動的背景差分法による異常検知（アイデア） 監視対象によって蓄積フレーム間隔を調整
 移動物体として検知していたものを一時的変動（ノイズ）として除去し，背景を監視対象として，その変化を監視
色・輝度の変化：移動物体・一時的変動：監視対象の季節（周期）変動
時間24国土監視のための動的背景差分法
 自然画像の背景差分例

差分

風による草木の揺れ

風による揺れ？

移動物体25

国土監視のための動的背景差分法
 自然画像の背景差分例（その2）差分波

移動物体移動物体26

国土監視のための動的背景差分法
 監視システム構築上のポイント
 カメラレンズを汚れから守る必要 可視光カメラによる映像だけでは限界がある（夜，霧，雪・豪雨）ため，他のセンサーとの連携監視が必要になる可能性大 監視対象に応じた背景更新間隔の設計要

27

まとめ
 背景差分法による移動物体検出
 背景の変動に対応するための動的背景推定法
 フレーム間差分
 逐次更新法，統計的背景差分法，統計モデル法，中央値法
 実時間物体追跡に適した動的背景推定・背景差分法（事例紹介）
 概要
 評価
 国土監視のための動的背景差分法

28

参考文献
[1] ディジタル画像処理編集委員会，『ディジタル画像処理』，（財）画像情報教育振興協会[2] C.Wren, A.Azarbayejani, D.Trevor and A.Pentland, “Pfinder: Real‐time Tracking of The Human Body”,
Pattern Analysis and Machine Intelligence, Vol.19, Issue 7, pp.780‐785, 1997.
[3] C.Stauffer and W.E.L.Grimson, “Adaptive Background Mixture Models for Real‐time Tracking”,ComputerVision and Pattern Recognition (CVPR), Vol.2, pp.246‐252, 1999.
[4] Z.Zivkovic, “Improved Adaptive Gaussian Mixture Model for Background Subtraction", International
Conference Pattern Recognition (ICPR), Vol.2, pp.28‐31, 2004.
[5] Z.Zivkovic and F.van der Heijden, “Efficient Adaptive Density Estimation per Image Pixel for The Task ofBackground Subtraction”, Pattern Recognition Letters, vol.27, no.7, pp.773‐780, 2006.
[6] R.Cucchiara, G.Constantino, M.Piccardi, and A.Prati, “Detecting Moving Objects, Ghosts, and Shadows inVideo Streams”, Pattern Analysis and Machine Intelligence, pp.1337‐1342, 2003.
[7] 篠崎 眞太郎, 中島 克人, “実時間物体追跡に適した動的背景推定法と背景差分法”, Journal of Japan
Society for Fuzzy Theory and Intelligent Informatics 24(2), 637-647, 2012.
[8] N.J.B.McFarlane and C.P.Schofield, “Segmentation and Tracking of Piglets in Images”, British Machine Visionand Applications, pp.187‐193, 1995.
[9] Sources:http://dparks.wikidot.com/local‐‐files/source‐code/BGS.zip
Homepage:http://dparks.wikidot.com/start[10] S.Brutzer, B.Hoferlin, and G.Heidemann, “Evaluation of Background Subtraction Techniques for Video
Surveillance”, Computer Vision and Pattern Recognition (CVPR), S. pp.1937‐1944, 2011.
[11] Stuttgart Artificial Background Subtraction Dataset(SABS): http://www.visus.uni‐stuttgart.de/index.php?id29