経済産業大臣賞

映像鮮明化技術の研究開発

1

日本電気株式会社 データサイエンス研究所
2
日本電気株式会社 宇宙システム事業部
3
日本電気株式会社 放送・メディア事業部
4
株式会社 NEC 情報システムズ 先端技術ソリューション事業部

先崎 健太 1 戸田 真人 2
尾高 佑季 1 河口 裕明 3

石川 真澄 1
新井 雅年 4

舟山 知里 1
塚田 正人 1

1 ．緒

言

今日、人々や社会の安心・安全を維持するために、街頭や商業施設、公共施設、オフィスビル、工場など様々な場所にカメラを設置して状況を把握する映像モニタリングが広く行われている。撮影された映像は、施設内の警備室などのモニタに映し出され、監視員が目視で異常がないか監視する。しかし、昨今、カメラの設置台数が急増しており、それに伴いモニタリングすべき映像も爆発的に増え、人間による監視は限界に達している。このような状況において、映像認識技術を活用したインテリジェント映像監視システムに対する関心が非常に高まっている。
カメラ映像は、天候や照明環境などの影響を受けて、映像が不鮮明となる問題がある。例
えば、夜間には街灯の明かりが届かないため、また、早朝や夕方には太陽光の角度とカメラ位置の関係によって逆光となるために、暗く見えづらいエリアが存在する。また、霧が発生すると、遠方の対象物が霞み、見えづらくなる。このように、映像モニタリングでは、撮影環境の変化に関わらず、常に鮮明で視認性の高い映像を得ることが課題となる。
この課題を解決するために、暗所で撮影された暗い映像や、霧により不鮮明となった映像の視認性を改善する映像鮮明化技術が研究されている。しかし、従来の技術では、映像の明るさやコントラストは改善される一方、もともと映像に含まれているノイズも強調されてしまい、映像中に不快なちらつきを発生させる問題が指摘されている。このノイズは、目視監視の阻害要因となるだけでなく、機械による映像認識の性能低下を引き起こす非常に厄介なものである。今後、映像の自動監視や自動運転など映像認識を応用した機器の増加が予想され、ノイズなどの認識を阻害する要因の除去が重要な課題となる。
本論文では、悪条件下で撮影された映像を、人間だけでなく機械にとっても判り易い画質に改善するリアルタイム映像鮮明化技術について述べる。本技術は、従来技術と比較して、ノイズを抑圧した鮮明な映像を出力する一方で、演算コストを低減している。本技術はNEC 製高感度カメラ NC-H1200 への搭載を始め、映像を使った各種ソリューションの創出にも貢献している。

2 ．研究開発の背景
天候や照明環境によって変動する暗がりや霧などの悪条件下で撮影された不鮮明な映像の視認性を向上させる映像補正技術として、ハイダイナミックレンジレンダリング（HDR）［1］や霧除去［2］［3］が提案されている。HDR では、映像内の任意の領域の照明強度を画像解析によって推定し、領域ごとの照明強度に応じて明るさとコントラストを改善する。霧除去では、映像内の各領域に重畳する霧の濃さを、色情報を用いて推定し、霧の濃さに基づいてコントラストを補正し、視認性を改善する。
図 1 は、霧発生時に遠方を撮影した画像に対して霧除去を適用した結果である。霧により視認困難だったビルや橋の上の車両が、霧除去により確認できる。

― 68 ―

図1

霧除去の効果の例

HDR や霧除去により、不鮮明な映像の明るさやコントラストを改善し、視認性を向上できるが、これらの従来方式には以下の問題がある。
（問題 1）強調されたノイズ
図 1 右の画像では、映像中の対象物の視認性が向上する一方で、補正処理によりノイズが強調されている。ノイズの強調は、映像中に不快なちらつきを生じさせて目視監視における阻害要因となるだけでなく、機械による映像認識の性能低下の要因となる。
（問題 2）高い演算コスト
HDR や霧除去では、領域ごとの照明強度や霧の濃さに応じた補正処理をするために、各画素に対して、周辺の多数の画素を参照した解析処理が必要となる。この処理では、画像中の物体の輪郭成分（エッジ）を維持した低周波成分の抽出処理が一般的に用いられるが、画素間の比較処理などの非線形演算から構成されるため、演算コストは高くなる。実際、従来方式［2］では 600 × 400 画素の 1 枚の画像に対する霧情報算出に数十秒を要するため、リアルタイム処理は不可能である。
そこで我々は、上述した従来方式の問題を鑑みて、画像の HDR や霧除去によって明るさやコントラストを改善しつつ、ノイズの過強調を抑制できる、低演算コストなリアルタイム映像鮮明化手法の開発に取り組んだ。

3 ．映像鮮明化技術
上述の問題を解決するために開発した我々の映像鮮明化技術［4］［5］の特徴について説明する。
3.1 ．ノイズ強調のない低演算な視覚特徴分離型映像鮮明化技術
我々は、映像中に照明光や霧の濃さの情報を推定するために有効な成分と、画像補正により画質劣化する成分があることに着目した。前者は、エッジや領域の明るさ・色の情報から構成される骨格成分、後者は、テクスチャ（物体の模様や微細なパターンなど）とノイズから構成される振動成分である。開発方式では、入力画像を 2 つの成分に分離し、各成分に適切な補正処理を適用した後に合成することで、ノイズ強調のない高品質な鮮明化画像を出力す― 69 ―

る。
図 2 に処理フローを示す。入力画像に次節で述べる視覚特徴分離を適用し、骨格成分と振動成分に分離する。骨格成分は、各画素が含まれる局所領域の明るさ・色情報そのものであるため、照明光成分や霧の濃さの情報を推定できる。この推定結果に基づいて骨格成分にNEC 独自の霧除去および HDR を適用する。骨格成分にはノイズが含まれないため、補正処理を適用してもノイズ過強調による画質劣化は発生しない。振動成分に対しては、骨格成分における輪郭情報を参照しながら、画素相関の低い成分をノイズとみなして抑圧する。そして、残存するテクスチャに対して、霧除去や HDR の補正量と連携して強調処理を適用する。
最後に補正後の骨格成分と振動成分を合成して出力画像を生成する。以上の処理により、ノイズ過強調のない、視認性が改善された鮮明な画像が得られる。
本方式では、従来方式の高演算コストの原因であった、HDR、霧除去、ノイズ抑圧の各処理で行われるエッジを維持した低周波成分の抽出を、視覚特徴分離における一回の処理だけで実現することにより、演算コストを 1/3 にした。

図2

映像鮮明化技術の処理フロー

3.2 ．低演算型視覚特徴分離
視覚特徴分離の性能は鮮明化処理の結果を左右する。高精度に骨格成分と振動成分を分離する従来手法（例えば文献［6］）では、反復処理による逐次最適化計算が必要とされるため、高い演算コストを要する。
我々は高精度な視覚特徴分離を低演算に実現する手法を開発した。
従来方式では、1 回の反復処理の影響は隣接する画素にのみ伝搬するため、広範囲の情報を取り込むには多くの反復処理を要し、演算コストの増加を引き起こした。我々が開発した
方式は、様々な範囲の画素値情報を有する多重解像度画像を反復処理の代わりに用いることで、広範囲の情報を取り込むことができる。この多重解像度画像は反復不要かつ線形処理で生成できるため低演算コストで実現できる。
図 3 に処理フローを示す。入力画像から生成された複数の解像度の多重解像度画像を用いて、各解像度間の差分画像を生成する。差分画像にはエッジ・テクスチャ・ノイズなどの画像の高周波成分が含まれる。この差分画像から、エッジ成分のみを抽出して最低解像度画像に重畳することで骨格成分を生成する。

― 70 ―

このように本方式では、反復処理を用いた逐次最適化計算の必要はないため、従来方式と比較して、1/14 の低演算コストで視覚特徴成分の分離が実現できる。従来型の視覚特徴分離手法との画質を比較した結果を図 4 に示す。開発方式は従来方式と同等の画質を維持していることが確認できる。

図3

図4

視覚特徴分離の処理フロー

従来の視覚特徴分離法との比較。演算コスト 1/14 で同等の画質を実現。

3.3 ．映像鮮明化の効果
映像鮮明化を実際の監視映像に適用したときの効果を説明する。図 5 は、濃霧発生時の映像に対し、従来方式と開発方式を適用した結果を示している。いずれの方法も遠方に存在するビルが確認できるが、従来方式と比較して開発方式はノイズの過強調を抑制しており、視認性に優れている。図 6 に、様々な不鮮明画像に対する開発方式の効果を示す。夜間に車両を撮影した画像では、ナンバープレートの文字が視認可能になっている。また、道路を撮影― 71 ―

した逆光画像や港湾を撮影した霧画像では、シーンの詳細が把握しやすくなっていることが確認できる。
次に、映像認識における開発方式の効果について説明する。ここでは、頭部検出における精度改善について述べる。図 7 は、左から原画像、従来方式処理画像、開発方式処理画像を対象に頭部検出した結果を黄色枠で表示した画像である。原画像では頭部検出ができず、従来方式ではノイズが強調された結果、誤検出が発生している。一方、開発方式では、ノイズを抑制したため、頭部のみを正確に検出できている。表 1 に、図 7 と同じ環境下での頭部検出精度を示す。適合率は総検出データ中の正解データの割合（正確性）、再現率は総正解データの中から検出できたデータの割合（網羅性）を示す。また、F 値は適合率と再現率の調和平均であり、総合的な検出性能を示す。開発方式を用いたシステムは従来方式より F 値が高く、高性能になることが確認できる。
続いて、霧画像に対する視認性改善の定量評価結果を示す。図 8 は、入力画像と開発方式
処理結果画像における視程を示したものである。視程とは、参照物体が確認できる最大距離のことである。図より、開発方式の処理結果では視程が入力画像より約 3 倍改善されていることが確認できる。1 台のカメラでカバーできるエリアの拡大によってシステム全体のカメラの台数を減らし、導入コストを下げることができる。
最後に、開発方式全体の演算コストについて説明する。計算機リソースやソフトウェアの最適化により、PC（CPU 3.5GHz、6 コア）上にて、HD 映像 1 フレームを 20ms 未満で処理可能である。すなわち、従来難しかった PC ソフトウェアによる HD 映像のリアルタイム映像鮮明化処理を実現している。

図5

開発方式の効果（ノイズの過強調抑制）― 72 ―

図6

様々な画像に対する開発方式の処理結果（夜間、逆光、霧）

図7

開発方式の効果（頭部誤検出の抑制）― 73 ―

表1

頭部検出における開発方式の効果
処理なし

従来方式

開発方式

適合率

100 ％

59 ％

95 ％

再現率

16 ％

98 ％

84 ％

F値

0.27

0.74

0.89

図8

開発方式による視程の改善効果

4 ．映像鮮明化技術を用いた製品・ソリューション
4.1 ．昼夜・天候を問わずクリアな映像を実現する高感度カメラ
開発方式は、その高レベルな映像鮮明化性能を活かして、NEC 製放送・業務用 HDTV 高感度カメラ NC-H1200［7］に搭載された。NC-H1200 は、感度アップ時のノイズ低減と霧低減機能を搭載して視認性を向上、自動感度調整により昼夜連続・天候を問わず無調整でクリアな撮影ができる。図 9 に映像例を示す。本カメラは、全国各地の放送局に「お天気カメラ」や「情報カメラ」として導入されて以降、港湾などの重要施設監視、火山などの定点観測、ヘリコプターテレビなどに採用され、市民の安心安全を守るシステムの一端を担っている。

図9NEC 高感度カメラ NC-H1200 の実機写真と映像例― 74 ―

4.2 ．映像鮮明化サーバによる映像監視ソリューション
今後、周囲環境に妨げられることなく 24 時間 365 日連続した映像による状況モニタリングと自動化のニーズはますます増える。そのニーズに応えるために、NEC では開発方式を搭載した映像鮮明化サーバ「DDH Server」を製品化した。図 10 に DDH Server の構成例を示す。
ネットワークを経由して複数のカメラやビデオプレーヤからの映像入力や、サーバなどに蓄積された映像の入力に対応でき、それら入力映像を鮮明化しモニタに表示できる。街頭、道路、鉄道、河川、工場などにある既存の映像監視システムに DDH Server を導入すれば、容易にクリアな映像による常時監視が実現できる。すでに、河川監視用途での利用が決定している。

図 10 DDH Server の構成例

4.3 ．映像配信を活用した警備ソリューション
固定カメラの死角や人混みの中で発生する異常事態を把握するために、現場にいる警備員のウェアラブルカメラ映像を警備本部でリアルタイムに活用する警備支援ソリューションを開発している。図 11 に示すように、ウェアラブルカメラから警備本部に伝送［8］された現場映像を映像鮮明化技術により高品質化し、本部側での現場状況把握を助ける。さらに、顔認証技術［9］と組み合わせ、現場にいる人物の特定を容易にし、事件・事故の防止および早期解決を支援する。映像を活用した警備ソリューションは、東京のマラソンイベント、リオ五輪メダリスト凱旋パレード、コーポレートゲームズ 2016［10］で効果が実証されている。また、CEATEC JAPAN 2016 において米国メディアパネル・イノベーションアワード、Software,Computing and Networking 分野の部門賞を受賞している［11］。

― 75 ―

図 11 映像配信を活用した警備ソリューション

4.4 ．今後のソリューション展開
監視や警備以外の展開先として、企業の業務支援に対する本技術の貢献が期待されている。
例えば、ゴムや鉄鋼の工場では製造工程で発生する水蒸気が視界を遮るなど、映像監視が難しい場所がある。このような環境の映像にも開発した映像鮮明化を適用したところ、視認性が改善され、導入が検討されている。企業応用においても、視認性の改善にとどまらず、多様な現場環境に対してロバストな映像認識の実現を支えていく。
衛星画像にも、映像鮮明化の応用が考えられる。衛星画像は、自然災害や大規模破壊の被害状況の把握に利用されている。例えば、森林火災の煙や大気汚染物質で視界が妨げられる場合でも、本技術で鮮明化し、対策の立案に活かせるようになる。このように、映像鮮明化のニーズは幅広くあり、今後も、映像鮮明化の応用展開と技術の発展に努めていく。

5 ．結言

本論文では、映像鮮明化技術と応用事例を紹介した。人々の安心・安全な生活を守り、都市機能や地球環境を保全していくうえで、映像を使ったモニタリングは欠かせない。映像鮮明化技術は昼夜・天候を問わず鮮明で視認性の高い映像を作り出す技術として認められ、カメラへの搭載やカメラ映像を使った各種映像ソリューションへの応用が広がっている。今後、IoT 技術と AI 技術の発展により、カメラ映像の分析結果が様々な場面で活用される時代を― 76 ―迎える。その中で、誤認識は甚大な損害を引き起こす恐れがあり、その防止は大きな課題である。映像鮮明化技術は映像の誤認識を低減する技術の一つとしても期待されている。我々
は、今後も映像鮮明化をはじめとする画像解析・補正技術の開発と、その成果の実社会への適用に努め、安心、安全、効率、公平で豊かな社会の実現に貢献する所存である。

参考文献［1］ M. Toda, M. Tsukada, A. Inoue, T. Suzuki, "High dynamic range rendering for YUV images
with a constraint on perceptual chroma preservation," ICIP 2009, pp. 1817-1820, 2009.
［2］ K. He, J. Sun, and X. Tang, "Single Image Haze Removal using Dark Channel Prior," CVPR
2009, 2009.
［3］ M. Toda, K. Senzaki, M. Tsukada, "Image Clarification Method Based on Structure-Texture
Decomposition with Texture Refinement," ICIAP（2）2015: 352-362, 2015.
［4］ NEC, "NEC、高感度撮影時の映像品質を改善する映像鮮明化技術を開発 "http://www.nec.co.jp/press/ja/1204/0302.html［5］ NEC, " 世界初、NEC が夜間・悪天候・遠方など見えにくい映像を鮮明化する技術を開発 " http://jpn.nec.com/press/201212/20121205_01.html［6］ A. Chambolle, "An Algorithm for Total Variation Minimization and Applications," Journal ofMathematical Imaging and Vision 20（1-2）: pp. 89-97, 2004
［7］ NEC, NC-H1200 HDTV 超高感度カラーカメラ
http://jpn.nec.com/bv/hoso/product/nch1200p.html［8］ NEC, "NEC、モバイル網を利用した高画質なライブ映像配信が可能な「適応レート制御技術」を開発" http://jpn.nec.com/press/201511/20151111_04.html［9］ NEC, " 顔認証, " http://jpn.nec.com/biometrics/face/［10］NEC, 「" コーポレートゲームズ」で 2020 年とその先を見据え、ICT を活用した先進警備支援システムの実証実験を実施,"
http://jpn.nec.com/press/201611/20161104_02.html［11］CEATEC JAPAN 2016, http://www.ceatec.com/2016/ja/award/award02_04.html― 77 ―