(57)【要約】【課題】画像処理精度を保持しつつ符号量を低減すること。【解決手段】画像処理装置は、入力画像に基づく画像に対して画像処理を実行し、前記画像処理の結果を出力する画像処理部を備え、前記入力画像は、原画像に対して画像変換がなされた変換後画像であり、前記変換は、前記画像処理に用いられる特徴及び前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくする画像変換である。【選択図】図１
2020092329.tif 000002
【特許請求の範囲】
【請求項１】
入力画像に基づく画像に対して画像処理を実行し、前記画像処理の結果を出力する画像処理部
を備え、
前記入力画像は、原画像に対して画像変換がなされた変換後画像であり、
前記画像変換は、前記画像処理に用いられる特徴量を保持し、前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくする画像変換である
画像処理装置。
【請求項２】
前記画像変換は、さらに、前記原画像と前記変換後画像との間における目視精度が保持されるようにする画像変換である
請求項１に記載の画像処理装置。
【請求項３】
前記入力画像に基づく画像のコントラストを所定の補正係数を用いて補正することにより補正画像を得る画像補正部
をさらに備え、
前記画像処理部は、
前記補正画像に対して前記画像処理を実行する
請求項１又は請求項２に記載の画像処理装置。
【請求項４】
学習用の画像を示す学習画像と、前記学習画像に対する画像変換の結果を示す情報とを用いて機械学習を行うことにより、原画像に対して所定の条件を満たすように画像変換がなされた変換後画像を得るための学習結果を取得する学習部
を備え、
前記所定の条件は、画像処理に用いられる特徴量を保持し、前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくするという条件を含む
学習装置。
【請求項５】
前記所定の条件は、さらに、前記原画像と前記変換後画像との間における目視精度が保持されるという条件を含む
請求項４に記載の学習装置。
【請求項６】
入力画像に基づく画像に対して画像処理を実行し、前記画像処理の結果を出力する画像処理ステップ
を有し、
前記入力画像は、原画像に対して画像変換がなされた変換後画像であり、
前記画像変換は、前記画像処理に用いられる特徴及び前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくする画像変換である
画像処理方法。
【請求項７】
学習用の画像を示す学習画像と、前記学習画像に対する画像変換の結果を示す情報とを用いて機械学習を行うことにより、原画像に対して所定の条件を満たすように画像変換がなされた変換後画像を得るための学習結果を取得する学習ステップ
を有し、
前記所定の条件は、画像処理に用いられる特徴量を保持し、前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくするという条件を含む
学習方法。
【請求項８】
請求項１から請求項３のうちいずれか一項の画像処理装置としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、学習装置、画像処理方法、学習方法、及びプログラムに関する。
【背景技術】
【０００２】
近年、例えば、画像内の被写体の検出や識別、及び画像の領域分割等のための、機械学習を用いた画像処理の処理精度の向上が著しい。このような機械学習を用いた画像処理技術は、各種業務における目視検査工程を自動化する技術として注目を集めている。このような画像処理において、例えば、処理対象となる画像を撮像するための撮像デバイスが通信網のエッジサーバと通信する環境に存在し、かつ、目視検査工程の自動化を担うサーバが撮像デバイスとは物理的に遠い位置にあるクラウド環境に存在する場合、撮像された画像はエッジサーバを介してクラウドサーバに伝送される。この場合、画像処理精度を保持しつつ、伝送時の符号量を削減することが求められる。
【０００３】
画像処理精度を保持しつつ伝送時の符号量を削減する画像符号化方式には、大別して、画像そのものを伝送する方式と、画像から抽出した特徴を示す情報を伝送する方式との２つの方式がある。画像そのものを伝送する前者の方式としては、例えば、Ｈ．２６５／ＨＥＶＣ（High Efficiency Video Coding）等の一般的な画像符号化方式がある。一方、画像から抽出した特徴を示す情報を伝送する後者の方式としては、例えば、ニューラルネットワークの中間層の出力である特徴マップを伝送する、Collaborative Intelligenceと呼ばれる方式等がある（例えば、非特許文献１）。後者の方式は、消費電力や計算時間の面では効率的である一方で、例えば、特に特徴マップを抽出するニューラルネットワークの階層が深い場合等においては、特徴量から原画像を復元することが難しいことがある（非特許文献１参照）。
【０００４】
また、各種業務における全ての目視検査工程を画像処理システムによって自動化することは困難である。そのため、目視検査工程全体の流れとしては、まず画像処理システムを活用して一次スクリーニングが行われ、次に人間が直接目視検査して二次スクリーニングが行われる工程になることが想定される。このようなことから、目視検査工程を自動化するための画像符号化方式としては、処理対象の画像を人間が直接目視検査できる方式が用いられることが望ましい。
【０００５】
ところで、例えばＨ．２６５／ＨＥＶＣ等の一般的な画像符号化方式では、画像処理精度は評価指標とされておらず、主に客観画質及び主観画質が評価指標とされている。したがって、一般的な画像符号化方式は、主に画質を保持することを目的とした方式であると言える。そのため、一般的な画像符号化方式では、低符号量帯において、画質を保持するため、人間が感知しづらい高周波成分を積極的に間引く処理が行われ、低周波領域の信号が優先的に保持される。これにより、このような一般的な画像符号化方式では、原画像と復号画像とを対象として画像処理を行った場合、復号画像を対象として画像処理を行った場合の方が画像処理精度が低下することがある。
【０００６】
また、非特許文献２には、人間では違いをほとんど認知できないような摂動を画像に付与すると、畳み込みニューラルネットワークによる画像処理の処理精度が著しく低下することがあることが示されている。すなわち、画質を保持する信号と画像処理精度を保持する信号とは、必ずしも一致しないことがあると言える。さらに、ＪＰＥＧ（Joint Photographic Experts Group）及びＪＰＥＧ２０００における符号量と画像識別精度との関係について記載された非特許文献３には、高符号量帯と比べて、低符号量帯において画像識別精度の低下が著しいことが示されている。これらの点を鑑みても、一般的な画像符号化方式は、画像処理精度を保持するための方式としては不十分であると言える。
【０００７】
画像処理精度を保持するという観点で画像符号化方式を検討した先行技術としては、例えば、非特許文献４に記載の技術がある。非特許文献４に記載の技術は、畳み込みニューラルネットワークの特徴マップの反応から画像内の重要度マップを生成して、重要な画像領域に重点的に符号量を割り当てることで、画像処理精度に基づくレート制御を可能にする。しかしながら、非特許文献４に記載の技術は、Ｈ．２６５／ＨＥＶＣ参照ソフトウェアであるＨＭによってレート制御を行い、そこで得られた量子化パラメータ（ＱＰ；Quantization Parameters）を±２〜３程度の範囲で修正するものである。そのため、大幅な符号化効率の削減は望めないと言える。さらに、非特許文献４に記載の技術は、例えばＪＰＥＧのように、画像内で量子化パラメータを変動させることができない符号化方式への適用については想定をしていない。そのため、非特許文献４に記載の技術は、適応量子化機構を備えない符号化システムに対しては適用が困難である。
【０００８】
また、画像を撮像する撮像デバイスに、適応量子化機構を備える符号化システムが必ずしも搭載されているとは限らないため、後段の符号化方式に依存しない画像符号化方式が用いられることが望ましい。なお、ＪＰＥＧは量子化テーブルをヘッダに格納する機構になっているため、厳密に言えばＪＰＥＧに適応量子化機構を導入することも可能である。しかしながら、各符号化ブロックに量子化テーブルを割り当てた場合、計算量の増加、及びヘッダの巨大化によって全体符号量が増大することが想定されるため、ＪＰＥＧに適応量子化機構を導入することは現実的ではないと言える。
【０００９】
後段の符号化方式に依存することなく、符号量を大幅に削減することができる画像符号化方式として、例えば、画像のプレフィルタ（プレ変換）と呼ばれる方式がある（例えば、非特許文献５）。プレフィルタ方式は、符号化処理の前に、画像の一部又は全体を平滑化し、画像の符号量を低下させる。
【００１０】
また、非特許文献５には、人間の知覚特性に基づいて人間が変化を知覚しにくい領域を算出して、平滑化の強度を決定する画像符号化方式が記載されている。一般に、画像が平滑化すると、高周波成分が削減され、予測符号化方式においては予測残差が小さくなる。これにより、プレフィルタ方式による平滑化は、画像符号化方式に依存することなく、画像を符号量の低い状態に変換させることができる。実際に、非特許文献５では、Ｈ．２６５／ＨＥＶＣ以外に、Ｈ．２６４／ＡＶＣ（Advanced Video Coding）においても、画像のプレフィルタによる符号量削減の有効性が示されている。しかしながら、非特許文献５に記載の画像符号化方式は、人間の知覚特性に基づいており、画像処理精度を考慮する方式ではない。
【先行技術文献】
【非特許文献】
【００１１】
【非特許文献１】H. Choi, I. V. Bajic, “Near-Lossless Deep Feature Compression for Collaborative Intelligence”, arXiv, 15 June 2018.
【非特許文献２】C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow, R. Fergus, “Intriguing properties of neural networks”, arXiv, 19 February 2014.
【非特許文献３】S. Dodge, L. Karam, “Understanding How Image Quality Affects Deep Neural Networks”, arXiv, 21 April 2016.
【非特許文献４】H. Choi, I. V. Bajic, “High Efficiency Compression for Object Detection”, arXiv, 16 February 2018.
【非特許文献５】E. Vidal, F. X. Coudoux, P. Corlay, C. Guillemot, “JND-Guided Perceptual Pre-filtering for HEVC Compression of UHDTV Video Contents”, International Conference on Advanced Concepts for Intelligent Vision Systems, ACIVS 2017, LNCS 10617, pp.375-385, 2017.
【発明の概要】
【発明が解決しようとする課題】
【００１２】
上述した背景技術に鑑み、画像処理精度を保持しつつ低符号量の画像へ変換し、かつ、人間による目視検査の検査精度（以下、「目視精度」という。）も併せて保持する画像変換技術が求められている。画像変換の中でも特に、符号量を削減する効果が広く知られている、画像成分を平滑化する方式が有望であると考えられる。また、画像成分を一律に平滑化すると画像処理精度は低下するが(非特許文献３)、画像処理において重要でない領域のみを平滑化すれば、処理精度の低下は生じないことが期待される。しかしながら、画像処理精度を考慮した上記のプレフィルタ方式の場合、画像処理にあたってどのような特徴量を重視しているか、という点については不明瞭である。すなわち、画像中のどの領域をどのように平滑化させるよう画像に変換すればよいか、という点が不明瞭であると言える。そのため、プレフィルタ方式では、人間の知覚特性のような生理学的な知見に基づいたフィルタの設計が困難であるという課題がある。
【００１３】
これに対し、非特許文献４に記載の技術のように、生成された重要度マップを活用して、画像成分を平滑化する方式も考えられる。しかしながら、この方式の場合、画像処理精度に対して影響を及ぼさない画像変換を行うためには、そもそも重要度マップを用いてどのような強度で平滑化処理を行えばよいか、という点において依然として不明瞭である。さらに、非特許文献４に記載の技術において生成される重要度マップは、あくまでＣＮＮ（Convolutional Neural Network；畳み込みニューラルネットワーク）の中間層の出力の強さに応じて生成されるものである。そのため、平滑化処理を行っても画像処理精度に影響を及ぼさないという点において、真に重要な領域を示すマップにはなっていない。なお、上述したように、一般に画像に対して平滑化処理を行った場合に高周波成分が削減される点と、予測機構を備える画像符号化方式であれば予測残差が小さくなる点とによって、画像の符号量は低下する。但し、ガウシアンフィルタ等によって画像全体に対して均一に平滑化処理が行われると、画像処理精度が大きく低下する。
【００１４】
本発明は、上記のような技術的背景に鑑みてなされたものであり、画像処理精度を保持しつつ符号量を低減し、かつ、人間の目視精度も併せて保持する画像変換技術を提供することを目的とする。
【課題を解決するための手段】
【００１５】
本発明の一態様は、入力画像に基づく画像に対して画像処理を実行し、前記画像処理の結果を出力する画像処理部を備え、前記入力画像は、原画像に対して画像変換がなされた変換後画像であり、前記画像変換は、前記画像処理に用いられる特徴量を保持し、前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくする画像変換である画像処理装置である。
【００１６】
また、本発明の一態様は、上記の画像処理装置であって、前記画像変換は、さらに、前記原画像と前記変換後画像との間における目視精度が保持されるようにする画像変換である。
【００１７】
また、本発明の一態様は、上記の画像処理装置であって、記入力画像に基づく画像のコントラストを所定の補正係数を用いて補正することにより補正画像を得る画像補正部をさらに備え、前記画像処理部は、前記補正画像に対して前記画像処理を実行する。
【００１８】
また、本発明の一態様は、学習用の画像を示す学習画像と、前記学習画像に対する画像変換の結果を示す情報とを用いて機械学習を行うことにより、原画像に対して所定の条件を満たすように画像変換がなされた変換後画像を得るための学習結果を取得する学習部を備え、前記所定の条件は、画像処理に用いられる特徴量を保持し、前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくするという条件を含む学習装置である。
【００１９】
また、本発明の一態様は、上記の学習装置であって、前記所定の条件は、さらに、前記原画像と前記変換後画像との間における目視精度が保持されるという条件を含む。
【００２０】
また、本発明の一態様は、入力画像に基づく画像に対して画像処理を実行し、前記画像処理の結果を出力する画像処理ステップを有し、前記入力画像は、原画像に対して画像変換がなされた変換後画像であり、前記画像変換は、前記画像処理に用いられる特徴及び前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくする画像変換である画像処理方法である。
【００２１】
また、本発明の一態様は、学習用の画像を示す学習画像と、前記学習画像に対する画像変換の結果を示す情報とを用いて機械学習を行うことにより、原画像に対して所定の条件を満たすように画像変換がなされた変換後画像を得るための学習結果を取得する学習ステップを有し、前記所定の条件は、画像処理に用いられる特徴量を保持し、前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくするという条件を含む学習方法である。
【００２２】
また、本発明の一態様は、上記の画像処理装置としてコンピュータを機能させるためのプログラムである。
【発明の効果】
【００２３】
本発明により、画像処理精度を保持しつつ符号量を低減することができる。
【図面の簡単な説明】
【００２４】
【図１】本発明の第１の実施形態に係る画像処理装置１の機能構成を示すブロック図である。
【図２】本発明の第１の実施形態に係る学習部１０の動作の一例を示すフローチャートである。
【図３】本発明の第１の実施形態に係る学習画像変換部１０２の動作の一例を示すフローチャートである。
【図４】本発明の第１の実施形態に係る目視精度保持部１０３の動作の一例を示すフローチャートである。
【図５】本発明の第１の実施形態に係る学習画像平滑化部１０４の動作の一例を示すフローチャートである。
【図６】本発明の第１の実施形態に係る学習画像処理部１０５の動作の一例を示すフローチャートである。
【図７】本発明の第１の実施形態に係る最適化部１０７の動作の一例を示すフローチャートである。
【図８】本発明の第１の実施形態に係る学習部１０以外の機能部の動作を示すフローチャートである。
【図９】本発明の第１の実施形態に係る推論画像変換部３０３の動作の一例を示すフローチャートである。
【図１０】本発明の第１の実施形態に係る推論画像処理部６０の動作の一例を示すフローチャートである。
【図１１】本発明の第２の実施形態に係る画像処理装置１ｂの機能構成を示すブロック図である。
【図１２】本発明の第２の実施形態に係る学習画像処理部１０５ｂの動作の一例を示すフローチャートである。
【図１３】本発明の第２の実施形態に係る画像処理最適化部１０６の動作の一例を示すフローチャートである。
【図１４】本発明の第３の実施形態に係る最適化部の動作の一例を示すフローチャートである。
【発明を実施するための形態】
【００２５】
＜第１の実施形態＞
以下、本発明の第１の実施形態について、図面を参照しながら説明する。
【００２６】
［画像処理装置の構成］
以下、画像処理装置１の機能構成について説明する。
図１は、本発明の第１の実施形態に係る画像処理装置１の機能構成を示すブロック図である。図１に示すように、画像処理装置１は、学習部１０と、画像処理パラメータ格納部２０と、推論部３０と、画像伝送部４０と、画像補正部５０と、画像処理部６０と、を含んで構成される。
【００２７】
なお、学習部１０によって機械学習（以下、「学習」という。）がなされた学習済みモデルが、後段の推論部３０によって利用される。そのため、学習部１０が処理を行うタイミングと、後段の推論部３０以降の機能部が行う処理のタイミングとの間では時間差がある。
【００２８】
まず、学習部１０について説明する。図１に示すように、学習部１０は、学習画像記憶部１０１と、学習画像変換部１０２と、目視精度保持部１０３と、学習画像平滑化部１０４と、学習画像処理部１０５と、最適化部１０７と、を含んで構成される。
【００２９】
学習画像記憶部１０１は、学習用の画像（以下、「学習画像」という。）、及び画像処理における正解データ（以下、「正解ラベル」という。〉を予め記憶している。学習画像記憶部１０１は、例えば、フラッシュメモリ、ＨＤＤ（Hard Disk Drive）、ＳＤＤ（Solid State Drive）、ＲＡＭ（Random Access Memory；読み書き可能なメモリ）、ＥＥＰＲＯＭ（Electrically Erasable Programmable Read Only Memory）、レジスタ、及びＲＯＭ（Read Only Memory；読み取り専用メモリ）等の記憶媒体、又はこれらの記憶媒体の組み合わせによって実現される。
【００３０】
学習画像変換部１０２は、学習画像記憶部１０１から学習画像を取得する。また、学習画像変換部１０２は、最適化部１０７によって更新されたモデルパラメータ（以下、「更新後モデルパラメータ」という。）を当該最適化部１０７から取得する。学習画像変換部１０２は、取得した更新後モデルパラメータに基づいて、取得した学習画像を画像変換する。学習画像変換部１０２は、画像変換された学習画像（以下、「変換後学習画像」という。）を、目視精度保持部１０３、学習画像平滑化部１０４、及び学習画像処理部１０５へ出力する。また、学習画像変換部１０２は、画像変換に用いたモデルパラメータを最適化部１０７へ出力する。
【００３１】
目視精度保持部１０３は、学習画像変換部１０２から出力された変換後学習画像を取得する。目視精度保持部１０３は、取得した変換後学習画像について人間による目視検査の検査精度である目視精度を評価し、当該目視精度を高くするための目視精度ロスを算出する。目視精度保持部１０３は、算出された目視精度ロスを最適化部１０７へ出力する。
【００３２】
学習画像平滑化部１０４は、学習画像変換部１０２から出力された変換後学習画像を取得する。学習画像平滑化部１０４は、取得した変換後学習画像について画像の平滑化度合いを評価し、平滑化度合いを高くするための画像平滑化ロスを算出する。学習画像平滑化部１０４は、算出された画像平滑化ロスを最適化部１０７へ出力する。なお、学習画像平滑化部１０４は、例えば画像処理結果と正解ラベルとの距離によっては、平滑化度合いを低くするための画像平滑化ロスを算出する場合もある。
【００３３】
学習画像処理部１０５は、学習画像記憶部１０１から正解ラベルを取得する。また、学習画像処理部１０５は、画像処理パラメータ格納部２０から、画像処理モデルのパラメータ（以下、「画像処理パラメータ」という。）を取得する。また、学習画像処理部１０５は、学習画像変換部１０２から出力された変換後学習画像を取得する。学習画像処理部１０５は、取得した変換後学習画像に対して画像処理を行い、正解ラベルとの差分を最小化するための画像処理ロスを算出する。学習画像処理部１０５は、算出された画像処理ロスを、画像処理モデルの入力部まで伝播し、最適化部１０７へ出力する。なお、伝播するとは、誤差逆伝播法等の誤差勾配算出アルゴリズムに則って、画像変換モデルの所望の位置で誤差勾配を算出する処理のことをいう。
【００３４】
最適化部１０７は、目視精度保持部１０３から出力された目視精度ロスを取得する。また、最適化部１０７は、学習画像平滑化部１０４から出力された画像平滑化ロスを取得する。また、最適化部１０７は、学習画像処理部１０５から出力された画像処理ロスを取得する。また、最適化部１０７は、学習画像変換部１０２から出力されたモデルパラメータを取得する。最適化部１０７は、取得した目視精度ロス、画像平滑化ロス、及び画像処理ロスに基づいて、取得したモデルパラメータを最適化するように更新する。すなわち、最適化部１０７は、目視精度と画像平滑化度合いをできるだけ高くしつつ、画像処理結果と正解ラベルとの距離をできるだけ短くするようにモデルパラメータを更新する。
【００３５】
最適化部１０７は、学習を継続する場合には、更新されたモデルパラメータ（以下、「更新後モデルパラメータ」という。）を、学習画像変換部１０２へ出力する。一方、最適化部１０７は、学習を終了する場合には、更新されたモデルパラメータ（以下、「学習終了後パラメータ」という。）をパラメータ格納部３０１に格納する。
【００３６】
なお、学習画像変換部１０２が、原画像全体を画像変換するのではなく、目視検査を行いたい所望の対象の範囲のみを画像変換し、当該範囲に相当する変換後学習画像から各ロス（特に目視精度ロス）が算出される構成であってもよい。
【００３７】
次に学習部以外の機能部の構成について説明する。
画像処理パラメータ格納部２０は、画像処理用のパラメータである画像処理パラメータを予め記憶する。画像処理パラメータ格納部２０は、例えば、フラッシュメモリ、ＨＤＤ、ＳＤＤ、ＲＡＭ、ＥＥＰＲＯＭ、レジスタ、ＲＯＭ等の記憶媒体、又はこれらの記憶媒体の組み合わせによって実現される。
【００３８】
図１に示すように、推論部３０は、パラメータ格納部３０１と、推論画像取得部３０２と、推論画像変換部３０３と、を含んで構成される。
【００３９】
パラメータ格納部３０１は、最適化部１０７から出力された学習終了後パラメータを記憶する。パラメータ格納部３０１は、例えば、フラッシュメモリ、ＨＤＤ、ＳＤＤ、ＲＡＭ、ＥＥＰＲＯＭ、及びレジスタ等の記憶媒体、又はこれらの記憶媒体の組み合わせによって実現される。
【００４０】
推論画像取得部３０２は、例えば外部の撮像装置や記憶媒体等から、画像処理の対象となる画像（以下、「推論画像」という。）を取得する。なお、推論画像取得部３０２が、撮像装置としての機能を有する構成であってもよい。推論画像取得部３０２は、取得した推論画像を推論画像変換部３０３へ出力する。
【００４１】
推論画像変換部３０３は、推論画像取得部３０２から出力された推論画像を取得する。また、推論画像変換部３０３は、パラメータ格納部３０１から学習終了後パラメータを取得する。推論画像変換部３０３は、取得した学習終了後パラメータに基づいて、取得した推論画像に対する画像変換を行う。推論画像変換部３０３は、画像変換された推論画像（以下、「変換後推論画像」という。）を画像伝送部４０へ出力する。
【００４２】
図１に示すように、画像伝送部４０は、符号化部４０１と、復号部４０２と、を含んで構成される。
【００４３】
符号化部４０１は、推論画像変換部３０３から出力された変換後推論画像を取得する。符号化部４０１は、取得した変換後推論画像を、例えばＨ．２６５／ＨＥＶＣ等の既存符号化方式によってビットストリームに変換する。符号化部４０１は、変換されたビットストリームを復号部４０２へ送信する。
【００４４】
復号部４０２は、符号化部４０１から送信されたビットストリームを受信する。復号部４０２は、受信したビットストリームに対して、例えばＨ．２６５／ＨＥＶＣ等の既存符号化方式によって復号する。これにより、復号部４０２は、復号画像を得る。復号部４０２は、復号画像を画像補正部５０へ出力する。
【００４５】
なお、上述したように本実施形態においては、変換後推論画像を符号化部４０１に出力して符号化を行い、復号部４０２によって復号を行っているが、このような符号化及び復号を行う構成は必須の構成ではない。なぜならば、変換後推論画像は、所望の画像処理に必要となる情報を保持しつつ、かつ、目視精度を保持した上で、更に、符号化がなされなくても、入力された推論画像よりも既にデータサイズが小さくなっているためである。
【００４６】
なお、符号化部４０１において用いられる符号化方式として、ロスレス符号化（可逆符号化）方式が用いられてもよい。
【００４７】
なお、本実施形態の変形例として、変換後推論画像から、例えば画像の端の数ピクセル等の不要な情報を除去する構成にしてもよい。この場合、画像の中央部分に画像処理対象の物体が写っている場合等において有効である。これにより、元のデータサイズが小さい画像を符号化対象画像とすることができるため、符号化部４０１において設定される目標符号量により到達し易くなる。
【００４８】
画像補正部５０は、復号部４０２から出力された復号画像を取得する。画像補正部５０は、取得した復号画像に対して、画像処理精度を向上させるような補正処理を行う。画像補正部５０は、補正処理がなされた復号画像（以下、「補正画像」という。）を、画像処理部６０へ出力する。
【００４９】
画像処理部６０は、画像処理パラメータ格納部２０から画像処理パラメータを取得する。また、画像処理部６０は、画像補正部５０から出力された補正画像を取得する。画像処理部６０は、取得した画像処理パラメータに基づいて、取得した補正画像に対して画像処理を行う。これにより、画像処理部６０は、画像処理結果を得る。画像処理部６０は、画像処理結果を示す情報を、例えば外部の装置等へ出力する。
【００５０】
なお、本実施形態においては、学習画像変換部１０２と推論画像変換部３０３とがそれぞれ別々の機能部であるものとしたが、学習時と推論時にそれぞれ動作する１つの機能部として構成されてもよい。また同様に、本実施形態においては、学習画像処理部１０５と画像処理部６０とがそれぞれ別々の機能部であるものとしたが、学習時と推論時にそれぞれ動作する１つの機能部として構成されてもよい。
【００５１】
以下、各機能部の動作について説明する。なお、本実施形態は、目視精度ロスについての学習を、画像平滑化ロス及び画像処理ロスの事前学習として扱う方式について示したものである。この方式は、目視精度ロスを用いた学習が画像処理精度の向上に寄与する場合（例えば平均二乗誤差（ＭＳＥ）で事前学習する場合等）において適用されうる方式である。
【００５２】
［学習部の動作］
以下、学習部１０全体の動作について説明する。
図２は、本発明の第１の実施形態に係る学習部１０の動作の一例を示すフローチャートである。
【００５３】
学習部１０の学習画像変換部１０２は、学習画像記憶部１０１から学習画像を取得する。また、学習画像変換部１０２は、最適化部１０７から更新後モデルパラメータを取得する。学習画像変換部１０２は、取得した更新後モデルパラメータに基づいて、取得した学習画像を画像変換する。学習画像変換部１０２は、変換後学習画像を、目視精度保持部１０３へ出力する。また、学習画像変換部１０２は、モデルパラメータを最適化部１０７へ出力する（ステップＳ００１）。
【００５４】
学習部１０の目視精度保持部１０３は、学習画像変換部１０２から出力された変換後学習画像を取得する。目視精度保持部１０３は、取得した変換後学習画像について目視精度を評価し、目視精度を高くするための目視精度ロスを算出する。目視精度保持部１０３は、算出された目視精度ロスを最適化部１０７へ出力する（ステップＳ００２）。
【００５５】
学習部１０の最適化部１０７は、目視精度保持部１０３から出力された目視精度ロスを取得する。また、最適化部１０７は、学習画像変換部１０２から出力されたモデルパラメータを取得する。最適化部１０７は、取得した目視精度ロスに基づいて、モデルパラメータを更新する。最適化部１０７は、更新後モデルパラメータを学習画像変換部１０２へ出力する（ステップＳ００３）。
【００５６】
ここで、事前学習が終了していない場合（ステップＳ００４・Ｎｏ）、最適化部１０７は、画像平滑化ロス及び画像処理ロスに基づいて更新された更新後モデルパラメータを学習画像変換部１０２へ出力する（ステップＳ００５）。そして、ステップＳ００１以降の処理を繰り返す。
【００５７】
一方、事前学習が終了した場合（ステップＳ００４・Ｙｅｓ）、学習画像変換部１０２は、取得した更新後モデルパラメータに基づいて、取得した学習画像を画像変換する。学習画像変換部１０２は、変換後学習画像を、学習画像平滑化部１０４及び学習画像処理部１０５へ出力する。また、学習画像変換部１０２は、モデルパラメータを最適化部１０７へ出力する（ステップＳ００６）。
【００５８】
学習部１０の学習画像平滑化部１０４は、学習画像変換部１０２から出力された変換後学習画像を取得する。学習画像平滑化部１０４は、取得した変換後学習画像について画像の平滑化度合いを評価し、画像平滑化ロスを算出する。学習画像平滑化部１０４は、算出された画像平滑化ロスを最適化部１０７へ出力する（ステップＳ００７）。
【００５９】
学習部１０の学習画像処理部１０５は、学習画像記憶部１０１から正解ラベルを取得する。また、学習画像処理部１０５は、画像処理パラメータ格納部２０から画像処理パラメータを取得する。また、学習画像処理部１０５は、学習画像変換部１０２から出力された変換後学習画像を取得する。学習画像処理部１０５は、取得した変換学後習画像に対して画像処理を行い、画像処理ロスを算出する。学習画像処理部１０５は、算出された画像処理ロスを最適化部１０７へ出力する（ステップＳ００８）。
【００６０】
最適化部１０７は、学習画像平滑化部１０４から出力された画像平滑化ロスを取得する。また、最適化部１０７は、学習画像処理部１０５から出力された画像処理ロスを取得する。また、最適化部１０７は、学習画像変換部１０２から出力されたモデルパラメータを取得する。最適化部１０７は、取得した画像平滑化ロス及び画像処理ロスに基づいて、モデルパラメータを更新する（ステップＳ００９）。
【００６１】
ここで、学習が終了していない場合（ステップＳ０１０・Ｎｏ）、最適化部１０７は、目視精度ロスに基づいて更新された更新後モデルパラメータを学習画像変換部１０２へ出力する（ステップＳ０１１）。そして、ステップＳ００６以降の処理を繰り返す。
【００６２】
一方、学習が終了した場合（ステップＳ０１０・Ｙｅｓ）、最適化部１０７は、学習終了後パラメータをパラメータ格納部３０１に格納する。
以上で、学習部１０による図２のフローチャートの動作が終了する。
【００６３】
［学習画像変換部の動作］
以下、学習画像変換部１０２の動作について更に詳しく説明する。なお、以下に説明する学習画像変換部１０２の動作は、上述した図２のステップＳ００１の動作に相当する。
図３は、本発明の第１の実施形態に係る学習画像変換部１０２の動作の一例を示すフローチャートである。
【００６４】
学習画像変換部１０２は、現在の学習の繰り返し回数（すなわち、それまでに学習が繰り返された回数）を示す情報を取得する（ステップＳ１０１）。なお、現在の学習の繰り返し回数を示す情報は、例えば、学習部１０が備える記憶媒体等に記憶されているものとする。
【００６５】
学習画像変換部１０２は、学習開始時であるか否かを判定する。すなわち、学習画像変換部１０２は、取得した情報に基づく学習回数が０であるか否かを判定する（ステップＳ１０２）。学習回数が０である場合（ステップＳ１０２・Ｙｅｓ）、学習画像変換部１０２は、モデルパラメータを初期化する（ステップＳ１０３）。
【００６６】
なお、学習画像変換部１０２が、一般的に用いられるような、ガウス分布に基づくランダム値によってモデルパラメータの初期化を行う構成であってもよいし、事前に行われた学習に基づく画像変換モデルのモデルパラメータを用いてFine-tuningを行うことによってモデルパラメータの初期化を行う構成であってもよい。なお、ここでいうFine-tuningとは、画像変換モデルに対して事前に異なるデータセットを用いて学習が行われることによって得られたパラメータを初期値にすることをいう。
【００６７】
一方、学習回数が０ではない（すなわち、１以上である）場合（ステップＳ１０２・Ｎｏ）、学習画像変換部１０２は、最適化部１０７から更新後モデルパラメータ（すなわち、学習中の画像変換モデルのモデルパラメータ）を取得する（ステップＳ１０４）。
【００６８】
学習画像変換部１０２は、学習画像記憶部１０１から学習画像を取得する（ステップＳ１０５）。学習画像変換部１０２は、取得した更新後モデルパラメータに基づいて、取得した学習画像を画像変換する（ステップＳ１０６）。これにより、学習画像変換部１０２は、変換後学習画像を得る。なお、ここで用いられる画像変換として、例えばニューラルネットワークを用いた非線形変換等が挙げられる。
【００６９】
学習画像変換部１０２は、事前学習時であるか否かを判定する（ステップＳ１０７）。事前学習時である場合（ステップＳ１０７・Ｙｅｓ）、学習画像変換部１０２は、変換後学習画像を、目視精度保持部１０３へ出力する（ステップＳ１０８）。一方、事前学習時ではない場合（すなわち、学習時である場合）（ステップＳ１０７・Ｎｏ）、学習画像変換部１０２は、変換後学習画像を、学習画像平滑化部１０４及び学習画像処理部１９５へ出力する（ステップＳ１０９）。
【００７０】
学習画像変換部１０２は、上記の画像変換に用いたモデルパラメータを、最適化部１０７へ出力する（ステップＳ１１０）。
以上で、学習画像変換部１０２による図３のフローチャートの動作が終了する。
【００７１】
［目視精度保持部の動作］
以下、目視精度保持部１０３の動作について更に詳しく説明する。なお、以下に説明する目視精度保持部１０３の動作は、上述した図２のステップＳ００２の動作に相当する。
図４は、本発明の第１の実施形態に係る目視精度保持部１０３の動作の一例を示すフローチャートである。
【００７２】
目視精度保持部１０３は、学習画像変換部１０２から出力された変換後学習画像（ここでは、変換後学習画像Ｙ’とする。）を取得する（ステップＳ２０１）。目視精度保持部１０３は、予め定義された関数を用いて、変換後学習画像Ｙ’の目視精度を評価する（ステップＳ２０２）。
【００７３】
目視精度を評価する関数としては、例えば、原画像と変換後学習画像Ｙ’との平均二乗誤差、又はStructural Similarity（ＳＳＩＭ）等に基づく目視精度ロスを算出する関数が挙げられる。但し、目視精度ロスは、平均二乗誤差やＳＳＩＭに基づくものではなくても構わない。目視精度を評価する関数が、人間が目視検査で画像処理を行った場合の画像処理結果と相関を有する画像処理結果を出力する目的関数であるならば、同様の効果を奏する。
【００７４】
目視精度保持部１０３は、上記の目視精度を評価した関数に基づいて、人間の目視精度を高めるための目視精度ロス（勾配）を算出する。目視精度保持部１０３は、算出された目視精度ロスを最適化部１０７へ出力する。
以上で、目視精度保持部１０３による図４のフローチャートの動作が終了する。
【００７５】
［学習画像処理部の動作］
以下、学習画像処理部１０５の動作について更に詳しく説明する。なお、以下に説明する学習画像処理部１０５の動作は、上述した図２のステップＳ００８の動作に相当する。
図５は、本発明の第１の実施形態に係る学習画像処理部１０５の動作の一例を示すフローチャートである。
【００７６】
学習画像処理部１０５は、画像処理パラメータ格納部２０から画像処理パラメータを取得する（ステップＳ３０１）。学習画像処理部１０５は、学習画像記憶部１０１から、画像処理における正解データを示す正解ラベルを取得する（ステップＳ３０２）。なお、正解データとは、画像内の被写体の識別を行う場合においては、例えば、各対象物が写っているかどうかを示すベクトル列等であり、画像の領域分割を行う場合においては、例えば、画像内の各ピクセルがどの領域に属するかを示す配列等である。
【００７７】
学習画像処理部１０５は、学習画像変換部１０２から出力された変換後学習画像Ｙ’を取得する（ステップＳ３０３）。学習画像処理部１０５は、取得した変換後学習画像Ｙ’に対して、取得した画像処理パラメータに基づく画像処理を行う（ステップＳ３０４）。これにより、学習画像処理部１０５は、画像処理結果（ここでは、画像処理結果ｘとする。）を得る。なお、ここでいう画像処理としては、例えば、ニューラルネットワークを用いた物体識別、物体検出、及び領域分割等の画像処理が挙げられる。
【００７８】
学習画像処理部１０５は、取得した変換後学習画像Ｙ’に対して画像処理を行い、上記の画像処理結果ｘと正解ラベル（ここでは、正解ラベルｙとする。）との差分を最小化するような画像処理ロス（勾配）を算出する（ステップＳ３０５）。なお、画像処理ロスとしては、例えば、以下の（１）式で表される交差エントロピーＬｃｒｏｓｓ＿ｅｎｔｒｏｐｙ等が一般に用いられる。
【００７９】
【数１】
2020092329.tif 000003
【００８０】
但し、画像処理ロスは、上記のような交差エントロピーに限られるものではない。画像処理ロスを算出する関数が、所望の画像処理タスクにおいて適切な目的関数であるならば、例えば平均二乗誤差等であっても、同様の効果を奏する。
【００８１】
算出された画像処理ロスは、画像変換モデルに対してロスを与える。そのため、学習画像処理部１０５は、画像処理モデルの入力部（すなわち、画像変換モデルの出力部）に相当する処理部まで勾配（誤差）を伝播させる。なお、この際、画像変換モデルのモデルパラメータの更新は行わない。
【００８２】
学習画像処理部１０５は、画像処理モデルの入力部に相当する処理部にまで伝播させた勾配（画像処理ロス）を最適化部１０７へ出力する。
以上で、学習画像処理部１０５による図５のフローチャートの動作が終了する。
【００８３】
［学習画像平滑化部の動作］
以下、学習画像平滑化部１０４の動作について更に詳しく説明する。なお、以下に説明する学習画像平滑化部１０４の動作は、上述した図２のステップＳ００７の動作に相当する。
図６は、本発明の第１の実施形態に係る学習画像平滑化部１０４の動作の一例を示すフローチャートである。
【００８４】
学習画像平滑化部１０４は、学習画像変換部１０２から出力された変換後学習画像Ｙ’を取得する（ステップＳ４０１）。学習画像平滑化部１０４は、予め定義された関数を用いて、変換後学習画像の空間冗長性、及び平滑化度合いを評価する（ステップＳ４０２）。なお、空間冗長性及び平滑化度合いを評価する関数としては、例えば、Total Variationに基づく、以下の（２）式で表される画像平滑化ロスＬＴＶ（Ｙ’）が挙げられる。
【００８５】
【数２】
2020092329.tif 000004
【００８６】
但し、画像平滑化ロスは、Total Variationに基づく関数に限られるものではない。画像平滑化ロスを算出する関数が、空間冗長性を考慮した目的関数であるならば、同様の効果を奏する。
【００８７】
学習画像平滑化部１０４は、ステップＳ４０２における評価に用いられた関数（例えば、（２）式）に基づいて、空間冗長性及び平滑化度合いを高くするための勾配を、算出する。学習画像平滑化部１０４は、算出された勾配（画像平滑化ロス）を最適化部１０７へ出力する（ステップＳ４０３）。
以上で、学習画像平滑化部１０４による図６のフローチャートの動作が終了する。
【００８８】
［最適化部の動作］
以下、最適化部１０７の動作について更に詳しく説明する。なお、以下に説明する最適化部１０７の動作は、上述した図２のステップＳ００３及びステップＳ００９の動作に相当する。
図７は、本発明の第１の実施形態に係る最適化部１０７の動作の一例を示すフローチャートである。
【００８９】
最適化部１０７は、事前学習時であるか否かの判定を行う（ステップＳ５０１）。事前学習時である場合（ステップＳ５０１・Ｙｅｓ）、最適化部１０７は、目視精度保持部１０３から出力された目視精度ロスを取得する（ステップＳ５０２）。また、最適化部１０７は、学習画像変換部１０２から出力されたモデルパラメータを取得する（ステップＳ５０３）。最適化部１０７は、取得した目視精度ロスを用いて、取得したモデルパラメータを更新する（ステップＳ５０４）。そして、最適化部１０７は、更新後モデルパラメータを学習画像変換部１０２へ出力する（ステップＳ５１１）。
【００９０】
一方、事前学習時ではない（すなわち、学習時である）場合（ステップＳ５０１・Ｙｅｓ）、最適化部１０７は、学習画像平滑化部１０４から出力された画像平滑化ロスを取得する（ステップＳ５０５）。また、最適化部１０７は、学習画像処理部１０５から出力された画像処理ロスを取得する（ステップＳ５０６）。また、最適化部１０７は、学習画像変換部１０２から出力されたモデルパラメータを取得する（ステップＳ５０７）。
【００９１】
最適化部１０７は、画像平滑化ロスと画像処理ロスとを、結合荷重λｃｒｏｓｓ＿ｅｎｔｒｏｐｙ’λＴＶで線形結合し、モデルパラメータを更新する（ステップＳ５０８）。なお、結合荷重としては、例えば凡そ１：１程度で画像平滑化ロスと画像処理ロスとを同等に評価するような比率が考えられる。但し、このような所定の比率に限られるものではなく、例えば、損失関数全体の推移を見ながら人手で調整を行うこと等によっても、同様の効果を奏する。
【００９２】
なお、モデルパラメータの更新には、例えば、ＳＧＤ（Stochastic Gradient Descent；確率的勾配降下法）、及び勾配降下法の最適化アルゴリズムの１つであるＡｄａｍ等が用いられるのが一般的である。但し、これに限られるものではなく、ニュートン法等の他の最適化アルゴリズムが用いられても構わない。
【００９３】
最適化部１０７は、この繰り返しにおいて学習を終了したか否かを判定する（ステップＳ５０９）。なお、学習の終了の判定は、予め決められた学習回数に達したか否かに基づいて行われてもよいし、又は、例えば損失関数の推移等に基づいて人手によって行われてもよい。
【００９４】
学習が終了したと判定された場合（ステップＳ５０９・Ｙｅｓ）、最適化部１０７は、学習終了後パラメータをパラメータ格納部３０１に格納する。一方、学習が終了していないと判定された場合（ステップＳ５０９・Ｎｏ）、最適化部１０７は、更新後モデルパラメータを学習画像変換部１０２へ出力する（ステップＳ５１１）。
以上で、最適化部１０７による図７のフローチャートの動作が終了する。
【００９５】
［学習部以外の機能部の動作］
以下、学習部１０以外の機能部の動作（すなわち、後段の処理を行う推論部３０以降の動作）について説明する。
図８は、本発明の第１の実施形態に係る学習部１０以外の機能部の動作を示すフローチャートである。
【００９６】
推論部３０の推論画像取得部３０２は、推論画像を取得する。推論画像取得部３０２は、取得した推論画像を推論画像変換部３０３へ出力する。推論画像取得部３０２から出力された推論画像変換部３０３は、推論画像を取得する。また、推論画像変換部３０３は、パラメータ格納部３０１から学習終了後パラメータを取得する（ステップＳ６０１）。推論画像変換部３０３は、取得した学習終了後パラメータに基づいて、取得した推論画像に対する画像変換を行う。推論画像変換部３０３は、画像変換された変換後推論画像を画像伝送部４０へ出力する（ステップＳ６０２）。
【００９７】
画像伝送部４０の符号化部４０１は、推論画像変換部３０３から出力された変換後推論画像を取得する。符号化部４０１は、取得した変換後推論画像を、例えばＨ．２６５／ＨＥＶＣ等の既存符号化方式によって符号化することでビットストリームに変換する。符号化部４０１は、変換されたビットストリームを画像伝送部４０の復号部４０２へ送信する（ステップＳ６０３）。
【００９８】
復号部４０２は、符号化部４０１から送信されたビットストリームを受信する。復号部４０２は、受信したビットストリームに対して、例えばＨ．２６５／ＨＥＶＣ等の既存符号化方式で復号する。これにより、復号部４０２は、復号画像を得る（ステップＳ６０４）。復号部４０２は、復号画像を画像補正部５０へ出力する。
【００９９】
画像補正部５０は、画像補正部５０から出力された復号画像を取得する。画像補正部５０は、取得した復号画像に対して、画像処理精度を向上させるような補正処理として、例えば、復号画像のコントラストを所定の補正パラメータ（補正係数）に基づいてガンマ補正する処理を行う。これにより、画像補正部５０は、補正画像を得る（ステップＳ６０５）。画像補正部５０は、補正画像を画像処理部６０へ出力する。
【０１００】
なお、上記の補正処理を行う目的は、画像変換の際に、平滑化の副作用として画像のコントラストが低下してしまう現象を補正することである。但し、コントラストをガンマ補正する補正処理に限られるものではない。補正処理が、例えば画素値ヒストグラムの正規化等の処理であっても、同様の効果を奏する。なお、ここでは、固定パラメータでのガンマ補正によるコントラスト補正が行われる構成を想定しているが、画像毎に補正パラメータが算出されて伝送される構成であってもよい。
【０１０１】
画像処理部６０は、画像処理パラメータ格納部２０から、学習部１０において用いられた画像処理変換モデルのモデルパラメータと同一の画像処理パラメータを取得する（ステップＳ６０６）。また、画像処理部６０は、画像補正部５０から出力された補正画像を取得する。画像処理部６０は、取得した画像処理パラメータに基づいて、取得した補正画像に対して画像処理を行う。これにより、画像処理部６０は、画像処理結果を得る。画像処理部６０は、画像処理結果を示す情報を、例えば外部の装置等へ出力する（ステップＳ６０７）。
以上で、学習部１０以外の機能部による図８のフローチャートの動作が終了する。
【０１０２】
［推論画像変換部の動作］
以下、推論画像変換部３０３の動作について更に詳しく説明する。なお、以下に説明する推論画像変換部３０３の動作は、上述した図８のステップＳ６０１及びステップＳ６０２の動作に相当する。
図９は、本発明の第１の実施形態に係る推論画像変換部３０３の動作の一例を示すフローチャートである。
【０１０３】
推論画像変換部３０３は、パラメータ格納部３０１から学習終了後パラメータを取得する（ステップＳ７０１）。また、推論画像変換部３０３は、推論画像取得部３０２から出力された推論画像を取得する（ステップＳ７０２）。推論画像変換部３０３は、取得した学習終了後パラメータに基づいて、取得した推論画像を画像変換する（ステップＳ７０３）。これにより、推論画像変換部３０３は、変換後推論画像を得る。なお、ここで用いられる画像変換として、例えばニューラルネットワークを用いた非線形変換等が挙げられる。推論画像変換部３０３は、画像変換された変換後推論画像を画像伝送部４０へ出力する（ステップＳ７０４）。
以上で、推論画像変換部３０３による図９のフローチャートの動作が終了する。
【０１０４】
［画像処理部の動作］
以下、画像処理部６０の動作について更に詳しく説明する。なお、以下に説明する画像処理部６０の動作は、上述した図８のステップＳ６０６及びステップＳ６０７の動作に相当する。
図１０は、本発明の第１の実施形態に係る画像処理部６０の動作の一例を示すフローチャートである。
【０１０５】
画像処理部６０は、画像処理パラメータ格納部２０から画像処理パラメータを取得する（ステップＳ８０１）。また、画像処理部６０は、画像補正部５０から出力された補正画像を取得する（ステップＳ８０２）。画像処理部６０は、取得した補正画像に対して、取得した画像処理パラメータに基づく画像処理を行う（ステップＳ８０３）。これにより、画像処理部６０は、画像処理結果を得る。なお、ここでいう画像処理としては、例えば、ニューラルネットワークを用いた物体識別、物体検出、及び領域分割等の画像処理が挙げられる。画像処理部６０は、画像処理結果を示す情報を、例えば外部の装置等へ出力する（ステップＳ８０４）。
以上で、画像処理部６０による図１０のフローチャートの動作が終了する。
【０１０６】
＜第２の実施形態＞                            
学習部における学習処理にはいくつかの方式が考えられる。これらの方式を大きく分けると、学習画像処理部による処理（以下、「画像処理モデル」という。）を学習の対象に含めずに学習を行う方式と、画像処理モデルを学習の対象に含めて学習を行う方式の２通りが存在する。なお、上述した第１の実施形態は、画像処理モデルを学習の対象に含めない前者の方式の一例である。
【０１０７】
一方、画像処理モデルを学習の対象に含める後者の方式では、前者の方式と比較して、学習すべきパラメータが増加する。そのため、学習に掛かる時間が長くなり、学習を収束させるために必要なデータ数が増大する。しかしながら、後者の方式には、画像処理モデルを変換画像に適合するように学習させることができるという利点がある。
以下、学習部が後者の方式によって学習処理を行う第２の実施形態について、図面を参照しながら説明する。
【０１０８】
［画像処理装置の構成］
以下、画像処理装置１ｂの機能構成について説明する。
図１１は、本発明の第２の実施形態に係る画像処理装置１ｂの機能構成を示すブロック図である。
【０１０９】
図１１に示すように、第２の実施形態に係る画像処理装置１ｂの機能構成が、上述した第１の実施形態に係る画像処理装置１の機能構成と異なる点は、画像処理最適化部１０６と、画像処理パラメータ保存部１０８と、をさらに備える点である。画像処理最適化部１０６は、画像処理モデルのパラメータを最適化する。そして、最適化部１０７ｂは、画像処理最適化部１０６によって算出された伝播済み画像処理ロスと、画像平滑化ロスとを用いて、画像処理モデルのパラメータを最適化する。なお、以下の説明において、第１の実施形態と同様の機能を有する機能部に対しては同一の符号を付し、当該機能部についての説明を省略する。
【０１１０】
［学習画像処理部の動作］
以下、学習処理モデルも含めて学習を行う学習画像処理部１０５の動作について説明する。
図１２は、本発明の第２の実施形態に係る学習画像処理部１０５ｂの動作の一例を示すフローチャートである。
【０１１１】
学習画像処理部１０５ｂは、現在の学習の繰り返し回数（すなわち、それまでに学習が繰り返された回数）を示す情報を取得する（ステップＳ９０１）。なお、現在の学習の繰り返し回数を示す情報は、例えば、学習部１０ｂが備える記憶媒体等に記憶されているものとする。
【０１１２】
学習画像処理部１０５ｂは、学習開始時であるか否かを判定する。すなわち、学習画像処理部１０５ｂは、取得した情報に基づく学習回数が０であるか否かを判定する（ステップＳ９０２）。学習回数が０である場合（ステップＳ９０２・Ｙｅｓ）、学習画像処理部１０５ｂは、学習処理モデルのパラメータを初期化する（ステップＳ９０３）。
【０１１３】
なお、学習画像処理部１０５ｂが、一般的に用いられるような、ガウス分布に基づくランダム値によってパラメータの初期化を行う構成であってもよいし、事前に行われた学習に基づく画像処理モデルのパラメータを用いてFine-tuningを行うことによってパラメータの初期化を行う構成であってもよい。
【０１１４】
一方、学習回数が０ではない（すなわち、１以上である）場合（ステップＳ９０２・Ｎｏ）、学習画像処理部１０５ｂは、画像処理パラメータ保存部１０８から、学習処理モデルのパラメータを取得する（ステップＳ９０４）。
【０１１５】
学習画像処理部１０５ｂは、学習画像記憶部１０１から、画像処理における正解データを示す正解ラベルを取得する（ステップＳ９０５）。なお、上述したように、正解データとは、画像内の被写体の識別を行う場合においては、例えば、各対象物が写っているかどうかを示すベクトル列等であり、画像の領域分割を行う場合においては、例えば、画像内の各ピクセルがどの領域に属するかを示す配列等である。
【０１１６】
学習画像処理部１０５ｂは、学習画像変換部１０２から出力された変換後学習画像（ここでは、変換後学習画像Ｙ’とする。）を取得する（ステップＳ９０６）。学習画像処理部１０５ｂは、取得した変換後学習画像に対して、取得した学習処理モデルのパラメータに基づく画像処理を行う（ステップＳ９０７）。これにより、学習画像処理部１０５ｂは、画像処理結果（ここでは、画像処理結果ｘとする。）を得る。
【０１１７】
学習画像処理部１０５ｂは、取得した変換後学習画像Ｙ’に対して画像処理を行い、上記の画像処理結果ｘと正解ラベル（ここでは、正解ラベルｙとする。）との差分を最小化するような画像処理ロス（勾配）を算出する（ステップＳ９０８）。なお、画像処理ロスとしては、例えば、上記の（１）式で表される交差エントロピーＬｃｒｏｓｓ＿ｅｎｔｒｏｐｙ等が一般に用いられる。但し、画像処理ロスは、（１）式のような交差エントロピーに限られるものではない。画像処理ロスを算出する関数が、所望の画像処理タスクにおいて適切な目的関数であるならば、例えば平均二乗誤差等であっても、同様の効果を奏する。
【０１１８】
学習画像処理部１０５ｂは、算出された画像処理ロスを、画像処理最適化部１０６へ出力する（ステップＳ９０９）。なお、この際、得られた画像処理ロスは、学習処理モデルの入力部までは伝播させない。
以上で、学習画像処理部１０５ｂによる図１２のフローチャートの動作が終了する。
【０１１９】
［画像処理最適化部の動作］
以下、画像処理最適化部１０６の動作について説明する。
図１３は、本発明の第２の実施形態に係る画像処理最適化部１０６の動作の一例を示すフローチャートである。
【０１２０】
画像処理最適化部１０６は、学習画像処理部１０５ｂから出力された画像処理ロスを取得する（ステップＳ１００１）。また、画像処理最適化部１０６は、画像処理パラメータ保存部１０８から画像処理モデルのパラメータを取得する（ステップＳ１００２）。画像処理最適化部１０６は、取得した画像処理ロスを用いて、取得した画像処理モデルのパラメータを更新する（ステップＳ１００３）。
【０１２１】
なお、パラメータの更新には、例えば、ＳＧＤ（確率的勾配降下法）、及び勾配降下法の最適化アルゴリズムの１つであるＡｄａｍ等が用いられるのが一般的である。但し、これに限られるものではなく、ニュートン法等の他の最適化アルゴリズムが用いられても構わない。なお、この際の勾配の計算方式には、例えば誤差逆伝播法等を用いることによりニューラルネットワークの階層ごとに勾配を伝播する方式が用いられる。
【０１２２】
画像処理最適化部１０６は、画像処理モデルのパラメータの更新の際に画像処理モデルの入力部まで伝播させた勾配を、伝播済み画像処理ロスとして最適化部１０７ｂへ出力する（ステップＳ１００４）。
【０１２３】
画像処理最適化部１０６は、この繰り返しにおいて学習を終了したか否かを判定する（ステップＳ１００５）。なお、学習の終了の判定は、予め決められた学習回数に達したか否かに基づいて行われてもよいし、又は、例えば損失関数の推移等に基づいて人手によって行われてもよい。
【０１２４】
学習が終了したと判定された場合（ステップＳ１００５・Ｙｅｓ）、画像処理最適化部１０６は、更新された学習処理モデルのパラメータを，画像処理パラメータ格納部２０ｂに格納する（ステップＳ１００６）。一方、学習が終了していないと判定された場合（ステップＳ１００５・Ｎｏ）、画像処理最適化部１０６は、更新された学習処理モデルのパラメータを、画像処理パラメータ保存部１０８に保存する（ステップＳ１００７）。
以上で、画像処理最適化部１０６による図１３のフローチャートの動作が終了する。
【０１２５】
なお、後段の推論部３０の処理以降の処理は、上述した第１の実施形態における処理と同様である。すなわち、画像処理装置１ｂは、推論画像変換部３０３によって画像変換を行い、画像伝送部４０によって一般的な符号化方式に則った符号化処理及び復号処理を行い、画像補正部５０において画像のコントラスト補正を行う。そして、画像処理装置１ｂは、画像処理部６０によって画像処理パラメータ格納部２０ｂから取得される画像処理モデルのパラメータに基づく画像処理を行い、画像処理結果を出力する。
【０１２６】
＜第３の実施形態＞
学習部が備える最適化部における学習処理についても、いくつかの方式が考えられる。例えば、上述したように、第１の実施形態は、目視精度ロスについての学習を、画像平滑化ロス及び画像処理ロスの事前学習として扱う方式について示したものである。
【０１２７】
一方、第３の実施形態は、目視精度ロス、画像平滑化ロス、及び画像処理ロスについて全て同時に学習を行う方式について示したものである。３つのロスについて全て同時に学習を行う後者の方式は、全てのロスを同時に学習することができるため、前者の方式と比較して、学習おける繰り返し回数をより削減することができるという利点がある。なお、以下に説明する第３の実施形態の方式は、目視精度ロスと画像処理ロスとが相反する場合（例えば、目視精度ロスが下がると画像処理ロスが上がってしまう場合）において適用されうる方式である。目視精度ロスと画像処理ロスとが相反する場合には、目視精度ロスと画像処理ロスとを同時に学習させることで、目視精度ロスと画像処理ロスとのトレードオフを取るような画像変換を実現することができる。
以下、最適化部が後者の方式によって学習処理を行う第３の実施形態について、図面を参照しながら説明する。
【０１２８】
［画像処理装置の構成］
第３の実施形態に係る画像処理装置の全体構成図は、図１に示した第１の実施形態に係る画像処理装置１の全体構成図、又は図１１に１に示した第２の実施形態に係る画像処理装置１の全体構成図と同一である。但し、最適化部の処理が、第１の実施形態及び第２の実施形態とは異なる。
【０１２９】
［最適化部の動作］
以下、第３の実施形態に係る最適化部の動作について説明する。
図１４は、本発明の第３の実施形態に係る最適化部の動作の一例を示すフローチャートである。図１４に示すフローチャートは、図１に示した第１の実施形態に係る画像処理装置１の構成において、３つのロスを全て同時に最適化する場合における最適化部（以下、「最適化部１０７ｃ」という。）の動作を示したものである。
【０１３０】
最適化部１０７ｃは、学習画像平滑化部１０４から出力された画像平滑化ロスを取得する（ステップＳ１１０１）。また、最適化部１０７ｃは、学習画像処理部１０５から出力された画像処理ロスを取得する（ステップＳ１１０２）。最適化部１０７ｃは、目視精度保持部１０３から出力された目視精度ロスを取得する（ステップＳ１１０３）。また、最適化部１０７ｃは、学習画像変換部１０２から出力されたモデルパラメータを取得する（ステップＳ１１０４）。
【０１３１】
最適化部１０７ｃは、目視精度ロスと、画像平滑化ロスと、画像処理ロスとを、結合荷重λｖｉｓｕａｌ’λｃｒｏｓｓ＿ｅｎｔｒｏｐｙ’λＴＶで線形結合し、モデルパラメータを更新する（ステップＳ１１０５）。なお、結合荷重としては、例えば凡そ１：１：１程度で全てのロスを同等に評価するような比率が考えられる。但し、このような所定の比率に限られるものではなく、例えば、損失関数全体の推移を見ながら人手で調整を行うこと等によっても、同様の効果を奏する。
【０１３２】
なお、モデルパラメータの更新には、上述したように、例えば、ＳＧＤ（確率的勾配降下法）、及び勾配降下法の最適化アルゴリズムの１つであるＡｄａｍ等が用いられるのが一般的である。但し、これに限られるものではなく、ニュートン法等の他の最適化アルゴリズムが用いられても構わない。
【０１３３】
最適化部１０７ｃは、この繰り返しにおいて学習を終了したか否かを判定する（ステップＳ１１０６）。なお、学習の終了の判定は、予め決められた学習回数に達したか否かに基づいて行われてもよいし、又は、例えば損失関数の推移等に基づいて人手によって行われてもよい。
【０１３４】
学習が終了したと判定された場合（ステップＳ１１０６・Ｙｅｓ）、最適化部１０７ｃは、学習終了後パラメータをパラメータ格納部３０１に格納する（ステップＳ５１１０７）。一方、学習が終了していないと判定された場合（ステップＳ１１０６・Ｎｏ）、最適化部１０７ｃは、更新後モデルパラメータを学習画像変換部１０２へ出力する（ステップＳ５１１０８）。
以上で、最適化部１０７ｃによる図１４のフローチャートの動作が終了する。
【０１３５】
以上説明したように、上述した実施形態に係る画像処理装置１（又は画像処理装置１ｂ）は、入力画像（原画像）に基づく画像（復号画像）に対して画像処理を実行し、前記画像処理の結果を出力する画像処理部６０を備え、前記入力画像は、原画像に対して画像変換がなされた変換後推論画像（変換後画像）に基づく画像であり、前記画像変換は、前記画像処理に用いられる特徴量及び前記画像処理の処理精度を保持しつつ、前記原画像のデータサイズをより小さくする画像変換である。
【０１３６】
上記のような構成を備えることにより、上述した実施形態に係る画像処理装置１（又は画像処理装置１ｂ）は、後段の符号化方式に依存することなく、物体識別・物体検出・領域分割等の画像処理に対して、画像処理精度を低下させずに画像を符号化した際の符号量を低減させることが可能となる。さらに、上述した実施形態に係る画像処理装置１（又は画像処理装置１ｂ）によれば、人間が目視検査を行った際の検査精度である目視精度も保持することができる。これにより、画像処理装置１（又は画像処理装置１ｂ）は、低符号量での画像伝送が可能になる。更に副次的な効果として、画像処理システムを活用した目視検査工程の自動化の産業的な応用が図られる。
【０１３７】
なお、上述した実施形態において、上記のような形態で実施されるプログラムは、単一の装置に依存するものではなく、プログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませて実行するものであってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境（あるいは表示環境）を備えたＷＷＷシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに、「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（ＲＡＭ）のように、一定時間プログラムを保持しているものも含むものとする。
【０１３８】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク（通信網）や電話回線等の通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であってもよい。
【０１３９】
以上、本発明の実施の形態を説明してきたが、上記実施の形態は本発明の例示に過ぎず、本発明が上記実施の形態に限定されるものではないことは明らかである。したがって、本発明の技術思想及び範囲を逸脱しない範囲で構成要素の追加、省略、置換、その他の変更を行っても良い。
【符号の説明】
【０１４０】
１…画像処理装置、１ｂ…画像処理装置、１０…学習部、１０ｂ…学習部、２０…画像処理パラメータ格納部、２０ｂ…画像処理パラメータ格納部、３０…推論部、４０…画像伝送部、５０…画像補正部、６０…画像処理部、１０１…学習画像記憶部、１０２…学習画像変換部、１０３…目視精度保持部、１０４…学習画像平滑化部、１０５…学習画像処理部、１０５ｂ…学習画像処理部、１０６…画像処理最適化部、１０７…最適化部、１０７ｂ…最適化部、１０８…画像処理パラメータ保存部、１９５…学習画像処理部、３０１…パラメータ格納部、３０２…推論画像取得部、３０３…推論画像変換部、４０１…符号化部、４０２…復号部
【図１】
2020092329.tif 000005
【図２】
2020092329.tif 000006
【図３】
2020092329.tif 000007
【図４】
2020092329.tif 000008
【図５】
2020092329.tif 000009
【図６】
2020092329.tif 000010
【図７】
2020092329.tif 000011
【図８】
2020092329.tif 000012
【図９】
2020092329.tif 000013
【図１０】
2020092329.tif 000014
【図１１】
2020092329.tif 000015
【図１２】
2020092329.tif 000016
【図１３】
2020092329.tif 000017
【図１４】
2020092329.tif 000018