(57)【要約】【課題】学習済みカテゴリの認識精度を保持しつつも、未学習カテゴリの検知精度を高精度とすることができるようにする。【解決手段】相対的確率算出部１１２が、規定のカテゴリのそれぞれについて、入力画像１６０が前記カテゴリに属しうる確率を相対的な確率として表現する相対的確率を求め、絶対的確率算出部１１３が、前記規定のカテゴリのそれぞれについて、前記入力画像１６０が前記カテゴリに属しうる確率を表現する絶対的確率を求める。判定部１１４が、何れのカテゴリの前記絶対的確率も所定の閾値を超えない場合には、前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力する。【選択図】図２
2019023801.tif 000002
【特許請求の範囲】
【請求項１】
入力される少なくとも一つの画像である入力画像が入力された際に、規定のカテゴリの中から前記入力画像が属するカテゴリを出力するか、又は、前記入力画像が前記規定のカテゴリのいずれにも属さないかを出力する識別器を備える画像認識装置であって、
前記識別器は、
前記規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を相対的な確率として表現する相対的確率を求める相対的確率算出部と、
前記規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を表現する絶対的確率を求める絶対的確率算出部と、
何れのカテゴリの前記絶対的確率も所定の閾値を超えない場合には、前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力する判定部と、
を含み、
前記識別器は、学習用画像、及び、前記学習用画像が属する正解カテゴリを含む組の一つ以上からなる学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記相対的確率について、前記正解カテゴリに対応する前記相対的確率が大きければ大きいほど、小さい値を出力する相対的目的関数、及び、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記絶対的確率について、前記正解カテゴリに対応する前記絶対的確率が１に近ければ近いほど、又は、前記正解カテゴリでないカテゴリに対応する前記絶対的確率が０に近ければ近いほど、小さい値を出力する絶対的目的関数の２つの目的関数の出力値が、より小さい値となるように学習される画像認識装置。
【請求項２】
前記識別器は、前記相対的目的関数の出力値が小さい値となるように学習された後に、前記絶対的目的関数の出力値が小さい値となるように学習される請求項１に記載の画像認識装置。
【請求項３】
前記判定部は、前記規定のカテゴリのそれぞれについて、前記入力画像に対して計算された前記相対的確率と前記絶対的確率との積を求め、何れのカテゴリの前記積も所定の閾値を超えない場合には前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力し、
前記識別器は、前記学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して前記規定のカテゴリのそれぞれについて計算した前記相対的確率と前記絶対的確率との積について、前記正解カテゴリに対応する前記積の値が大きければ大きいほど、小さい値を出力する統合目的関数の出力値が、より小さい値となるように学習される請求項１又は２に記載の画像認識装置。
【請求項４】
識別器が、入力される少なくとも一つの画像である入力画像が入力された際に、規定のカテゴリの中から前記入力画像が属するカテゴリを出力するか、又は、前記入力画像が前記規定のカテゴリのいずれにも属さないかを出力する画像認識方法であって、
前記識別器において、
相対的確率算出部が、前記規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を相対的な確率として表現する相対的確率を求める相対的確率算出部ステップと、
絶対的確率算出部が、前記規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を表現する絶対的確率を求めるステップと、
判定部が、何れのカテゴリの前記絶対的確率も所定の閾値を超えない場合には、前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力するステップと、
を含み、
前記識別器は、学習用画像、及び、前記学習用画像が属する正解カテゴリを含む組の一つ以上からなる学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記相対的確率について、前記正解カテゴリに対応する前記相対的確率が大きければ大きいほど、小さい値を出力する相対的目的関数、及び、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記絶対的確率について、前記正解カテゴリに対応する前記絶対的確率が１に近ければ近いほど、又は、前記正解カテゴリでないカテゴリに対応する前記絶対的確率が０に近ければ近いほど、小さい値を出力する絶対的目的関数の２つの目的関数の出力値が、より小さい値となるように学習される画像認識方法。
【請求項５】
前記識別器は、前記相対的目的関数の出力値が小さい値となるように学習された後に、前記絶対的目的関数の出力値が小さい値となるように学習される請求項４に記載の画像認識方法。
【請求項６】
前記判定部が判定することでは、前記規定のカテゴリのそれぞれについて、前記入力画像に対して計算された前記相対的確率と前記絶対的確率との積を求め、何れのカテゴリの前記積も所定の閾値を超えない場合には前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力し、
前記識別器は、前記学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して前記規定のカテゴリのそれぞれについて計算した前記相対的確率と前記絶対的確率との積について、前記正解カテゴリに対応する前記積の値が大きければ大きいほど、小さい値を出力する統合目的関数の出力値が、より小さい値となるように学習される請求項４又は５に記載の画像認識方法。
【請求項７】
コンピュータを、請求項１乃至請求項３記載の何れか１項記載の画像認識装置の各部として機能させるための画像認識プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像認識方法、画像認識装置、及び画像認識プログラムに関し、特に、入力画像が学習済みのカテゴリの何れかに属するか、未学習のカテゴリに属するかを認識する画像認識方法、画像認識装置、及び画像認識プログラムに関する。
【背景技術】
【０００２】
ＣＰＵ／ＧＰＵ等の計算機性能の向上、及び、深層学習に代表される人工知能技術の進歩により、画像認識技術は目覚ましい発展を遂げている。今、これまでの限られた応用範囲を超え、広くさまざまな実世界の問題への適用が期待されているところである。
【０００３】
画像認識の問題は、入力された画像が、事前に規定されたカテゴリのうちのいずれに属するかを識別器によって自動的に判定することである。ここでいうカテゴリとは、画像が表現可能な意味内容を分類・命名可能な概念を指すものであり、一般にはどのようなものによって規定されていてもよい。例えば、画像に写る物体の一般名称や固有名詞、あるいは人物の動作や事象などを含んでいる。
【０００４】
画像認識技術分野においては、２０１２年頃に畳み込みニューラルネットワーク(Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ：ＣＮＮ)と呼ばれる深層学習モデルを識別器として用いることにより、極めて高精度な認識が実現できることが確認された（参考文献１）。以来、現代の画像認識技術は、多くの場合ＣＮＮを識別器として用いる構成を取るようになってきている（参考文献２）。
【０００５】
ＣＮＮ、あるいは、別の構成を取る場合であっても、予め識別器を学習する必要がある。認識したい対象カテゴリを規定した上で、そのうちのどのカテゴリに属するかが明らかな画像（正解カテゴリが既知の画像）を学習用画像として数多く準備し、各画像が正解カテゴリに属すると判定されるように識別器のパラメータを学習する。
【０００６】
［参考文献１］Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton: ImageNet Classification with Deep Convolutional Neural Networks. In Proceedings of the Neural Information Processing Systems, pp. 1106-1114, 2012.
【０００７】
［参考文献２］Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun: Deep Residual Learning for Image Recognition. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, pp. 770-778., 2016
【０００８】
しかし、識別器による画像認識技術を、実世界に実装・動作させ、運用していく上では、このような学習の手続きには問題点がある。実世界には数多のカテゴリが存在し、それら全てを網羅するような学習用画像を事前に準備することは困難である。したがって、当然のことながら、学習したカテゴリ以外の「未学習」のカテゴリに属する画像に遭遇することになるが、ここで、先の学習技術は未学習のカテゴリを想定していないということが問題を引き起こす。
【０００９】
図１を用いてわかりやすく説明する。図１は、「犬」と「鳥」という２つのカテゴリについて学習を行った識別器の識別空間（実際に識別が行われるベクトル空間であり、例えばＣＮＮを用いた場合には、その内部にある出力層直前の隠れ層をベクトル空間として見た場合などに相当する）の様子を示している。通常の学習技術は、これらの２つのカテゴリを分離すればよいと考えるため、それぞれに属する学習用画像を分離するような、図に示すような識別面を学習することになる。
【００１０】
一方で、もしここに、２つのカテゴリのいずれのも属さないような未学習のカテゴリ「キリン」に属する画像が入力されたとしよう。当然のことながら、識別面は識別空間を「犬」と「鳥」の２つの領域に分割するのみであるため、図１に示すように、「キリン」の画像が「犬」のカテゴリに分類されてしまうような問題が起こる。
【００１１】
すなわち、上記学習技術により学習した識別器は、未学習カテゴリに対して正しい認識結果を出力することができず、誤った認識結果を提示してしまうことになる。このような誤認識は、認識に対する信頼性を低下させ、利用者の利用意欲を減退させるという悪影響を及ぼすことになる。
【００１２】
以上論じたように、画像認識技術を実世界で運用する上では、未学習のカテゴリについても誤認識することなく、未学習であることを検知することが可能な画像認識技術の創出が不可欠であるといえよう。
【００１３】
従来、いくつかの発明がなされ、開示されてきている。
【００１４】
特許文献１では、物体そのものではなく、そのパーツを検出することで、未学習の物体についても推定可能な技術を開示している。未学習の物体に対して、どのようなパーツを含んでいるかがわかれば、既に学習済みの物体と共通するパーツを見ることで、未学習の物体に対してもおおよそどのようなものであるのかについて、推定を行うことができる。
【００１５】
非特許文献１では、画像特徴量空間において、各カテゴリの平均ベクトルを最頻値とした確率分布を規定し、その裾に閾値を設けることで、各カテゴリについて特徴量空間上に閉領域を形成し、これを識別器として用いる。つまり、すべてのカテゴリについて平均からの距離に対応する確率が閾値以下であった場合に未学習カテゴリであると判断することができる。
【００１６】
非特許文献２では、ＣＮＮの識別空間を構成する層からの出力を特徴量と見做し、非特許文献１と同様に閾値処理を行うことで未学習のカテゴリを検出することを可能にしている。
【先行技術文献】
【特許文献】
【００１７】
【特許文献１】特開２０１６−９１０５１号公報
【非特許文献】
【００１８】
【非特許文献１】Abhijit Bendale, Terrance Boult: Towards Open World Recognition. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2015, pp. 1893-1902.
【非特許文献２】Abhijit Bendale, Terrance Boult: Towards Open Set Deep Networks. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2016, pp. 1563-1572.
【発明の概要】
【発明が解決しようとする課題】
【００１９】
以上紹介した既存の技術は、いずれも学習時点では未学習のカテゴリを考慮した技術にはなっていない点が問題である。すなわち、上記既存技術は、図１の例で述べたような学習済みのカテゴリの分類に最適化した形で識別器が学習されているにすぎず、これは必ずしも未学習カテゴリに対応しやすい識別器ではない。
【００２０】
一般に、学習済みカテゴリに対する認識精度と、未学習のカテゴリを検出する精度はトレードオフの関係にあり、識別器が固定された下では、未学習カテゴリの検知を重視しようとすれば、その分だけ学習済みカテゴリの認識精度は劣化するし、逆もまた然りである。結果として、学習済みカテゴリの認識精度と未学習カテゴリの検知精度の双方が高精度であるような識別器を実現するためには、識別器を学習する時点でそれに適したものに近づけるような学習技術が不可欠である。
【００２１】
然るに、学習済みカテゴリの認識精度を保持しつつも、未学習カテゴリの検知精度が高精度となるような画像認識技術の実現は、現在においても重要な課題であると言える。
【００２２】
本発明は、この課題を鑑みてなされたものであり、学習済みカテゴリの認識精度を保持しつつも、未学習カテゴリの検知精度を高精度とすることができる画像認識装置、画像認識方法、及び画像認識プログラムを提供することを目的とする。
【課題を解決するための手段】
【００２３】
第１の発明に係る画像認識装置は、入力される少なくとも一つの画像である入力画像が入力された際に、規定のカテゴリの中から前記入力画像が属するカテゴリを出力するか、又は、前記入力画像が前記規定のカテゴリのいずれにも属さないかを出力する識別器を備える画像認識装置であって、前記識別器は、前記規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を相対的な確率として表現する相対的確率を求める相対的確率算出部と、前記規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を表現する絶対的確率を求める絶対的確率算出部と、何れのカテゴリの前記絶対的確率も所定の閾値を超えない場合には、前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力する判定部と、を含み、前記識別器は、学習用画像、及び、前記学習用画像が属する正解カテゴリを含む組の一つ以上からなる学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記相対的確率について、前記正解カテゴリに対応する前記相対的確率が大きければ大きいほど、小さい値を出力する相対的目的関数、及び、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記絶対的確率について、前記正解カテゴリに対応する前記絶対的確率が１に近ければ近いほど、又は、前記正解カテゴリでないカテゴリに対応する前記絶対的確率が０に近ければ近いほど、小さい値を出力する絶対的目的関数の２つの目的関数の出力値が、より小さい値となるように学習されることを特徴とする。
【００２４】
また、第２の発明に係る画像認識方法は、識別器が、入力される少なくとも一つの画像である入力画像が入力された際に、規定のカテゴリの中から前記入力画像が属するカテゴリを出力するか、又は、前記入力画像が前記規定のカテゴリのいずれにも属さないかを出力する画像認識方法であって、前記識別器において、相対的確率算出部が、前記規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を相対的な確率として表現する相対的確率を求める相対的確率算出部ステップと、絶対的確率算出部が、前記規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を表現する絶対的確率を求めるステップと、判定部が、何れのカテゴリの前記絶対的確率も所定の閾値を超えない場合には、前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力するステップと、を含み、前記識別器は、学習用画像、及び、前記学習用画像が属する正解カテゴリを含む組の一つ以上からなる学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記相対的確率について、前記正解カテゴリに対応する前記相対的確率が大きければ大きいほど、小さい値を出力する相対的目的関数、及び、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記絶対的確率について、前記正解カテゴリに対応する前記絶対的確率が１に近ければ近いほど、又は、前記正解カテゴリでないカテゴリに対応する前記絶対的確率が０に近ければ近いほど、小さい値を出力する絶対的目的関数の２つの目的関数の出力値が、より小さい値となるように学習されることを特徴とする。
【００２５】
第１の発明に係る画像認識装置及び第２の発明に係る画像認識方法によれば、識別器は、相対的確率算出部によって、規定のカテゴリのそれぞれについて、入力画像が前記カテゴリに属しうる確率を相対的な確率として表現する相対的確率を求め、絶対的確率算出部によって、規定のカテゴリのそれぞれについて、前記入力画像が前記カテゴリに属しうる確率を表現する絶対的確率を求め、判定部によって、何れのカテゴリの前記絶対的確率も所定の閾値を超えない場合には、前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力する。
【００２６】
そして、前記識別器は、学習用画像、及び、前記学習用画像が属する正解カテゴリを含む組の一つ以上からなる学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記相対的確率について、前記正解カテゴリに対応する前記相対的確率が大きければ大きいほど、小さい値を出力する相対的目的関数、及び、前記学習データにおける前記学習用画像のそれぞれに対して計算した前記絶対的確率について、前記正解カテゴリに対応する前記絶対的確率が１に近ければ近いほど、又は、前記正解カテゴリでないカテゴリに対応する前記絶対的確率が０に近ければ近いほど、小さい値を出力する絶対的目的関数の２つの目的関数の出力値が、より小さい値となるように学習される。
【００２７】
このように、相対的確率と絶対的確率の双方を用いて学習した識別器を使い、絶対的確率を判定に用いる。識別器は一度、相対的確率に基づいて学習されているため、学習済みのカテゴリに属する画像が入力された際には正解となるカテゴリに対して高い値を出力することができ、認識精度を高く保つことができる。また、未学習カテゴリに属するような画像が入力された場合であっても、絶対的確率に基づく評価を行うことで、どの学習済みカテゴリに対しても小さい確率値を出力することができるため、未学習カテゴリであると、精度よく判定することができる。
【００２８】
このため、学習済みカテゴリの認識精度を保持しつつも、未学習カテゴリの検知精度を高精度とすることができる。
【００２９】
第３の発明に係る画像認識装置は、第１の発明に係る画像認識装置であって、前記識別器は、前記相対的目的関数の出力値が小さい値となるように学習された後に、前記絶対的目的関数の出力値が小さい値となるように学習されることを特徴とする。
【００３０】
第４の発明に係る画像認識方法は、第２の発明に係る画像認識方法であって、前記識別器は、前記相対的目的関数の出力値が小さい値となるように学習された後に、前記絶対的目的関数の出力値が小さい値となるように学習されることを特徴とする。
【００３１】
第３の発明に係る画像認識装置及び第４の発明に係る画像認識方法によれば、識別器は、前記相対的目的関数の出力値が小さい値となるように学習された後に、前記絶対的目的関数の出力値が小さい値となるように学習される。
【００３２】
このように、先に相対的確率が期待する出力となるように学習することで、規定のカテゴリに対して高い認識精度を持つような識別器を学習した後、さらに絶対的確率に基づく学習により識別器の修正学習を行う。
【００３３】
このため、先に保持した規定のカテゴリに対する認識精度を保持しつつ、未学習カテゴリを判定可能な識別器を構成することが可能になるため、学習済みカテゴリの認識精度を保持しつつも、未学習カテゴリの検知精度を高精度とすることができる。
【００３４】
第５の発明に係る画像認識装置は、第１又は第３の発明に係る画像認識装置であって、前記判定部は、前記規定のカテゴリのそれぞれについて、前記入力画像に対して計算された前記相対的確率と前記絶対的確率との積を求め、何れのカテゴリの前記積も所定の閾値を超えない場合には前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力し、前記識別器は、前記学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して前記規定のカテゴリのそれぞれについて計算した前記相対的確率と前記絶対的確率との積について、前記正解カテゴリに対応する前記積の値が大きければ大きいほど、小さい値を出力する統合目的関数の出力値が、より小さい値となるように学習されることを特徴とする。
【００３５】
第６の発明に係る画像認識方法は、第２又は第４の本発明に係る画像認識方法であって、前記判定部が判定することでは、前記規定のカテゴリのそれぞれについて、前記入力画像に対して計算された前記相対的確率と前記絶対的確率との積を求め、何れのカテゴリの前記積も所定の閾値を超えない場合には前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力し、前記識別器は、前記学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して前記規定のカテゴリのそれぞれについて計算した前記相対的確率と前記絶対的確率との積について、前記正解カテゴリに対応する前記積の値が大きければ大きいほど、小さい値を出力する統合目的関数の出力値が、より小さい値となるように学習されることを特徴とする。
【００３６】
第５の発明に係る画像認識装置及び第６の発明に係る画像認識方法によれば、前記判定部は、前記規定のカテゴリのそれぞれについて、前記入力画像に対して計算された前記相対的確率と前記絶対的確率との積を求め、何れのカテゴリの前記積も所定の閾値を超えない場合には前記入力画像が前記規定のカテゴリのいずれにも属さないと判定して出力する。
【００３７】
そして、前記識別器は、前記学習データが与えられた下で、前記学習データにおける前記学習用画像のそれぞれに対して前記規定のカテゴリのそれぞれについて計算した前記相対的確率と前記絶対的確率との積について、前記正解カテゴリに対応する前記積の値が大きければ大きいほど、小さい値を出力する統合目的関数の出力値が、より小さい値となるように学習される。
【００３８】
このように、相対的確率と絶対的確率の積を判定に用いるため、学習済みのカテゴリに属する画像が入力された際には、絶対的確率と相対的確率の双方が正解となるカテゴリに対して高くなりやすいため、認識精度を高く保つことができる。また、未学習カテゴリに属する画像が入力された際には、相対的確率はいずれかの学習済みカテゴリについて高い確率を出力しうるものの、絶対的確率はどのカテゴリに対しても小さい値を取るため、その積はどの学習済みカテゴリに対しても低い値が出力されることになる。したがって、全ての学習済みカテゴリに対する出力値が低い場合には、その画像が未学習カテゴリであることを、精度よく検知することができる。
【００３９】
また、相対的確率と絶対的確率の双方を、相対的目的関数と絶対的目的関数を統合した統合目的関数によって学習することによって、この構成による画像認識の処理動作に最適な識別器を学習することができる。
【００４０】
よって、学習済みカテゴリの認識精度を保持しつつも、未学習カテゴリの検知精度を高精度とすることができる。
【００４１】
第７の発明に係る画像認識プログラムは、前記第１、第３、又は第５の発明のうち何れか１つに係る画像認識装置の各部として機能させるための画像認識プログラムである。
【発明の効果】
【００４２】
以上述べたように、本発明によれば、学習済みカテゴリの認識精度を保持しつつも、未学習カテゴリの検知精度を高精度とすることができる画像認識装置、画像認識方法、及び画像認識プログラムを提供することができる。
【図面の簡単な説明】
【００４３】
【図１】通常の学習技術により学習したＣＮＮ識別器の様子の一例を表す図である。
【図２】本発明の実施形態に係る画像認識装置１００の構成の一例を示す機能ブロック図である。
【図３】本発明の実施形態に係る画像認識装置１００の構成の一例を示す機能ブロック図である。
【図４】本発明の実施形態に係る画像認識装置１００の構成の一例を示す機能ブロック図である。
【図５】本発明の実施の形態に係る画像認識装置１００が、絶対的確率のみを基に判定を行う構成の場合の認識処理の流れを示すフローチャートである。
【図６】本発明の実施の形態に係る画像認識装置１００が、対的確率と絶対的確率の積を基に判定を行う構成の場合の認識処理の流れを示すフローチャートである。
【図７】相対的確率、絶対的確率及びその積の関係を示す図である。
【図８】本発明の実施の形態に係る画像認識装置１００の学習処理フローを示すフローチャートである。
【発明を実施するための形態】
【００４４】
以下、本発明の実施の形態について図面を用いて説明する。
【００４５】
＜＜全体構成＞＞
【００４６】
図２は、本発明の実施形態に係る画像認識装置１００の構成の一例を示す機能ブロック図である。
【００４７】
図２に示す画像認識装置１００は、識別器１１０を備え、さらに、入力部１２０、学習制御部１３０、及び出力部１４０を備える。さらに識別器１１０は、特徴抽出部１１１、相対的確率算出部１１２、絶対的確率算出部１１３、及び判定部１１４を備えた構成を取る。
【００４８】
画像認識装置１００は、入力部１２０及び出力部１４０を介して外部と通信手段を介して接続されて相互に情報通信する。
【００４９】
入力部１２０からは外部からの入力、より具体的には、識別器１１０の学習時には学習データ１５０を、実際に認識を行う際には画像１６０を受け取る。出力部１４０は、入力された画像１６０の認識結果１７０を出力する。あるいは、学習済みの識別器１１０を構成する各部の学習済みパラメータを出力しても構わない。
【００５０】
識別器１１０を学習する際には、入力部１２０から入力された学習データ１５０は、識別器１１０及び学習制御部１３０に伝達され、学習制御部１３０の制御に従い、識別器１１０の学習処理が実行される。この結果、識別器１１０の各部のパラメータが決定される。
【００５１】
学習処理は、本発明による画像認識装置１００を利用する上で、事前に少なくとも一度実行していればよく、毎回実行する必要はない。然るに、仮に一度学習処理を実行した後の識別器１１０を保持しているならば、学習制御部１３０を具備しない構成をとっても構わない（図３）。さらに、構成によっては、最終的な判定に用いる確率は絶対的確率のみとすることも可能であり、この場合にはさらに相対的確率計算部を具備しない構成をとってもよい（図４）。
【００５２】
本発明の構成の一例においては、学習データ１５０は画像認識装置１００の外部から通信を用いて入力される。通信手段は任意の公知ものを用いることができるが、本実施形態においては、外部にあるものとして、通信手段は、インターネット、ＴＣＰ／ＩＰにより通信するよう接続されているものとする。
【００５３】
学習データ１５０には、少なくとも１組の画像ファイルとそのカテゴリ（正解カテゴリ）を示す情報が格納されているとする。さらに、各画像ファイルと正解カテゴリを一意に識別可能な識別子（例えば、ファイル固有の通し番号によるＩＤ等）が関連づけられており、任意のファイルを参照できるものであるとする。その他、メタデータとして、画像のタイトル、概要文、キーワード、フォーマット（ファイル形式、データサイズ）などを含んでいても構わないが、本発明の実施形態の一例においては利用しない。
【００５４】
正解カテゴリは、それに組となる画像が、予め規定された全てのカテゴリのそれぞれについて属するか否かを判断できる情報であるとする。最も単純には、その画像が属するカテゴリ名（またはそのＩＤ）が列挙されているような形式である。例えば、ある画像Ａが「犬」と「鳥」を写した画像であるような場合には、正解カテゴリは｛「犬」、「鳥」｝という情報となる。
【００５５】
なお、ここで、このような正解カテゴリ情報を定義するためには、認識の対象となる（すなわち、学習の対象となる）カテゴリが予め規定されている必要がある。このような学習対象となるカテゴリを規定のカテゴリと称する。
【００５６】
学習済みの識別器１１０を用いて、実際に画像１６０を認識する際には、入力部１２０から入力された画像１６０は、識別器１１０に伝達され、特徴抽出部１１１、相対的確率算出部１１２、絶対的確率算出部１１３、判定部１１４を経て認識結果を求め、これが出力部１４０を介して外部に認識結果１７０として出力される。
【００５７】
なお、図２において、実線矢印、破線矢印はそれぞれ画像認識処理時、識別器１１０の学習時のそれぞれのデータの通信とその方向を表している。
【００５８】
画像認識装置１００が備える各部は、演算処理装置、記憶装置等を備えたコンピュータやサーバ等により構成して、各部の処理がプログラムによって実行されるものとしてもよい。このプログラムは画像認識装置１００が備える記憶装置に記憶されており、磁気ディスク、光ディスク、半導体メモリ等の記録媒体に記録することも、ネットワークを通して提供することも可能である。もちろん、その他いかなる構成要素についても、単一のコンピュータやサーバによって実現しなければならないものではなく、ネットワークによって接続された複数のコンピュータに分散して実現しても構わない。
【００５９】
＜＜処理部の説明＞＞
【００６０】
本実施の形態における画像認識装置１００の各処理部について説明する。なお、入力部１２０、出力部１４０については、その動作は既に詳細に説明したので、ここでは識別器１１０を構成する各部の詳細、並びに、学習制御部１３０の詳細について述べる。
【００６１】
なお、学習処理時と認識処理時で動作が異なるため、わかりやすさのため、まず認識処理時の場合の処理動作について説明し、後に学習処理時の処理動作について説明する。
【００６２】
＜＜＜認識処理時の処理動作の詳細＞＞＞
【００６３】
認識処理時には学習制御部１３０は関わらず、識別器１１０が処理を実行する。以降、少なくとも一度学習処理が実行され、識別器１１０のパラメータは学習済みであるとする。
【００６４】
識別器１１０の処理は、判定部１１４が、絶対的確率のみを基に判定を行うか（図４に示した識別器１１０の構成を取る）、相対的確率と絶対的確率の積を基に判定を行うか（図２又は図３に示した識別器１１０の構成を取る）によって異なる。
【００６５】
まず、特徴抽出部１１１は、入力された画像１６０を受け取り、これに対して一つ以上の特徴量を抽出し、絶対的確率算出部１１３（及び相対的確率算出部１１２）に出力する。
【００６６】
相対的確率算出部１１２は、特徴抽出部１１１から入力された特徴量を基に、規定のカテゴリのそれぞれについて、画像１６０が当該カテゴリに属しうる確率を相対的な確率として表現した相対的確率を求め、判定部１１４に出力する。
【００６７】
絶対的確率算出部１１３は、特徴抽出部１１１から入力された特徴量を基に、規定のカテゴリのそれぞれについて、画像１６０が当該カテゴリに属しうる確率を表現した絶対的確率を求め、判定部１１４に出力する。
【００６８】
判定部１１４は、先に示したように、構成に応じて２種類の処理動作を取り得る。まず、絶対的確率のみを基に判定を行う構成の場合には、何れの絶対的確率の値も所定の閾値を超えない場合に、画像１６０が未学習カテゴリの画像であると判定し、出力部１４０に出力する。また、もし閾値を超える絶対的確率が存在した場合には、画像１６０が属する規定のカテゴリを判定する。
【００６９】
一方、もし相対的確率と絶対的確率の積を基に判定を行う場合には、規定のカテゴリのそれぞれについて、相対的確率と絶対的確率の積を求め、何れのカテゴリの相対的確率と絶対的確率の積の値も所定の閾値を超えない場合に、画像１６０が未学習カテゴリの画像であると判定し、出力部１４０に出力する。また、もし閾値を超える相対的確率と絶対的確率の積が存在した場合には、画像１６０が属する規定のカテゴリを判定する。
【００７０】
判定の方法は様々であるが、例えば、規定のカテゴリの中で最大の値を取るものに対応するカテゴリに属すると判定してもよいし、あるいは、閾値を超えた全てのカテゴリに属すると判定してもよい。閾値は０以上１以下の任意の値を取ってよい。
【００７１】
続いて、認識処理時の処理の流れについて詳細に説明する。処理の流れについても、判定部１１４の処理動作に応じて２種類の流れがあり得る。
【００７２】
図５は、絶対的確率のみを基に判定を行う構成の場合の認識処理の流れを示すフローチャートである。
【００７３】
まず、画像が入力された場合に、それに対して特徴抽出処理を行い一つ以上の特徴量を抽出する（ステップＳ５０１）。
【００７４】
続いて、特徴量を基に、規定のカテゴリのそれぞれについて、画像が当該カテゴリに属しうる確率を表現した絶対的確率を求める（ステップＳ５０２）。
【００７５】
最後に、絶対的確率と所定の閾値を比較することで入力画像が未学習カテゴリの画像であると判定するか、あるいは入力画像が属する規定のカテゴリを判定し、出力する（ステップＳ５０３）。
【００７６】
図６は、相対的確率と絶対的確率の積を基に判定を行う構成の場合の認識処理の流れを示すフローチャートである。
【００７７】
まず、画像が入力された場合に、それに対して特徴抽出処理を行い一つ以上の特徴量を抽出する（ステップＳ６０１）。
【００７８】
続いて、抽出された特徴量を基に、規定のカテゴリのそれぞれについて、画像が当該カテゴリに属しうる確率を相対的な確率として表現した相対的確率を求める（ステップＳ６０２）。
【００７９】
続いて、特徴量を基に、規定のカテゴリのそれぞれについて、画像が当該カテゴリに属しうる確率を表現した絶対的確率を求める（ステップＳ６０３）。
【００８０】
最後に、規定のカテゴリのそれぞれについて、相対的確率及び絶対的確率の積を求め、全てのカテゴリの相対的確率及び絶対的確率の積と所定の閾値を比較することで入力画像が未学習カテゴリの画像であると判定するか、あるいは入力画像が属する規定のカテゴリを判定し、出力する（ステップＳ６０４）。具体的には、何れのカテゴリの相対的確率と絶対的確率の積の値も所定の閾値を超えない場合に、画像が未学習カテゴリの画像であると判定する。
【００８１】
以上の処理により、入力された画像に対して、その画像が属する規定のカテゴリを判定するか、あるいは、未学習のカテゴリに属するものであることを判定する。
【００８２】
＜＜＜認識処理時の処理詳細＞＞＞
【００８３】
以降、認識処理時の識別器１１０の各処理の詳細処理について、本実施形態における一例を説明する。
【００８４】
［特徴抽出］
【００８５】
入力された画像に対して、それを表現する一つ以上の特徴量を抽出する方法について説明する。抽出する特徴量は、画像に対して一義的に定まる、固定の次元を持つ数値の配列あるいはテンソル（本稿においては、多次元配列を指すものとする）として表現できるものであれば、任意の公知のものを用いてよい。
【００８６】
例えば、局所特徴量を抽出する。一般に、局所特徴量は、画像に一部領域の画像的特徴を特徴量ベクトルとして記述する記述子によって構成される。例えば参考文献３に記載のＳＩＦＴは輝度値の勾配を表現した記述子によって記述される。
【００８７】
［参考文献３］David G. Lowe: Distinctive Image Features from Scale-Invariant Keypoints. Int. J. Computer Vision, Vol. 60, No. 2, pp. 91-110, 2004.
【００８８】
これ以外にも様々な記述子が一般に知られており、任意のものを用いて構わない。また、画像全体を領域として記述してもよいし、あるいは画像平面上格子状に領域を取っても構わない。あるいは、局所特徴量の統計量を求めても構わない。
【００８９】
また、必ずしも局所特徴量を用いる必要はなく、例えば、領域ごとに明るさ特徴、色特徴、形状特徴などを抽出しても構わない。
【００９０】
明るさ特徴としては、ＨＳＶ色空間におけるＶ値を数え上げることで、ヒストグラムとして抽出することができる。この場合、各画像はＶ値の量子化数（例えば、16ビット量子化であれば256諧調）と同数の次元を持つベクトルとして表現される。
【００９１】
色特徴としては、Ｌ＊ａ＊ｂ＊色空間における各軸（Ｌ＊、ａ＊、ｂ＊）の値を数え上げることで、ヒストグラムとして抽出することができる。各軸のヒストグラムのビンの数は、例えば、Ｌ＊に対して４、ａ＊に対して１４、ｂ＊に対して１４などとすればよく、この場合、３軸の合計ビン数は、４×１４×１４＝７８４、すなわち７８４次元のベクトルとなる。
【００９２】
形状特徴としては、例えば参考文献４に記載のＨｉｓｔｏｇｒａｍ  ｏｆ  Ｏｒｉｅｎｔｅｄ  Ｇｒａｄｉｅｎｔｓ（ＨＯＧ）として知られる特徴量ベクトルを抽出すればよい。
【００９３】
［参考文献４］Navneet Dalal, Bill Triggs: Histograms of Oriented Gradients for Human Detection. In Proc. IEEE Conference on Computer Vision and Pattern Recognition, pp. 886-893, 2005.
【００９４】
最も好適には、畳み込みフィルタによる特徴量を抽出する。これは、参考文献１などに記載のＣＮＮにおける畳み込み層の出力を求めることに相当する。すなわち、所定のサイズを持った畳み込みフィルタを所定の数分だけ用意し、これらを所定のストライド（スキップ幅）で入力画像に畳み込む。結果として出力される特徴量は、サイズとストライド、畳み込みフィルタの数に依存した３階のテンソル（３次元配列）の形を取る。サイズ、ストライド、フィルタの数は任意の自然数を取ることができ、例えばサイズを３、ストライドを１、フィルタの数を６４などとすればよい。
【００９５】
また、さらに、このような畳み込み層を一つ以上適用しても構わない。複数の畳み込み層を適用した場合であっても、結果として出力される特徴量は３階のテンソルであることに変わりはない。
【００９６】
加えて、結果的に特徴量が求められる構成であれば、必ずしも畳み込み層だけによって構成されている必要はない。例えば、参考文献１に記載の最大値プーリング層や、Ｒｅｃｔａｎｇｕｌａｒ Ｌｉｎｅａｒ Ｕｎｉｔ（ＲｅＬＵ）関数等の非線形関数などを介在させても構わない。
【００９７】
あるいは、同じく参考文献１に記載の全結合層（線形層）や、参考文献２に記載の大局的平均値プーリング層などを用いても構わない。
【００９８】
以上のように、画像を表現する一つ以上の特徴量を求めることができる。
【００９９】
なお、言うまでもなくテンソルは１次元のベクトルに変換可能である。例えば、仮に２×３×４のサイズを持つ３階テンソルがあったとすると、このテンソルには合計２４個の数値が要素として格納されているから、２４次元のベクトルとして表現可能である。
【０１００】
さらに、一般に、任意の次元Ｄ（Ｄは自然数）を持つベクトルは、ｄ×Ｄのサイズを持つ任意の線形な射影行列によってｄ次元ベクトル（ｄは自然数）へと変換可能である。例えば、Ｄ＝１０のベクトルがあったとすると、これに５×１０の射影行列Ａを掛けると、結果として出力されるベクトルはｄ＝５次元のベクトルとなる。以降、断らない限り、特徴量は１次元ベクトルに変換されており、また、さらに線形な射影行列を介して、規定のカテゴリの種類と同数の次元を持つベクトルへと変換されているとして説明する。
【０１０１】
［確率計算］
【０１０２】
次に、抽出した特徴量に基づいて、相対的確率、絶対的確率を計算する処理について説明する。
【０１０３】
ｉ番目の規定のカテゴリに属する相対的確率ｒｉを求めるには、下記のソフトマックス関数を用いることができる。
【０１０４】
【数１】
2019023801.tif 000003
【０１０５】
なお、ｘはある画像に対して求められたｄ次元の特徴量（ベクトル）であり、ｘｉはそのｉ番目の要素を表す。（１）式によって計算されたｒｉ（ｘ）は、特徴量ｘ（に対応する画像）が、ｉ番目の規定のカテゴリに属する確率を表すと解釈することができる。ただし、（１）式の分母から明らかな通り、この確率はｄ個の規定のカテゴリのうち、ｉ番目のカテゴリに相対的にどの程度属するらしいかを表す、相対的な確率となっている。このようにして相対的確率を求めることが可能である。
【０１０６】
同様に、ｉ番目の既定のカテゴリに属する絶対的確率ａｉを求めるには、下記のシグモイド関数を用いることができる。
【０１０７】
【数２】
2019023801.tif 000004
【０１０８】
（１）式の場合とは異なり、（２）式によって求められる確率はｉ番目の要素にのみ依存して決まり、他の要素には依存しない。すなわち、ａｉ（ｘ）は、特徴量ｘ（に対応する画像）が、ｉ番目の規定のカテゴリに属する確率を、相対的にではなく、絶対的に評価した場合の確率を表すと解釈することができる。このようにして絶対的確率を求めることが可能である。
【０１０９】
以上のように、相対的確率と絶対的確率を求めることができる。もちろん、絶対的確率のみを用いて判定を行う場合には、識別時には相対的確率の計算は省略してよい。
【０１１０】
［判定］
【０１１１】
続いて、先に求めた絶対的確率、あるいは相対的確率と絶対的確率の積から、入力画像が属する規定のカテゴリを判定するか、あるいは、規定のカテゴリのいずれにも属さないことを判定する。
【０１１２】
まず、これを判断するために、ｄ種類の規定のカテゴリに対する最終的な帰属確率ｐを求める。
【０１１３】
絶対的確率のみを基に判定を行う場合には、次の式を用いる。
【０１１４】
【数３】
2019023801.tif 000005
【０１１５】
また、相対的確率と絶対的確率の積を用いて判定する場合には、次式を用いる。
【０１１６】
【数４】
2019023801.tif 000006
【０１１７】
これは、規定のカテゴリのそれぞれについて、相対的確率と絶対的確率の積を求めたことを意味する。
【０１１８】
この最終的な帰属確率ｐｉ（ｘ）を用い、入力画像のカテゴリを次の手順で判定する。
【０１１９】
１．ｉ＝１、・・・、ｄの全てのｐｉ（ｘ）について、所定の閾値τよりも大きい値を取るものがあるかどうかを調べ、あった場合には２．に進み、なかった場合には「未学習のカテゴリに属する」と判定する。
【０１２０】
２．所定の閾値τを超えたカテゴリから、選択規則Ｊに基づいて当該画像が属するカテゴリを選択し、選択された規定のカテゴリに属すると判定する。
【０１２１】
ここで、選択規則Ｊは、一つ以上のカテゴリと、その最終的な帰属確率が与えられた下で、一つ以上のカテゴリを選択する規則を指すものである。どのようなものでも構わないが、好ましくは次のいずれかを用いる。
【０１２２】
Ａ．与えられたカテゴリの中で、帰属確率が最も高いものを一つ選択する。
【０１２３】
Ｂ．与えられたカテゴリの中で、帰属確率が最も高いものから順に最大Ｎ個選択する。
【０１２４】
Ｃ．与えられたカテゴリ全てを選択する。
【０１２５】
なお、（４）式のように、相対的確率と絶対的確率の積を最終的な帰属確率とすることは、入力画像がｄ種類の規定のカテゴリのいずれかに属する場合に、その認識精度を高く保ちつつ、さらに、規定のカテゴリのいずれにも属さない、すなわち、未学習のカテゴリに属するような場合にもその判定精度を高める効果を持つ。このことについて説明する。
【０１２６】
一般に、絶対的確率よりも相対的確率の方が認識精度は高くなりやすいことが知られている。一方、（１）式からもわかる通り、相対的確率は、ｄ種類の規定カテゴリについての総和が１になるように正規化される。言い換えれば、他のカテゴリに属する確率と比してどのカテゴリに属するかを見積もっているのであって、独立にそれぞれのカテゴリに属する／しない確率を求めることはできない。したがって、未学習のカテゴリに属しているか否かについては、直接的な情報を与えない。
【０１２７】
反対に、絶対的確率は、純粋にそのカテゴリに属しているらしいかどうかということを、他のカテゴリに属するか否かとは独立に見積もる。したがって、仮に、規定したカテゴリ全てに対して確率が低い場合には、その画像が属すべきカテゴリは規定のカテゴリの中に存在しないであろうことが推察できる。
【０１２８】
以上の通り、入力された画像が規定のカテゴリに属している場合には相対的確率が、属していない場合には絶対的確率が有効であると考えられるわけであるが、当然のことながら、事前にいずれのケースに当てはまるかを伺い知ることはできない。そこで、本発明の実施形態は、（４）式に従ってこれらの積を取り、双方の利点を併せ持つ認識を実現する。つまり、仮に既定のカテゴリに属するような画像であった場合、相対的確率と絶対的確率双方が高くなり、その積は依然として相対的確率の認識力を有する。もし既定のカテゴリに属さないような場合には、相対的確率はいくつかの規定のカテゴリに対して高い値を持ってしまうものの、絶対的確率は全てのカテゴリに対してその値が小さくなるため、その積は小さく抑えられるのである。
【０１２９】
別の観点から積の効果に関する直観的解釈を説明する。図７は、仮にｄ＝２であった場合の、相対的確率（ｒ１（ｘ）、ｒ２（ｘ））、絶対的確率（ａ１（ｘ）、ａ２（ｘ））、及び、これらの積（ｐ１（ｘ）、ｐ２（ｘ））の取り得る値の範囲を示している。相対的確率は、和が１になるため（ｒ１（ｘ）＋ｒ２（ｘ）＝１）、取り得る値の範囲は図中の黒直線上に拘束される。また、絶対的確率はそれぞれ独立に０〜１の値を取るため、図中横線領域で示す正方形内の値を取り得る。一方、これらの積を取ると、図中斜線領域で示す三角形の内部の値を取るように制約できる。すなわち、その和は常に１以下（ｐ１（ｘ）＋ｐ２（ｘ）≦１）になる。すなわち、ｐ１（ｘ）＋ｐ２（ｘ）＋ｐｅ（ｘ）＝１となるようなｐｅ（ｘ）≧０が存在し、これが未学習のカテゴリの確率であると仮定することができる。言い換えれば、両者の積を取ることによって、仮想的に規定のカテゴリに加え、未学習カテゴリを想定した相対的確率を求めるような効果を期待することができるのである。
【０１３０】
以上の処理によって、規定のカテゴリの認識精度も、未学習カテゴリの判定精度も高い判定を実行することができる。
【０１３１】
以上が、認識処理時の処理動作の一例である。
【０１３２】
＜＜＜学習処理時の処理動作の詳細＞＞＞
【０１３３】
続いて、学習処理時の処理動作について説明する。学習処理は、学習制御部１３０が発行する制御命令により、識別器１１０を動作させることによって実行される。
【０１３４】
本発明の実施形態の一例においては、学習制御部１３０の制御命令は少なくとも次の２種類を用意する。
【０１３５】
１．確率計算命令：学習データ１５０のうち、学習制御部１３０により定められた画像について、相対的確率、絶対的確率、及びこれらの積のうち、指定されたものを求める。これらの確率は、先に説明した特徴抽出処理〜判定処理を定められた画像のそれぞれに対して適用することで計算可能である。なお、画像を定める手段は、学習データ１５０に含まれる画像の中から一つ以上を選択する方法であればいかなるものを用いても構わないが、最も簡単には所定の数（例えば１２８枚）をランダムに選ぶ。
【０１３６】
２．逆伝搬命令：目的関数（後述）に従い、参考文献１や参考文献２に記載の誤差逆伝搬法を用いて学習を行い、識別器１１０のパラメータを更新する。誤差逆伝搬法は、計算された目的関数に基づき、相対的確率、絶対的確率、及びこれらの積を求める上で適用される、識別器１１０内部に用いられる関数のパラメータを、目的関数の値が大きく又は小さくなるように更新するための方法であり、条件付微分可能であるようなパラメータを更新することができる。例えば、先に示した通り、特徴抽出にＣＮＮの畳み込みフィルタを用いるような場合はこの条件を満たすため、利用可能である。
【０１３７】
学習制御部１３０は、上記命令の結果、及び、識別器１１０の状態（進捗や完了）を監視・取得する機能を備えているものとする。
【０１３８】
実際の処理の流れを、図８を用いて説明する。
【０１３９】
まず、入力された学習データ１５０に対して、学習制御部１３０が確率計算命令を識別器１１０に発行し、求める確率を指定すると共に、その計算結果を取得する（ステップＳ８０１）。
【０１４０】
続いて、確率計算命令が完了したら、学習制御部１３０が逆伝搬命令を識別器１１０に発行し、識別器１１０がそれに応じて誤差逆伝搬法により識別器１１０のパラメータを更新する（ステップＳ８０２）。
【０１４１】
以上２つの処理を終了条件が満たされるまで繰り返す。
【０１４２】
終了条件については任意のものを用いてよいが、例えば、「所定の回数を繰り返すまで」、「目的関数の値が一定以上変化しなくなるまで」、「目的関数の値が一定以下になるまで」、「学習データとは別に用意された検証用データを用いた場合の目的関数の値が一定以上変化しなくなるまで」、「学習データとは別に用意された検証用データを用いた場合の目的関数の値が一定以下になるまで」などとすればよい。
【０１４３】
例えば、学習データ１５０の中に画像が１０００枚含まれており、学習制御部１３０が選択する画像を５０枚、終了条件を「２０回繰り返すまで」とすると、学習制御部１３０が学習データ１５０の中から画像を５０枚選択してステップＳ８０１とＳ８０２の処理を行い、さらに学習制御部１３０が画像を５０枚選択してステップＳ８０１とＳ８０２の処理を行うというように上記ステップＳ８０１とＳ８０２を終了条件である２０回繰り返す。
【０１４４】
なお、上記確率計算命令において、どの確率を求めるように指定するかは、任意に定めることができる。誤差逆伝搬法においては、目的関数の構成によって更新されるパラメータとその更新値が変化するが、後に述べるように、指定される確率と利用される目的関数は１対１対応するため、どの確率が指定されるかによって、識別器１１０がどのように学習されるかが変化する。好ましくは、次の三つの方法により与える。
【０１４５】
（１）まず一度、常に相対的確率を指定して、終了条件が満たされるまで学習を行った後、次に、常に絶対的確率を指定して、終了条件が満たされるまで学習を行う。
【０１４６】
（２）常に絶対的確率、及び、相対的確率と絶対的確率の積の２種を指定して、終了条件が満たされるまで学習を行う。
【０１４７】
（３）常に相対的確率、絶対的確率、及び、相対的確率と絶対的確率の積の３種を指定して、終了条件が満たされるまで学習を行う。
【０１４８】
（１）の方法は、判定処理が絶対的確率のみによって判定を行う場合に適した方法である。先に相対的確率が期待する出力となるように学習することで、規定のカテゴリに対して高い認識精度を持つような識別器を学習した後、その識別器を初期識別器と考えて、さらに絶対的確率に基づく学習により識別器の修正学習を行う。こうすることで、先に保持した規定のカテゴリに対する認識精度を保持しつつ、未学習カテゴリを判定可能な識別器を構成することが可能になる。
【０１４９】
（２）や（３）の構成を取る場合には、判定処理が相対的確率と絶対的確率の積によって判定を行う場合に適した方法である。最終的に判定に用いる相対的確率と絶対的確率の積に適した目的関数を用いて学習するので、より高精度な判定を行うことが可能になる。
【０１５０】
目的関数は、対応する確率が期待通りに学習されるように設計される。ある学習用画像について、正解カテゴリを表す正解ベクトルをｃ＝（ｃ１、ｃ２、・・・、ｃｄ）と表す。正解ベクトルｃの要素は０か１のいずれかの値を取るものとし、学習用画像が属する規定のカテゴリに対応する要素のみ１を取る。以下に各確率に対する目的関数の一例を示す。
【０１５１】
相対的確率についての目的関数Ｅｒは、下記のように設計される。
【０１５２】
【数５】
2019023801.tif 000007
【０１５３】
この目的関数において、正解カテゴリ以外の要素についてはｃｉが０となることに注意すると、正解カテゴリに対応する相対的確率が大きければ大きいほど、この目的関数は小さい値を取るようになる。すなわち、これを最小化するように識別器１１０を誤差逆伝搬法で更新することで、所望の相対的確率を得ることができる。
【０１５４】
絶対的確率についての目的関数Ｅａは、下記のように設計される。
【０１５５】
【数６】
2019023801.tif 000008
【０１５６】
この目的関数では、正解カテゴリであるようなカテゴリ（ｃｉ＝１）については右辺総和内第１項のみが残り、そうでない場合（ｃｉ＝０）については第２項のみが残るような形を取る。前者の場合には、対応する絶対的確率が大きければ大きいほど、後者については小さければ小さいほど、この目的関数は小さい値を取るようになる。すなわち、これを最小化するように識別器１１０を誤差逆伝搬法で更新することで、所望の絶対的確率を得ることができる。
【０１５７】
相対的確率と絶対的確率の積についての目的関数Ｅｈ（統合目的関数）は、下記のように設計される。
【０１５８】
【数７】
2019023801.tif 000009
【０１５９】
（５）式と比較すれば、この目的関数が積ａｉ（ｘ）ｒｉ（ｘ）に対して相対的確率の目的関数Ｅｒと同様の振る舞いをすることがわかるであろう。
【０１６０】
上記の目的関数はいずれも微分可能であるから、いずれも誤差逆伝搬法を用いることができる。なお、Ｅｒ、Ｅａ、Ｅｈの全ての目的関数を用いる必要は必ずしもない。（１）ＥｒとＥａ、（２）Ｅｈのみ、（３）ＥｈとＥａのいずれかを用いれば、少なくとも本発明が望む識別器１１０を構成することは可能である。好ましくは（３）の構成を用いるのがよい。
【０１６１】
また、２種以上の確率を常に指定する場合において、例えば（２）ＥｈとＥａ、（３）ＥｈとＥａとＥｒというような２以上の目的関数を用いる場合には、２以上の目的関数の和が最小化されるように識別器１１０を誤差逆伝搬法で更新してもよい。
【０１６２】
すなわち、（１）の方法では、ステップＳ８０１において、学習データ１５０から選択された画像の各々に対して、識別器１１０により相対的確率を計算し、続いて、ステップＳ８０２において、計算された相対的確率と、正解カテゴリとに基づいて、相対的確率についての目的関数Ｅｒを最小化するように、識別器１１０のパラメータを更新する。このステップＳ８０１、Ｓ８０２の処理を、終了条件が満たされるまで行う。次に、学習データ１５０から選択された画像の各々に対して、識別器１１０により絶対的確率を計算し、続いて、ステップＳ８０２において、計算された絶対的確率と、正解カテゴリとに基づいて、絶対的確率についての目的関数Ｅａを最小化するように、識別器１１０のパラメータを更新する。このステップＳ８０１、Ｓ８０２の処理を、終了条件が満たされるまで行う。
【０１６３】
また、（２）の方法では、ステップＳ８０１において、学習データ１５０から選択された画像の各々に対して、識別器１１０により相対的確率及び絶対的確率を計算し、続いて、ステップＳ８０２において、計算された相対的確率及び絶対的確率と、正解カテゴリとに基づいて、絶対的確率についての目的関数Ｅａ、及び相対的確率と絶対的確率の積についての目的関数Ｅｈの和を最小化するように、識別器１１０のパラメータを更新する。このステップＳ８０１、Ｓ８０２の処理を、終了条件が満たされるまで行う。
【０１６４】
また、（３）の方法では、ステップＳ８０１において、学習データ１５０から選択された画像の各々に対して、識別器１１０により相対的確率及び絶対的確率を計算し、続いて、ステップＳ８０２において、計算された相対的確率及び絶対的確率と、正解カテゴリとに基づいて、相対的確率についての目的関数Ｅｒ、絶対的確率についての目的関数Ｅａ、及び相対的確率と絶対的確率の積についての目的関数Ｅｈの和を最小化するように、識別器１１０のパラメータを更新する。このステップＳ８０１、Ｓ８０２の処理を、終了条件が満たされるまで行う。
【０１６５】
以上の処理によって、規定のカテゴリの認識精度も、未学習カテゴリの判定精度も高い判定を実行可能な識別器１１０を学習することができる。
【０１６６】
以上が、学習処理時の処理動作の一例である。
【０１６７】
以上説明したように、本発明の実施の形態に係る画像認識装置によれば、相対的確率と絶対的確率の双方を用いて学習した識別器を使い、絶対的確率を判定に用いる。識別器は一度、相対的確率に基づいて学習されているため、学習済みのカテゴリに属する画像が入力された際には正解となるカテゴリに対して高い値を出力することができ、認識精度を高く保つことができる。また、未学習カテゴリに属するような画像が入力された場合であっても、絶対的確率に基づく評価を行うことで、どの学習済みカテゴリに対しても小さい確率値を出力することができるため、未学習カテゴリであると、精度よく判定することができる。
【０１６８】
さらに、本発明の実施の形態では、相対的確率と絶対的確率の積を判定に用いる構成を取ることができ、この場合にはさらに高精度な認識が可能になる。学習済みのカテゴリに属する画像が入力された際には、絶対的確率と相対的確率の双方が正解となるカテゴリに対して高くなりやすいため、認識精度を高く保つことができる。また、未学習カテゴリに属する画像が入力された際には、相対的確率はいずれかの学習済みカテゴリについて高い確率を出力しうるものの、絶対的確率はどのカテゴリに対しても小さい値を取るため、その積はどの学習済みカテゴリに対しても低い値が出力されることになる。したがって、全ての学習済みカテゴリに対する出力値が低い場合には、その画像が未学習カテゴリであることを、精度よく検知することができる。
【０１６９】
加えて、相対的確率と絶対的確率の双方を、相対的目的関数と絶対的目的関数を統合した統合目的関数によって学習することによって、この構成による画像認識の処理動作に最適な識別器を学習することができ、さらに性能を改善することが可能である。
【０１７０】
結果、学習済みカテゴリの認識精度を保持しつつも、未学習カテゴリの検知精度が高精度となるような画像認識方法、画像認識装置、画像認識プログラムを提供することができる。
【０１７１】
なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【符号の説明】
【０１７２】
１００ 画像認識装置
１１０ 識別器
１１１ 特徴抽出部
１１２ 相対的確率算出部
１１３ 絶対的確率算出部
１１４ 判定部
１２０ 入力部
１３０ 学習制御部
１４０ 出力部
１５０ 学習データ
１６０ 画像
１７０ 認識結果
【図１】
2019023801.tif 000010
【図２】
2019023801.tif 000011
【図３】
2019023801.tif 000012
【図４】
2019023801.tif 000013
【図５】
2019023801.tif 000014
【図６】
2019023801.tif 000015
【図７】
2019023801.tif 000016
【図８】
2019023801.tif 000017