(57)【特許請求の範囲】
【請求項１】
画像を入力するステップと、
ディープラーニングに基づくオブジェクト検出方法を用いて前記画像からオブジェクトを検出するステップと、
ＰＬＳＩを利用して、画像内のコンテキスト状況（ｃｏｎｔｅｘｔ）を検出し、検出されたコンテキスト状況によって、検出されたオブジェクトを上位範囲から下位範囲に限定化するステップと、
検出されたコンテキスト状況を利用して、ディープラーニングに基づく関係検出及びオントロジ方法を用いて、オブジェクト同士の関係を検出するステップと、
下位範囲に限定化されたオブジェクトと、検出されたオブジェクト同士の関係とを用いて、入力画像に対するシーングラフを生成するステップと、からなることを特徴とする、ディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法。
【請求項２】
前記ＰＬＳＩを用いて画像アノテーションを行い、オブジェクトにタグ（ｔａｇ）を付けて画像タグリストを生成し、それに基づいてコンテキスト状況を判断することを特徴とする、請求項１に記載のディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法。
【請求項３】
前記ＰＬＳＩを用いる画像アノテーションにおいて、ＥＭアルゴリズムのための次の目的関数を特徴とする、請求項２に記載のディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法。
【数１】
0006968966.tif 000012
ここで、ｄｉは、画像、Ｗｊは、画像に表示されるオブジェクトを表し、Ｚｋは、潜在的主題（ｃｏｎｔｅｘｔ）を意味し、目的関数で用いられるｎ（ｗｊ，ｄｉ）は、画像においてオブジェクトが有する重み（画像においてオブジェクトが表示される回数、画像においてオブジェクトが占める割合）を示す。
【請求項４】
前記ＥＭアルゴリズムは、以下のようなＥ−ステップと、
【数２】
0006968966.tif 000013
以下のようなＭ−ステップと、
【数３】
0006968966.tif 000014
からなることを特徴とする、請求項３に記載のディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法。
【請求項５】
ディープラーニングに基づくオブジェクト検出方法は、領域の提案と分類が同時に行われる１−段階ディテクタから構成されることを特徴とする、請求項２に記載のディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法。
【請求項６】
前記ディープラーニングに基づくオブジェクト検出方法は、領域の提案（オブジェクトが含まれているエリアの判定）と、分類との２段階からなる２−段階ディテクタから構成されることを特徴とする、請求項２に記載のディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法。
【請求項７】
前記ディープラーニングに基づく関係検出は、上、下、接触、後、前のような位置を示す関係を用いる、空間特徴を活用する空間関係検出であることを特徴とする、請求項２に記載のディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法。
【請求項８】
ディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法において、コンテキストに合ったオブジェクト同士の関係のみを考慮することを特徴とする、請求項１ないし７のいずれか１項に記載のディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法に関し、特に、ディープラーニングを利用した画像オブジェクトの意味関係を認識する際にＰＬＳＩを導入して、画像内のオブジェクトを認識し、認識したオブジェクト同士の関係を見出すディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法に関する。
【背景技術】
【０００２】
人工知能（Ａｒｔｉｆｉｃｉａｌ  Ｉｎｔｅｌｌｉｇｅｎｃｅ；ＡＩ）システムは、人間レベルの知能を具現するコンピュータシステムであり、従来のＲｕｌｅに基づくスマートシステムとは異なり、機械が自ら学習して判断し、賢くなるシステムである。人工知能システムは、使用すればするほど認識率が向上し、ユーザの好みをより正確に把握できるようになることから、従来のＲｕｌｅに基づくスマートシステムは、徐々にディープラーニングに基づく人工知能システムに置き換えられている。
【０００３】
人工知能技術は、機械学習（ディープラーニング）及び機械学習を活用した要素技術から構成されている。機械学習は、入力データの特徴を自ら分類／学習するアルゴリズム技術であり、要素技術は、ディープランニングなどの機械学習アルゴリズムを活用して人間の脳における認知、判断などの機能を模写する技術であって、言語的理解、視覚的理解、推論／予測、知識表現、動作制御などの技術分野から構成される。
【０００４】
このような人工知能技術は、様々な方法に応用されており、その応用の１つである視覚的理解は、人間の視覚のように物事を認識して処理する技術であって、オブジェクト認識、オブジェクト追跡、映像検索、人の認識、シーンの理解、空間の理解、映像改善などが含まれる。
【０００５】
このようなディープラーニングによる視覚的理解、すなわちシーングラフ（ｓｃｅｎｅ  ｇｒａｐｈ）は、一般的に画像オブジェクトの検出と画像オブジェクトの関係検出からなる。
【０００６】
画像分析分野において、シーングラフは、画像の有する意味的情報をグラフモデルによって説明してくれる方法である。図１は、シーングラフ及びキャプションの生成例を示している。このようなシーングラフモデルは、１次的に画像内のオブジェクトを認識し、オブジェクト同士の関係を見出す過程からなる。
【０００７】
図１を参照すると、まず、画像が入力されると、複数のキャプション領域（ｃａｐｔｉｏｎ  ｒｅｇｉｏｎ）（図面では破線で表示）を検出し、検出した各キャプション領域内のオブジェクト（ｏｂｊｅｃｔ）を検出する。このように、視覚的なシーンを理解することで、「女性が空中に浮いている（Ｔｈｅ  ｗｏｍａｎ  ｉｓ  ｏｎ  ａｉｒ）」（破線 A）と、「女性が白い傘を持っている（Ａ  ｗｏｍａｎ  ｗｉｔｈ  ａ  ｗｈｉｔ  ｕｍｂｒｅｌｌａ）」といった局部的なキャプションを行い、そして検出されたキャプション領域からオブジェクトを検出することにより、「女性が傘を持っている」と「女性が白いドレスを着ている」のような画像内のオブジェクトとオブジェクトとの間の関係を画像グラフで生成する。
【０００８】
画像オブジェクトの検出は、ディープラーニング分野において様々な研究と方法が提示されているが、通常、１−段階ディテクタ（１−ｓｔａｇｅ  ｄｅｔｅｃｔｏｒ）と２−段階ディテクタ（２−ｓｔａｇｅ  ｄｅｔｅｃｔｏｒ）の２種類に分けられる。
【０００９】
まず、２−段階ディテクタは、領域の提案（ｒｅｇｉｏｎａｌ  ｐｒｏｐｏｓａｌ）（オブジェクトが含まれているエリアの判定）と、分類（ｃｌａｓｓiｆｉｃａｔｉｏ）との２段階からなる。これに対し、１−段階ディテクタは、領域の提案と分類が同時に行われる。
【００１０】
そして、画像オブジェクトの関係（ｒｅｌａｔｉｏｎｓｈｉｐ）の検出は、言語資源を活用した検出と、空間特徴を活用する空間関係検出と、オントロジ（ｏｎｔｏｌｏｇｙ）を活用した関係検出とに分けられる。
【００１１】
言語資源を活用した検出は、オブジェクト対に対する言語関係を事前に定義しておき、画像から得られたオブジェクトから可能な関係を検出するものである。
【００１２】
図２は、言語資源を活用した検出の例を示す。
【００１３】
図２を参照すると、画像が入力されると、まず、画像から人とバイクを認識し、「人がバイクに乗っている」という人とバイクの関係を検出し、それから「人がヘルメットを着用している」という人とヘルメットの関係と、「バイクが車輪を有する」というバイクと車輪の関係とを検出する。
【００１４】
空間特徴を活用する空間関係検出は、画像内のオブジェクトの空間位置に対する関係を検出するものであり、主に、上（ａｂｏｖｅ）、下（ｕｎｄｅｒ）、接触（ｏｎ）、後（ｂｅｈｉｎｄ）、前（ｉｎ  ｆｒｏｎｔ  ｏｆ）などの位置を示す関係に焦点を置くことを特徴とする。
【００１５】
オントロジとは、ある一定の範囲で用いられる単語の概念、特徴、関連関係などを表現して単語に対する一般的な知識が明示的に表れ、単語同士の関係定義によって文章の意味を把握することができるものであり、オントロジを活用した関係検出は、知識ベースを活用してオブジェクト同士の関係を識別する方法である。
【００１６】
画像をオントロジで表現するために、タグ予測（ｔａｇ  ｐｒｅｄｉｃｔｉｏｎ）を行い、タグを知識グラフに埋め込む（ｅｍｂｅｄｄｉｎｇ）。それから関係を定義するために概念網（ｃｏｎｃｅｐ−ｎｅｔ）を用いるが、このモデルは、単語と単語との間の関係を定義し、スコアを与え、与えられたスコアを、いくつかの数式を経て関係を隠しベクトル空間（ｈｉｄｄｅｎ  ｖｅｃｔｏｒ  ｓｐａｃｅ）に保存する方式を採用して知識グラフに埋め込む方法を用いる。
【００１７】
以上で説明したような、従来のシーングラフの生成方法は、主に画像内のオブジェクト（ｏｂｊｅｃｔ）を見出した後、オブジェクト同士の関係を見出すことに留まり、オブジェクト同士の関係を誤って検出した場合と、オブジェクト同士の関係をより細かく検出することができないといった欠点がある。
【発明の概要】
【発明が解決しようとする課題】
【００１８】
従って、本発明の目的は、画像を活用した画像グラフの生成において、ディープラーニング及びＰＬＳＩを適用して、画像オブジェクト同士の単純な関係ではなく、画像オブジェクト同士の意味的関係を検出することができる、ディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法を提供するものである。
【課題を解決するための手段】
【００１９】
本発明の目的を達成するために、本発明に係るディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法は、画像を入力するステップと、ディープラーニングに基づくオブジェクト検出方法を用いて前記画像からオブジェクトを検出するステップと、ＰＬＳＩを利用して、画像内のコンテキスト状況（ｃｏｎｔｅｘｔ）を検出するステップと、ディープラーニングに基づく関係検出及びオントロジ方法を用いて、オブジェクト同士の関係を検出するステップと、入力画像に対するシーングラフを生成するステップと、からなる。
【００２０】
本発明に係るディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法は、ＰＬＳＩを用いて画像アノテーションを行い、オブジェクトにタグ（ｔａｇ）を付けて画像タグリストを生成し、それに基づいてコンテキスト状況を判断する。
【００２１】
本発明に係るディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法において、ＰＬＳＩを用いる画像アノテーションでは、ＥＭアルゴリズムのための次の目的関数（尤度関数）を含み、
【数１】
0006968966.tif 000002
ここで、ｄｉは、画像を表し、ｗｊは、画像に表示されるオブジェクトを表し、ｚｋは、潜在的主題（ｃｏｎｔｅｘｔ）を意味し、ｎ（ｗｊ，ｄｉ）は、画像においてオブジェクトが有する重みを示す。
【００２２】
本発明に係るディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法において、目的関数が最大となる値を求めるためのＥＭアルゴリズムは、以下のようなＥ−ステップと、
【数２】
0006968966.tif 000003
以下のようなＭ−ステップと、
【数３】
0006968966.tif 000004
からなる。
【００２３】
本発明に係るディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法において、コンテキスト状況を検出するステップで検出されたオブジェクトを上位範囲から下位範囲に限定化する。
【００２４】
本発明に係るディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法において、ディープラーニングに基づくオブジェクト検出方法は、領域の提案と分類が同時に行われる１−段階ディテクタから構成される。
【００２５】
本発明に係るディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法において、ディープラーニングに基づくオブジェクト検出方法は、領域の提案（オブジェクトが含まれているエリアの判定）と、分類との２段階からなる２−段階ディテクタから構成される。
【００２６】
本発明に係るディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法において、ディープラーニングに基づくオブジェクト検出方法は、上、下、接触、後、前のような位置を示す関係を用いる、空間特徴を活用する空間関係検出である。
【００２７】
本発明に係る、ディープラーニング及びＰＬＳＩに基づく画像オブジェクトの意味関係を認識する方法において、コンテキストに合ったオブジェクト同士の関係のみを考慮する。
【発明の効果】
【００２８】
本願発明に基づいてＰＬＳＩを用いる方法は、オブジェクトを見出してから、画像内のコンテキスト状況を検出した後、コンテキスト状況に合ったオブジェクトの意味関係を見出す方法であり、公知の方法では、オブジェクト同士の単純な関係のみを考慮する。従って、本願発明に係る方法は、コンテキストに合ったオブジェクト同士の関係のみを考慮するため、意味的により具体的且つ正確な関係を導出することができるといった効果がある。
【図面の簡単な説明】
【００２９】
【図１】画像内のオブジェクトとそのオブジェクト同士の関係をグラフで表現する方法を示す図である。
【図２】言語資源を活用した関係検出を示すものであり、画像から得られた人とバイクの関係、人とヘルメットの関係、バイクと車輪の関係を検出する様子を示す図である。
【図３】ＰＬＳＩモデリングを概略的に示す図である。
【図４】ＰＬＳＩを用いた画像アノテーションを説明する図である。
【図５】ＰＬＳＩを用いた画像アノテーションモデリングを概略的に示す図である。
【図６】本発明に係るシーングラフの生成を示す図である。
【発明を実施するための形態】
【００３０】
本発明は、その技術的思想や主な特徴から逸脱することなく、他の様々な形態で実施されることができる。従って、本発明の実施形態は、あらゆる点で単なる例示にすぎず、限定的に解釈してはならない。
【００３１】
以下、本発明が属する技術分野における通常の知識を有する者が本発明を容易に実施できる程度に詳しく説明するために、添付図面を参照し、本発明の最も好ましい実施形態を詳細に説明する。
【００３２】
本発明は、従来公知の画像グラフの生成技術とは異なり、ＰＬＳＩ（Ｐｒｏｂａｂｉｌｉｓｔｉｃ  Ｌａｔｅｎｔ  Ｓｅｍａｎｔｉｃ  Ｉｎｄｅｘｉｎｇ）を用いる。
【００３３】
ＰＬＳＩとは、単語と文書の間をつなぐ、我々の目に見えない潜在的な構造があると仮定し、単語と文書出現確率をモデル化した確率モデルである。図３は、一般的なＰＬＳＩモデルを示す。ＰＬＳＩモデルは、文書が特定の主題に合った単語を含んでいることを仮定している。ｄｉは文書、Ｗｊは単語を表し、Ｚｋは潜在的主題（ｔｏｐｉｃ）を意味する。ｄｉとｗｊは観測することができるデータであり、Ｚｋは観測することができない。
【００３４】
ＰＬＳＩは、（ｄｉ，Ｗｊ）を作り出すことを目的とする。すなわち、ある文書に如何なる単語が含まれているかを確率によって予測するものである。このような過程は、以下の通りである。
【００３５】
まず、文書ｄｉを確率Ｐ（ｄｉ）により選択し、次に主題Ｚｋを確率Ｐ（Ｚｋ｜ｄｉ）により選択して、最後に単語Ｗｊを確率Ｐ（Ｗｊ｜Ｚｋ）により生成する。そして、これをベイズ確率で表現すると、次の通りである。
【００３６】
【数４】
0006968966.tif 000005
【００３７】
そのための目的関数は、以下のように定義することができる。
【００３８】
【数５】
0006968966.tif 000006
【００３９】
ＰＬＳＩは、ｍ個の単語、ｎ個の文書、ｋ個の主題（トピック）について尤度関数を最大化することを目標とする。目的関数（尤度関数）は、文書で登場した単語が多項分布属性を有しているので多項分布式を適用し、目的関数においてｎ（ｗｊ，ｄｉ）は、ｊ番目の文書にｉ番目の単語が登場した回数を示す。
【００４０】
従って、前記のような目的関数が最大となる値を得るために、ＥＭアルゴリズムを繰り返し適用する。
【００４１】
ＥＭアルゴリズムは、期待値最大化アルゴリズム（ｅｘｐｅｃｔａｔｉｏｎ−ｍａｘｉｍｉｚａｔｉｏｎ  ａｌｇｏｒｉｔｈｍ）であって、観測されていない潜在変数に依存する確率モデルにおいて最大尤度（ｍａｘｉｍｕｍ  ｌｉｋｅｌｉｈｏｏｄ）や最大事後確率（ｍａｘｉｍｕｍ  ａ  ｐｏｓｔｅｒｉｏｒｉ；ＭＡＰ）を有する母数の推定値を求める反復アルゴリズムである。
【００４２】
ＥＭアルゴリズムは、母数に関する推定値から対数尤度（ｌｏｇ  ｌｉｋｅｌｉｈｏｏｄ）の期待値を求める期待値（Ｅ）ステップと、この期待値を最大化する母数推定値を求める最大化（Ｍ）ステップを交互に適用する。最大化ステップで計算した変数値は、次の期待値ステップの推定値として用いられる。
【００４３】
前記目的関数に適用するＥＭアルゴリズムにおいて、Ｅ−ステップは、次の通りであり、
【数６】
0006968966.tif 000007
Ｍ−ステップは、次のように表現することができる。
【００４４】
【数７】
0006968966.tif 000008
【００４５】
図４は、ＰＬＳＩを用いた画像アノテーションを概略的に示す図である。
【００４６】
図４に示すように、画像にアノテーションを行い、オブジェクトにタグ（ｔａｇ）を付けて画像タグリストを生成し、それに基づいてコンテキスト状況（ｃｏｎｔｅｘｔ）は遊び（ｐｌａｙｉｎｇ）であると判断する。前記画像タグリストは、ハスキー、犬、芝生、ボールからなり、コンテキスト状況から、ハスキーのタイプは犬であり、ハスキーがボールを持って遊んでおり、ハスキーは芝生の上にあり、芝生は緑であるといったコンテキストが成立する。
【００４７】
図５には、本発明の提案するＰＬＳＩを用いた画像アノテーションモデルが示されている。
【００４８】
前記アノテーションモデルにおいて、ＥＭアルゴリズムのための目的関数は、従来のＰＬＳＩと同じである。ｄｉは画像、Ｗｊは画像に表示されるオブジェクトを表し、Ｚｋは潜在的主題（ｃｏｎｔｅｘｔ）を意味する。
【００４９】
【数８】
0006968966.tif 000009
【００５０】
文書に用いられるＰＬＳＩと異なる点は、ｎ（ｗｊ，ｄｉ）が、ｊ番目の文書においてＩ番目の単語が登場する回数を示すのに対し、本モデルでは、ユーザが重みを与えることができる点である。例えば、従来のＰＬＳＩと同様に、１つの画像に表示されるオブジェクトの数で値を表現することができ、画像は、多くの単語を含む文書とは異なり、数個のオブジェクトのみを含むことができるので、画像においてオブジェクトが有する割合値を与えられるようにする。
【００５１】
前記の目的関数を最大とするパラメータを求めるために、ＥＭアルゴリズムを次のように計算することができる。ＥＭアルゴリズムは、同時に最適の値を求めることのできない複数の変数を繰り返し計算して最適化する方法である。まず、すべての値をランダム値で初期化してから、１つのパラメータを固定した後、他のパラメータ値を更新し、このような過程を繰り返し行う。
【００５２】
Ｅ−ステップ
【数９】
0006968966.tif 000010
【００５３】
Ｍ−ステップ
【数１０】
0006968966.tif 000011
【００５４】
図６を参照して、前記のようなプロセスを適用して画像グラフを生成する方法をより詳細に説明すると、次の通りである。
【００５５】
まず、画像を入力する。それから、従来のディープラーニングに基づくオブジェクト検出方法を用いて、入力された画像からオブジェクトを検出する。前記従来のディープラーニングに基づくオブジェクト検出方法は、前述した１−段階ディテクタまたは２−段階ディテクタからなる。
【００５６】
その後、ＰＬＳＩを利用して、画像内のコンテキスト状況（ｃｏｎｔｅｘｔ）を検出する。図６に示すように、コンテキスト状況によって人というオブジェクトが選手オブジェクトに置き換えられ、ボールというオブジェクトは、バスケットボールというオブジェクトに具体化される。つまり、包括的な上位範囲のオブジェクトが、より詳細な下位範囲のオブジェクトに限定化される。
【００５７】
その後、コンテキストを利用して、従来のディープラーニングに基づく関係検出、例えば、空間特徴を活用する空間関係検出とオントロジ方法を用いて、オブジェクト同士の関係を見出す。
【００５８】
図６において、選手とボールの関係は、スロー（ｔｈｒｏｗｓ）、ホールド（ｈｏｌｄ）、キック（ｋｉｃｋ）、ヘッド（ｈｅａｄ）などのいくつかの意味的関係が成立可能であるが、ＰＬＳＩで見出した文脈は、バスケットボール（ｂａｓｋｅｔｂａｌｌ）であるため、入力された画像からすると、ホールドまたはスローである確率が高い。また、選手というオブジェクトとボールというオブジェクトとの間の距離を見ると、ホールドである確率が非常に高い。それから、前記ステップを経た後、入力画像に対するシーングラフを生成する。
【００５９】
以上で説明したように、公知のシーングラフの生成方法では、主に画像内のオブジェクト（ｏｂｊｅｃｔ）を見出した後、オブジェクト同士の関係を見出している。しかしながら、本願発明に基づいたＰＬＳＩを用いる方法では、オブジェクトを見出した後、画像内のコンテキスト状況をＰＬＳＩで検出し、コンテキスト状況に合ったオブジェクトの意味関係を見出す方法である。公知の方法では、オブジェクト同士の単純な関係のみを考慮しているのに対し、本願発明に係る方法では、コンテキストに合ったオブジェクト同士の関係のみを考慮するため、意味的により具体的且つ正確な関係を導出することができるといった効果がある。
【００６０】
以上のような技術的な構成によって本発明の技術的課題が達成されるものであり、ここでは限定された実施形態及び図面によって説明されているが、これらに限定されることなく、本発明が属する技術分野における通常の知識を有する者により、本発明の技術思想と以下に記載される特許請求の範囲の均等範囲内で様々な修正及び変形が可能であることは言うまでもない。
【要約】      （修正有）【課題】画像オブジェクト同士の単純な関係ではなく、画像オブジェクト同士の意味的関係を検出することができる方法を提供する。【解決手段】方法は、画像を入力するステップと、ディープラーニングに基づくオブジェクト検出方法を用いて画像からオブジェクトを検出するステップと、ＰＬＳＩを利用して、画像内のコンテキスト状況を検出するステップと、ディープラーニングに基づく関係検出及びオントロジ方法を用いて、オブジェクト同士の関係を検出するステップと、入力画像に対するシーングラフを生成するステップと、からなる。【選択図】図６【図１】
0006968966.tif 000015
【図２】
0006968966.tif 000016
【図３】
0006968966.tif 000017
【図４】
0006968966.tif 000018
【図５】
0006968966.tif 000019
【図６】
0006968966.tif 000020