(57)【要約】【課題】動画データに表示される文字情報をより確実に検出すると共に、検出した文字情報の利便性を高めて、動画配信サービスの利用及び普及の向上を図る。【解決手段】動画処理システム１の動画処理装置２は、動画データからフレーム間隔毎の複数の静止画フレームを切り出すフレーム切り出し部１３と、前後に連続する静止画フレームを近似判定して、近似と判定された場合に後続の静止画フレームを処理対象フレームから除外する近似判定部１４と、処理対象フレームにシャープ化処理を施してエッジ強調フレームを生成するシャープ化部１５と、エッジ強調フレームに二値化処理を施して二値画像フレームを生成する二値化部１６と、二値画像フレームに文字認識処理を行って文字情報を取得する文字認識部１７と、文字情報と共に、動画データの動画情報と静止画フレームの静止画情報とを記録したメタデータを生成するメタデータ生成部１８と、を備える。【選択図】図１
2017011581.tif 000002
【特許請求の範囲】
【請求項１】
動画データから所定のフレーム間隔毎の複数の静止画フレームを切り出すフレーム切り出し部と、
前記複数の静止画フレームに対して、前後に連続する前記静止画フレームの近似判定を順次行い、前記近似判定において近似と判定された場合には、先行の前記静止画フレームを処理対象フレームとすると共に、後続の前記静止画フレームを処理対象フレームから除外する近似判定部と、
前記処理対象フレームにシャープ化処理を施してエッジを強調したエッジ強調フレームを生成するシャープ化部と、
前記エッジ強調フレームに二値化処理を施して二値画像フレームを生成する二値化部と、
前記二値画像フレームに対して文字認識処理を行って文字情報を取得する文字認識部と、
前記文字情報と共に、少なくとも、当該文字情報が取得された前記動画データに関する動画情報と当該文字情報が取得された前記静止画フレームの静止画情報とを記録したメタデータを前記文字情報毎に生成するメタデータ生成部と、
を備えることを特徴とする動画処理装置。
【請求項２】
前記二値化部は、前記エッジ強調フレームの色温度範囲を算出すると共に、前記色温度範囲における所定の閾値間隔毎の複数の色温度のそれぞれに基づいて複数の閾値を取得して、前記エッジ強調フレームに対して前記複数の閾値をそれぞれ用いた二値化処理を施して複数の前記二値画像フレームを生成し、
前記文字認識部は、前記複数の二値画像フレームのそれぞれに対して文字認識処理を行って前記複数の二値画像フレーム毎に前記文字情報を含む文字認識結果を得ると共に、各文字認識結果を比較して、最適な文字認識結果が得られた前記二値画像フレームのみから前記文字情報を取得し、
前記メタデータ生成部は、前記複数の二値画像フレームの内、最適な文字認識結果が得られた前記二値画像フレームのみから取得された前記文字情報に基づいて前記メタデータを生成することを特徴とする請求項１に記載の動画処理装置。
【請求項３】
前記近似判定部は、前後に連続する前記静止画フレームについてＲＧＢ値及び輝度のヒストグラムの変化値を比較し、前記比較値が所定の近似閾値以上であれば、当該前後に連続する静止画フレームを近似と判定することを特徴とする請求項１又は請求項２に記載の動画処理装置。
【請求項４】
前記近似判定部は、前後に連続する前記静止画フレームにおいて、四分木空間分割を行い各領域における特異点の変位量の二階微分値にて加速度に換算し、比較することで前後に連続する静止画フレームが近似するか否かを判定することを特徴とする請求項１〜請求項３の何れか１項に記載の動画処理装置。
【請求項５】
前記近似判定部は、前記静止画フレームの四分木空間分割を行う際に各特異点の分布及び方向ベクトルを算出し、
前記文字認識部は、前記近似判定部で算出された各特異点の分布及び方向ベクトルを、各特異点の分布及び方向ベクトルからなる所定のトレーニングデータと比較することで前記文字認識処理を行うことを特徴とする請求項４に記載の動画処理装置。
【請求項６】
前記文字認識部は、前記二値画像フレームの被写体像の各特異点の分布及び方向ベクトルを算出すると共に、特異点の分布及び方向ベクトルからなる所定のトレーニングデータと比較することで前記文字認識処理を行うことを特徴とする請求項１〜請求項３の何れか１項に記載の動画処理装置。
【請求項７】
前記文字認識部は、前記二値画像フレームに対して四分木空間分割を行うことで前記被写体像の各特異点を算出すると共に、当該特異点の分布及び方向ベクトルを算出することを特徴とする請求項６に記載の動画処理装置。
【請求項８】
請求項１〜請求項７の何れか１項に記載の動画処理装置と、
前記動画処理装置の前記メタデータ生成部によって生成された前記文字情報毎の前記メタデータを格納する文字情報データベースと、
を備える動画処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、動画データの映像に表示される文字等の情報を処理する動画処理装置、及びこの動画処理装置を備えた動画処理システムに関する。
【背景技術】
【０００２】
従来から、インターネット等のネットワークでは、動画サーバや動画データベース等の所定のコンピュータが動画データを格納すると共に、視聴者端末に対して動画データを公開する動画配信が行われている。このような動画配信を促進するために、様々な動画処理装置や動画処理システムが提案されている。例えば、動画処理装置や動画処理システムでは、動画データに加えて、動画データの番組情報や出演者情報、字幕情報、ＣＭ情報等に関する動画情報を配信し、視聴者端末に動画情報を利用可能にしたものがある。
【０００３】
例えば、特許文献１に記載のメタデータ配信装置では、抽出変換テーブルと局固有データを利用してキー局のコンテンツのメタデータから自局でネット放送するネット番組のコンテンツのメタデータを抽出変換し、抽出変換されたメタデータを配信するので、キー局のコンテンツのメタデータを自局のコンテンツのメタデータとして、受信機に配信し、これにより、キー局以外のネット局で、ネット放送するネット番組において、キー局のコンテンツのメタデータを利用し、サーバ型放送を行う。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００６−３２５１３４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、上記したメタデータ配信装置のような動画処理装置や動画処理システムでは、放送局が予め動画情報のメタデータを用意しなければ動画情報を提供することができない。そのため、このようなメタデータが用意されていない動画データについては動画情報を提供することができない。
【０００６】
また、動画データには、セミナーや解説等のように文字が記載された掲示物を表示する動画データや、字幕付きの動画データがあるが、これらの動画データで表示される文字は動画情報として提供されない場合がある。なお、動画データから文字が表示されている静止画フレームを切り出して、この静止画フレームに対して文字認識を行うことで文字情報を取り出すことが考えられるが、動画データから切り出した静止画フレームは画質が粗いため、従来の文字認識処理では文字情報を取り出すことが困難であった。
【０００７】
更に、視聴者は、興味のある動画データを探すためにインターネットの検索エンジンによるキーワード検索をするが、上記のように動画情報として提供されていない文字については検索結果として得られないため、所望の動画データを検索できないことがある。また、視聴者がキーワード検索で動画データを探すことができた場合でも、動画の中でそのキーワードに関連するシーンを探すことが困難である場合が多い。
【０００８】
そこで、本発明は上記事情を考慮し、動画データに表示される文字情報をより確実に検出すると共に、検出した文字情報の利便性を高めて、動画配信サービスの利用及び普及の向上を図ることを目的とする。
【課題を解決するための手段】
【０００９】
上記課題を解決するために、本発明の第１の動画処理装置は、動画データから所定のフレーム間隔毎の複数の静止画フレームを切り出すフレーム切り出し部と、前記複数の静止画フレームに対して、前後に連続する前記静止画フレームの近似判定を順次行い、前記近似判定において近似と判定された場合には、先行の前記静止画フレームを処理対象フレームとすると共に、後続の前記静止画フレームを処理対象フレームから除外する近似判定部と、前記処理対象フレームにシャープ化処理を施してエッジを強調したエッジ強調フレームを生成するシャープ化部と、前記エッジ強調フレームに二値化処理を施して二値画像フレームを生成する二値化部と、前記二値画像フレームに対して文字認識処理を行って文字情報を取得する文字認識部と、前記文字情報と共に、少なくとも、当該文字情報が取得された前記動画データに関する動画情報と当該文字情報が取得された前記静止画フレームの静止画情報とを記録したメタデータを前記文字情報毎に生成するメタデータ生成部と、を備えることを特徴とする。
【００１０】
本発明の第１の動画処理装置によれば、動画データに付随して動画情報のメタデータが予め用意されていない場合でも、動画データの内容に関連した文字情報のメタデータを提供することができる。また、動画データに表示される様々な文字情報のメタデータが作成されるため、視聴者は、興味のあるキーワードが何れの動画データの何れのシーン（静止画データ）で表示されるかを迅速に検索することが可能となる。更に、静止画フレームが前回の静止画フレームと近似する場合には、文字認識処理の対象外とすることにより、処理負担を大幅に軽減することが可能である。このように、本発明によれば、動画データに表示される文字情報をより確実に検出すると共に、検出した文字情報の利便性を高めて、動画配信サービスの利用及び普及の向上を図ることが可能となる。
【００１１】
上記課題を解決するために、本発明の第２の動画処理装置は、上述した本発明の第１の動画処理装置において、前記二値化部は、前記エッジ強調フレームの色温度範囲を算出すると共に、前記色温度範囲における所定の閾値間隔毎の複数の色温度のそれぞれに基づいて複数の閾値を取得して、前記エッジ強調フレームに対して前記複数の閾値をそれぞれ用いた二値化処理を施して複数の前記二値画像フレームを生成し、前記文字認識部は、前記複数の二値画像フレームのそれぞれに対して文字認識処理を行って前記複数の二値画像フレーム毎に前記文字情報を含む文字認識結果を得ると共に、各文字認識結果を比較して、最適な文字認識結果が得られた前記二値画像フレームのみから前記文字情報を取得し、前記メタデータ生成部は、前記複数の二値画像フレームの内、最適な文字認識結果が得られた前記二値画像フレームのみから取得された前記文字情報に基づいて前記メタデータを生成することを特徴とする。
【００１２】
本発明の第２の動画処理装置によれば、最適な閾値で二値化処理した結果から文字情報を抽出することができる。例えば、色温度範囲が同じ静止画フレームであっても、撮影時の照明等の状況により、二値化処理のために設定すべき閾値がそれぞれ異なる場合があるが、このような場合であっても、最適な文字情報を抽出することが可能である。
【００１３】
上記課題を解決するために、本発明の第３の動画処理装置は、上述した本発明の第１又は第２の動画処理装置において、前記近似判定部は、前後に連続する前記静止画フレームについてＲＧＢ値及び輝度のヒストグラムの変化値を比較し、前記比較値が所定の近似閾値以上であれば、当該前後に連続する静止画フレームを近似と判定することを特徴とする。
【００１４】
本発明の第３の動画処理装置によれば、近似判定部は、近似処理の正確さを維持すると共に、近似処理に係る負担を大幅に軽減することが可能である。
【００１５】
上記課題を解決するために、本発明の第４の動画処理装置は、上述した本発明の第１ないし第３の何れかの動画処理装置において、前記近似判定部は、前後に連続する前記静止画フレームにおいて、四分木空間分割を行い各領域における特異点の変位量の二階微分値にて加速度に換算し、比較することで前後に連続する静止画フレームが近似するか否かを判定することを特徴とする。
【００１６】
本発明の第４の動画処理装置によれば、近似判定部は、前後に連続する静止画フレームについてより正確に近似を判定することができる。
【００１７】
上記課題を解決するために、本発明の第５の動画処理装置は、上述した本発明の第４の動画処理装置において、前記近似判定部は、前記静止画フレームの四分木空間分割を行う際に各特異点の分布及び方向ベクトルを算出し、前記文字認識部は、前記近似判定部で算出された各特異点の分布及び方向ベクトルを、各特異点の分布及び方向ベクトルからなる所定のトレーニングデータと比較することで前記文字認識処理を行うことを特徴とする。
【００１８】
本発明の第５の動画処理装置によれば、近似判定部における近似判定の正確性を維持すると共に、文字認識部における処理負担を軽減することができる。
【００１９】
上記課題を解決するために、本発明の第６の動画処理装置は、上述した本発明の第１ないし第３の何れかの動画処理装置において、前記文字認識部は、前記二値画像フレームの被写体像の各特異点の分布及び方向ベクトルを算出すると共に、特異点の分布及び方向ベクトルからなる所定のトレーニングデータと比較することで前記文字認識処理を行うことを特徴とする。所定のトレーニングデータとは、各種フォント毎の特異点、および方向ベクトルに加え、それぞれフォントの劣化状態での特異点、および方向ベクトルを含んでいる。
【００２０】
本発明の第６の動画処理装置によれば、文字認識部は、分布及び方向ベクトルからなる特異点を算出するため、文字認識処理で使用するデータ量を削減して処理負担を軽減することができ、また、多数用意する必要があるトレーニングデータについてもデータ量を軽減して、トレーニングデータを記憶するサーバコストを低減することが可能である。
【００２１】
上記課題を解決するために、本発明の第７の動画処理装置は、上述した本発明の第６の動画処理装置において、前記文字認識部は、前記二値画像フレームに対して四分木空間分割を行うことで前記被写体像の各特異点を算出すると共に、当該特異点の分布及び方向ベクトルを算出することを特徴とする。
【００２２】
本発明の第７の動画処理装置によれば、文字認識部は、分布及び方向ベクトルからなる特異点を四分木空間分割によって算出するため、文字認識処理での処理負担をより軽減することができる。
【００２３】
上記課題を解決するために、本発明の動画処理システムは、上述した本発明の第１ないし第７の何れかの動画処理装置と、前記動画処理装置の前記メタデータ生成部によって生成された前記文字情報毎の前記メタデータを格納する文字情報データベースと、を備えることを特徴とする。
【００２４】
本発明の動画処理システムによれば、視聴者は、興味のあるキーワードを用いて検索することにより、文字情報データベースからそのキーワードに対応する文字情報のメタデータを取得すると共に、このメタデータに記録された動画情報を読み出して動画データを再生することが可能となる。
【発明の効果】
【００２５】
本発明によれば、動画データに表示される文字情報をより確実に検出すると共に、検出した文字情報の利便性を高めて、動画配信サービスの利用及び普及の向上を図ることが可能となる。
【図面の簡単な説明】
【００２６】
【図１】本発明の一実施形態に係る動画処理システムの概略を示すブロック図である。
【図２】本発明の一実施形態に係る動画処理装置における動画データに基づく文字情報検出動作を示すフローチャートである。
【発明を実施するための形態】
【００２７】
先ず、図１を参照しながら、本発明の実施形態に係る動画処理システム１の全体の構成について説明する。図１に示されるように、動画処理システム１では、動画データに基づいて文字情報を検出する動画処理装置２が、インターネットやＬＡＮ等の所定のネットワーク３を介して、動画データを格納する動画データベース（ＤＢ）４及び文字情報のメタデータ（タグ）を格納する文字情報データベース（ＤＢ）５と通信可能に接続されている。動画ＤＢ４及び文字情報ＤＢ５は、ネットワーク３を介して検索エンジン６と通信可能に接続されていて、それぞれ格納した動画データ及び文字情報のメタデータの検索エンジン６による検索が可能になっている。また、動画処理システム１では、動画データを再生可能な視聴者端末７も、ネットワーク３を介して、動画ＤＢ４、文字情報ＤＢ５及び検索エンジン６と通信可能に接続されている。
【００２８】
先ず、動画処理装置２について説明する。動画処理装置２は、例えば、ネットワーク３上で動画ＤＢ４や文字情報ＤＢ５から独立して設けられていてもよく、又は、動画ＤＢ４や文字情報ＤＢ５を管理するコンピュータとして設けられていてもよい。本実施形態では、ネットワーク３上に１つの動画処理装置２が備えられる例を説明するが、複数の動画処理装置２がネットワーク３上に備えられてよい。また、動画処理装置２は、動画のカテゴリー（業種）別に備えられていてもよい。
【００２９】
動画処理装置２は、動画データに対して文字認識処理を実行するもので、文字認識処理を行うことができる動画データは、セミナーや解説等のように文字が記載される掲示物が頻出する動画や、字幕を伴う映画等の動画に限定されず、文字が表示される動画であればよく、例えば、株価データや会社名が頻出する金融に係る動画や、商品名や会社名が表示される広告に係る動画等、多岐に亘る。
【００３０】
動画処理装置２は、例えば、制御部１０と、記憶部１１と、通信部１２と、フレーム切り出し部１３と、近似判定部１４と、シャープ化部１５と、二値化部１６と、文字認識部１７と、メタデータ生成部１８と、を備える。なお、フレーム切り出し部１３、近似判定部１４、シャープ化部１５、二値化部１６、文字認識部１７及びメタデータ生成部１８は、記憶部１１に記憶され、制御部１０によって制御されることで動作するプログラムで構成されていてもよい。
【００３１】
制御部１０は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）等を有して、動画処理装置２の全体の動作を統括して制御するように構成される。記憶部１１は、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）やＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）等のメモリや、ハードディスク等の記録媒体を有して、制御部１０で制御される情報やデータ、プログラム等を記憶するように構成される。
【００３２】
通信部１２は、動画処理装置２がインターネットやＬＡＮ等のネットワーク３に接続するためのインタフェースであり、即ち、動画処理装置２を動画ＤＢ４や文字情報ＤＢ５とネットワーク３を介して接続する。
【００３３】
通信部１２は、例えば、ネットワーク３を介して動画ＤＢ４と通信することにより、動画処理装置２で文字情報検出の対象となる動画データを動画ＤＢ４から受信する。例えば、通信部１２は、動画処理装置２の操作者によって、動画取得動作や文字情報検出の開始動作が実行されると共に、動画データ及び当該動画データの取得先の動画ＤＢ４が選択されると、動画ＤＢ４から動画データを取得する。また、通信部１２は、動画処理装置２が備える動画取得クローラ（図示せず）の動作に応じて、動画ＤＢ４に記録された動画データを順次取得してもよい。なお、動画取得クローラ（図示せず）は、ネットワーク３内の全ての動画データを取得してもよいが、操作者によって選択されたカテゴリー（業種）やキーワードに基づいて動画データを検索して取得してもよい。
【００３４】
なお、通信部１２は、動画データの取得先として、動画ＤＢ４に限定せず、放送局からネットワーク３を介して又は放送受信機（図示せず）によって放送波を受信して動画データを取得してもよく、あるいは、動画処理装置２に直接接続されるスマートフォンやパーソナルコンピュータ等の外部端末から動画データを取得してもよい。
【００３５】
また、通信部１２は、例えば、ネットワーク３を介して文字情報ＤＢ５と通信することにより、動画処理装置２で生成した文字情報のメタデータを文字情報ＤＢ５へと送信する。なお、動画処理装置２は、通信部１２によるメタデータの送信先の文字情報ＤＢ５を選択できるように構成されてよい。
【００３６】
フレーム切り出し部１３は、通信部１２が動画ＤＢ４から受信した動画データから複数の静止画フレームを取得する。本実施形態では特に、フレーム切り出し部１３は、動画データに対して所定のフレーム間隔毎に、例えば１秒の時間間隔毎に、静止画フレームを切り出すフレーム切り出しを行ってフレーム間隔毎の複数の静止画フレームを取得する。なお、フレーム切り出し部１３は、後述する特異点の抽出量を増やすために、高画質化して画像ピクセル数を増大させた静止画フレームを取得するとよい。
【００３７】
近似判定部１４は、フレーム切り出し部１３で得られた複数の静止画フレームに対して近似判定を行って、近似する静止画フレームを文字認識処理の処理対象フレームから除外する。本実施形態では特に、近似判定部１４は、複数の静止画フレームの内、前後に連続する２つの静止画フレームの近似判定を順次行い、この近似判定において近似と判定された場合には、先行の静止画フレームを処理対象フレームとすると共に、後続の静止画フレームを処理対象フレームから除外する。なお、先の近似判定において後続の静止画フレームを処理対象フレームから除外した場合には、今回の近似判定において後続の静止画フレームと比較されるフレームは、先の近似判定で処理対象フレームとした静止画フレームとなる。
【００３８】
例えば、近似判定部１４は、近似判定として、前後に連続する静止画フレームについてＲＧＢ値及び輝度のヒストグラムの変化値を比較し、比較値が所定の近似閾値以上であれば、前後に連続する静止画フレームを近似と判定する。更に、近似判定部１４は、連続する静止画フレームにおいて、四分木空間分割を行い各領域における特異点の変位量の二階微分値にて加速度に換算し、比較することで前後に連続する静止画フレームが近似するか否かを判定する。あるいは、近似判定部１４は、上記のヒストグラムを用いた比較と、上記の四分木空間分割を用いた比較との何れかによって近似を判定してもよい。
【００３９】
なお、セミナーや解説等のように文字が記載された掲示物を表示する動画データや、字幕付きの動画データのように、文字の表示される位置が予め決められている場合には、近似判定部１４は、例えば、予め用意したテンプレートを用いて文字の表示部分だけのデータを取得し、文字の表示部分にターゲットを絞って近似処理を行ってもよい。この場合、動画処理装置２では、文字の表示部分毎のテンプレートを管理して、テンプレートの新規作成、変更、削除などの機能を有する。
【００４０】
シャープ化部１５は、近似判定部１４で得られた処理対象フレームにシャープ化処理を施すことにより、被写体像のエッジを強調したエッジ強調フレームを生成する。
【００４１】
シャープ化部１５によるシャープ化処理では、例えば、処理対象フレームのガウス分布（標準偏差）を算出することでアンシャープマスクを生成し、処理対象フレームにアンシャープマスクを加えることでシャープフレームを生成する。更に、このシャープフレームにおいて、画素間で輝度が変位する区間を検出すると共にその区間の輝度の変位量を算出し、また、変位量を加速度に換算し、そして、シャープフレームにおいて加速度が大きいほどエッジをより強調するエッジ抽出処理を行ってエッジ強調フレームを生成する。
【００４２】
二値化部１６は、シャープ化部１５で生成されたエッジ強調フレームに二値化処理を施して二値画像フレームを生成する。二値化部１６は、例えば、二値化処理の前にエッジ強調フレームに対してゼロ交差法等を用いてエッジ検出を行い、このエッジ検出によって特異点が検出されたフレームに対して二値化処理を施してもよい。
【００４３】
本実施形態では特に、二値化部１６は、エッジ強調フレーム（又は元の静止画フレーム）の色温度範囲（画像の各ドットが存在する周波数帯域）を算出すると共に、色温度範囲における所定の閾値間隔毎の複数の色温度のそれぞれに基づいて複数の閾値を取得する。そして、二値化部１６は、エッジ強調フレームに対して複数の閾値をそれぞれ用いた二値化処理を施して複数の二値画像フレームを生成する。なお、二値化部１６は、エッジ強調フレームの色温度範囲の最大値及び最小値に基づく閾値で二値化処理をしても、黒部分又は白部分が多すぎる二値画像フレームが生成されるため、これらの閾値での二値化処理は行わない。また、二値化処理部１６は、生成した複数の二値画像フレームの濃度（黒部分及び白部分）の分布を参照して、黒部分又は白部分が多すぎる二値画像フレームを除外してもよい。
【００４４】
文字認識部１７は、二値化部１６で生成された二値画像フレームに対して文字認識処理を行って文字情報を取得する。この文字認識処理において、文字認識部１７は、二値画像フレームから文字を１つずつ認識し、例えば、二値画像フレームの被写体像を示す特異点を抽出すると共に、抽出された特異点の集まりを１つの文字の文字候補とする。例えば、文字認識部１７は、二値画像フレームに対して四分木空間分割を行うことで被写体像の各特異点を算出する。なお、上記の近似判定部１４が、四分木空間分割を行って特異点を算出する場合、文字認識部１７は、四分木空間分割を行うことなく、近似判定部１４で算出した特異点を用いてもよい。
【００４５】
なお、二値画像フレーム（元の静止画フレーム）で文字が斜めに表示されていた場合でも、文字認識部１７は、基準線を導入すると共にベクトル空間を設定することによって、文字候補の特異点のベクトル方向を正確に修正することができる。例えば、文字認識部１７は、３Ｄ空間認識で利用される仕組みと同様にして、隣接する文字候補の配列方向のベクトルから基準線を取得し、この基準線が水平又は垂直となるように文字候補の特異点のベクトル方向を修正する。
【００４６】
また、文字認識部１７は、文字認識のためのトレーニングデータとして、既定の様々なフォントの様々な文字、およびそれらの劣化状態について特異点の分布と方向ベクトルを予め登録しておく。そして、文字認識部１７は、文字候補の特異点をトレーニングデータと比較することでトレーニングデータの何れかの文字に該当するか否かを判定して、二値画像フレーム上の各文字を認識する。
【００４７】
更に、文字認識部１７は、上記のようにして認識できた文字に対して辞書データ処理を行い、この辞書データ処理では、隣接する２つ以上の文字列を、予め登録してある単語辞書と比較、照合する。そして、文字認識部１７は、文字列が単語辞書の何れかの単語に該当するか否かを判定し、その判定結果に基づいて文字情報を取得する。なお、文字認識部１７は、文字列が単語辞書の何れかの単語にも該当しない場合でも、例えば誤読パターンに該当する場合には、その誤読パターンに対する正しい文字列に自動的に訂正して文字情報としてよい。上記のように、文字認識部１７で認識された文字情報は、二値画像フレームにおける特異点の集まりからなるデータと共に、追加トレーニングデータとして保存するとよい。
【００４８】
なお、文字認識部１７は、トレーニングデータや単語辞書の単語に優先度を付加しておき、上記の文字認識処理において、優先度の高いトレーニングデータや単語から順に文字候補や文字列との比較に用いるとよい。例えば、文字認識部１７は、認識される頻度の高いトレーニングデータや単語に対して優先度を高く設定する。
【００４９】
また、文字認識部１７は、上記のように文字認識処理を行う文字認識エンジンを動画のカテゴリー（業種）別に備え、更に、動画のカテゴリー別にトレーニングデータや単語辞書を予め登録しておくとよい。文字認識部１７は、動画データに記録された動画情報に含まれるカテゴリーを判別し、又は、操作者の入力したカテゴリーを判別する。そして、文字認識部１７は、判別されたカテゴリーに対応する文字認識エンジンを使用すると共に、このカテゴリーに対応するトレーニングデータや単語辞書を優先的に使用して文字認識処理を行うとよい。
【００５０】
本実施形態では特に、文字認識部１７は、二値化部１６で生成された複数の二値画像フレームのそれぞれに対して文字認識処理を行う。そして、文字認識部１７は、複数の二値画像フレーム毎に文字情報を含む文字認識結果を得ると共に、各文字認識結果を比較する。このとき、文字認識部１７は、文字認識結果として、例えば、認識できた文字数と、認識できた文字の中で意味を持つ文字として辞書から導き出された文字数とを判定し、これらの文字数が多いものを最適な文字認識結果として判定する。なお、単に認識できた文字よりも、意味を持つ文字の優先度を高く設定してよい。そして、文字認識部１７は、最適な文字認識結果が得られた二値画像フレームのみから文字情報を取得する。
【００５１】
メタデータ生成部１８は、文字認識部１７で得られた文字情報毎にメタデータを生成する。メタデータ生成部１８は、例えば、文字情報と共に、当該文字情報が取得された動画データに関する動画情報と、当該文字情報が取得された静止画フレームの静止画情報とを記録したメタデータを生成する。
【００５２】
メタデータの動画情報としては、動画データの動画ＩＤ、フレーム数、フレームサイズ及びフォーマット形式等が記録されてよく、その他に、動画データのタイトル、作者情報、作成日時、動画のカテゴリー、サムネイル（ＵＲＬ）等が記録されてもよい。メタデータの静止画情報としては、例えば、文字情報が取得された静止画フレームの動画データにおけるリレーションＩＤや時間情報（タイムスタンプ）、及びこの静止画フレームのフレーム番号（ユニークＩＤ）等が記録されてよい。また、メタデータ生成部１８は、文字認識処理の処理日時や処理状況データをメタデータに記録するとよい。本実施形態では特に、メタデータ生成部１８は、二値化部１６で生成された複数の二値画像フレームの内、最適な文字認識結果が得られた二値画像フレームのみから取得された文字情報に基づいてメタデータを生成する。
【００５３】
動画ＤＢ４は、動画データを格納すると共に、視聴者端末７からのアクセスに応じて動画をダウンロード方式やストリーミング方式で配信するデータベースである。また、動画ＤＢ４は、動画処理装置２からの取得動作に応じて、動画データそのものを動画処理装置２へと提供することができる。動画ＤＢ４に格納された動画データは、映像データや音声データに加えて、予め設定された動画タイトルや内容等の動画情報が記録されていてよく、動画情報を検索キーワードとすることで検索エンジン６によって検索可能となる。また、動画ＤＢ４は、所定の視聴者にアクセス権限を付与して、当該視聴者の視聴者端末７からの要求に応じて動画データを配信するように構成されてもよい。
【００５４】
本実施形態では、ネットワーク３上に１つの動画ＤＢ４が備えられる例を説明するが、複数の動画ＤＢ４がネットワーク３上に備えられてよい。また、動画ＤＢ４は、動画のカテゴリー（業種）別に備えられていてもよい。動画ＤＢ４は、１つの動画処理装置２で利用されるものに限定されず、複数の動画処理装置２で利用可能に設けられてよい。
【００５５】
文字情報ＤＢ５は、動画処理装置２で生成された文字情報のメタデータを格納すると共に、視聴者端末７からのアクセスに応じて文字情報のメタデータを提供するデータベースである。文字情報ＤＢ５に格納されたメタデータは、その文字情報を検索キーワードとすることで検索エンジン６によって検索可能となる。また、文字情報ＤＢ５は、所定の視聴者にアクセス権限を付与して、当該視聴者の視聴者端末７からの要求に応じて文字情報のメタデータを提供するように構成されてもよい。
【００５６】
更に、文字情報ＤＢ５は、格納頻度や検索頻度が高い文字情報のメタデータが優先的に検索されるようにメタデータを格納するとよい。また、文字情報ＤＢ５は、視聴者端末７が検索エンジン６を介して所定の文字情報を検索するときに、当該文字情報について、メタデータを１つずつ検索エンジン６へと提供してもよいが、複数のメタデータからなるリストを検索エンジン６へと提供してもよい。
【００５７】
本実施形態では、ネットワーク３上に１つの文字情報ＤＢ５が備えられる例を説明するが、複数の文字情報ＤＢ５がネットワーク３上に備えられてよい。また、文字情報ＤＢ５は、動画のカテゴリー（業種）別に備えられていてもよい。文字情報ＤＢ５は、１つの動画処理装置２で利用されるものに限定されず、複数の動画処理装置２で利用可能に設けられてよい。
【００５８】
視聴者端末７は、ネットワーク３に接続可能であって動画データを再生可能な端末であればよく、例えば、スマートフォン、携帯電話機及びタブレット等の携帯端末や、パーソナルコンピュータ及びテレビ等の据え置き型端末でよい。
【００５９】
次に、このような構成を備えた動画処理システム１において、動画処理装置２による動画データに基づく文字情報検出動作について、図２を参照して説明する。
【００６０】
先ず、動画処理システム１では、動画データの動画提供者が動画データを動画ＤＢ４にアップロードしておく。
【００６１】
一方、動画処理装置２では、例えば、操作者によって文字情報検出の開始動作が実行されると共に、動画データ及び当該動画データの取得先の動画ＤＢ４が選択されると、通信部１２が動画ＤＢ４から動画データを取得する（ステップＳ１）。
【００６２】
続いて、フレーム切り出し部１３が、通信部１２で取得された動画データから所定のフレーム間隔毎の複数の静止画フレームを取得する（ステップＳ２）。
【００６３】
そして、動画処理装置２は、複数の静止画フレームに対して、順次、文字情報検出を実行する（ステップＳ３）。
【００６４】
各静止画フレームの文字情報検出では、先ず、前回の文字情報検出がされた処理対象フレームの有無を判定する（ステップＳ４）。ここで、前回の処理対象フレームがある場合には（ステップＳ４：Ｙｅｓ）、近似処理（ステップＳ５）に移行する。一方、前回の処理対象フレームがない場合には（ステップＳ４：Ｎｏ）、今回の静止画フレームを処理対象フレームとしてシャープ化処理（ステップＳ６）に移行する。この場合、今回の静止画フレームは、次の静止画フレームの文字情報検出（ステップＳ３）の際に前回の処理対象フレームとなる。
【００６５】
近似処理（ステップＳ５）では、近似判定部１４が、今回の静止画フレームが前回の処理対象フレームに近似するか否かを判定する。ここで、今回の静止画フレームが前回の処理対象フレームに近似する場合には（ステップＳ５：Ｙｅｓ）、今回の静止画フレームを処理対象フレームから除外して、シャープ化処理（ステップＳ６）に移行することなく、次の静止画フレームの文字情報検出（ステップＳ３）に移行する。
【００６６】
一方、今回の静止画フレームが前回の処理対象フレームに近似しない場合には（ステップＳ５：Ｎｏ）、今回の静止画フレームを処理対象フレームとしてシャープ化処理（ステップＳ６）に移行する。この場合、今回の静止画フレームは、次の静止画フレームの文字情報検出（ステップＳ３）の際に前回の処理対象フレームとなる。
【００６７】
シャープ化処理（ステップＳ６）では、シャープ化部１５が、処理対象フレームにシャープ化処理を施すことによりエッジ強調フレームを生成する。
【００６８】
また、二値化処理（ステップＳ７）に移行し、二値化部１６が、エッジ強調フレームの色温度範囲に基づいて複数の閾値を取得すると共に、複数の閾値をそれぞれ用いてエッジ強調フレームを二値化処理して複数の二値画像フレームを生成する。
【００６９】
更に、文字認識処理（ステップＳ８）に移行し、文字認識部１７が、複数の二値画像フレームのそれぞれに文字認識処理を行う。そして、文字認識部１７は、複数の二値画像フレームの各文字認識結果を比較し、最適な文字認識結果が得られた二値画像フレームから文字情報を取得する（ステップＳ９）。
【００７０】
続いて、メタデータ作成（ステップＳ１０）に移行し、メタデータ生成部１８が、文字情報のメタデータを作成する。
【００７１】
このようにして動画処理装置２で作成されたメタデータは、通信部１２によってネットワーク３を介して文字情報ＤＢ５にアップロードされる（ステップＳ１１）。文字情報ＤＢ５は、アップロードされたメタデータを、ユーザーが利用しやすいようにソートしておく。
【００７２】
本実施形態では、上述のように、動画処理装置２は、動画データから所定のフレーム間隔毎の複数の静止画フレームを切り出すフレーム切り出し部１３と、複数の静止画フレームに対して、前後に連続する静止画フレームの近似判定を順次行い、近似判定において近似と判定された場合には、先行の静止画フレームを処理対象フレームとすると共に、後続の静止画フレームを処理対象フレームから除外する近似判定部１４と、処理対象フレームにシャープ化処理を施してエッジを強調したエッジ強調フレームを生成するシャープ化部１５と、エッジ強調フレームに二値化処理を施して二値画像フレームを生成する二値化部１６と、二値画像フレームに対して文字認識処理を行って文字情報を取得する文字認識部１７と、文字情報と共に、少なくとも、当該文字情報が取得された動画データに関する動画情報と当該文字情報が取得された静止画フレームの静止画情報とを記録したメタデータを文字情報毎に生成するメタデータ生成部１８と、を備えて構成されている。
【００７３】
このような構成により、本実施形態によれば、動画データに付随して動画情報のメタデータが予め用意されていない場合でも、動画データの内容に関連した文字情報のメタデータを提供することができる。また、動画データに表示される様々な文字情報のメタデータが作成されるため、視聴者は、興味のあるキーワードが何れの動画データの何れのシーン（静止画データ）で表示されるかを迅速に検索することが可能となる。更に、静止画フレームが前回の静止画フレームと近似する場合には、文字認識処理の対象外とすることにより、処理負担を大幅に軽減することが可能である。このように、本発明によれば、動画データに表示される文字情報をより確実に検出すると共に、検出した文字情報の利便性を高めて、動画配信サービスの利用及び普及の向上を図ることが可能となる。
【００７４】
また、本実施形態によれば、動画処理装置２において、二値化部１６は、エッジ強調フレームの色温度範囲を算出すると共に、色温度範囲における所定の閾値間隔毎の複数の色温度のそれぞれに基づいて複数の閾値を取得して、エッジ強調フレームに対して複数の閾値をそれぞれ用いた二値化処理を施して複数の二値画像フレームを生成し、文字認識部１７は、複数の二値画像フレームのそれぞれに対して文字認識処理を行って複数の二値画像フレーム毎に文字情報を含む文字認識結果を得ると共に、各文字認識結果を比較して、最適な文字認識結果が得られた二値画像フレームのみから文字情報を取得し、メタデータ生成部１８は、複数の二値画像フレームの内、最適な文字認識結果が得られた二値画像フレームのみから取得された文字情報に基づいて前記メタデータを生成するように構成される。
【００７５】
このような構成により、動画処理装置２は、最適な閾値で二値化処理した結果から文字情報を抽出することができる。例えば、色温度範囲が同じ静止画フレームであっても、撮影時の照明等の状況により、二値化処理のために設定すべき閾値がそれぞれ異なる場合があるが、このような場合であっても、最適な文字情報を抽出することが可能である。
【００７６】
更に、本実施形態によれば、動画処理装置２において、近似判定部１４は、前後に連続する静止画フレームについてＲＧＢ値及び輝度のヒストグラムの変化値を比較し、比較値が所定の近似閾値以上であれば、当該前後に連続する静止画フレームを近似と判定するように構成される。
【００７７】
このような構成により、近似判定部１４は、近似処理の正確さを維持すると共に、近似処理に係る負担を大幅に軽減することが可能である。
【００７８】
また、本実施形態によれば、動画処理装置２において、近似判定部１４は、前後に連続する静止画フレームにおいて、四分木空間分割を行い各領域における特異点の変位量の二階微分値にて加速度に換算し、比較することで前後に連続する静止画フレームが近似するか否かを判定するように構成される。
【００７９】
このような構成により、近似判定部１４は、前後に連続する静止画フレームについてより正確に近似を判定することができる。
【００８０】
更に、本実施形態によれば、動画処理装置２において、近似判定部１４は、静止画フレームの四分木空間分割を行う際に各特異点の分布及び方向ベクトルを算出し、文字認識部１７は、近似判定部１４で算出された各特異点の分布及び方向ベクトルを、各特異点の分布及び方向ベクトルからなる所定のトレーニングデータと比較することで文字認識処理を行うように構成される。
【００８１】
このような構成により、近似判定部１４における近似判定の正確性を維持すると共に、文字認識部１７における処理負担を軽減することができる。
【００８２】
また、本実施形態によれば、動画処理装置２において、文字認識部１７は、二値画像フレームの被写体像の特異点の分布及び方向ベクトルを算出すると共に、特異点の分布及び方向ベクトルからなる所定のトレーニングデータと比較することで文字認識処理を行うように構成されている。
【００８３】
このような構成により、文字認識部１７は、分布及び方向ベクトルからなる特異点を算出するため、文字認識処理で使用するデータ量を削減して処理負担を軽減することができ、また、多数用意する必要があるトレーニングデータについてもデータ量を軽減して、トレーニングデータを記憶するサーバコストを低減することが可能である。
【００８４】
また、本実施形態によれば、動画処理装置２において、文字認識部１７は、二値画像フレームに対して四分木空間分割を行うことで被写体像の各特異点を算出すると共に、当該特異点の分布及び方向ベクトルを算出するように構成されている。
【００８５】
このような構成により、文字認識部１７は、分布及び方向ベクトルからなる特異点を四分木空間分割によって算出するため、文字認識処理での処理負担をより軽減することができる。
【００８６】
また、本実施形態によれば、動画処理システム１は、上記したような動画処理装置２と、動画処理装置２のメタデータ生成部１８によって生成された文字情報毎のメタデータを格納する文字情報ＤＢ（データベース）５と、を備えて構成されている。
【００８７】
このような構成により、動画処理システム１において、視聴者は、興味のあるキーワードを用いて検索することにより、文字情報ＤＢ５からそのキーワードに対応する文字情報のメタデータを取得すると共に、このメタデータに記録された動画情報を読み出して動画データを再生することが可能となる。
【００８８】
本実施形態では、文字認識部１７は、文字認識のためのトレーニングデータとして、各フォントの各文字について特異点の分布と方向ベクトルを予め登録しておく構成を説明したが、この構成に限定されない。例えば、他の実施形態では、トレーニングデータを登録するトレーニングデータ用データベースを別途設けて、動画処理装置２が文字認識処理時にこのトレーニングデータ用データベースにアクセスしてトレーニングデータを取得するように構成されてもよい。
【００８９】
また、文字認識部１７やトレーニングデータ用データベースは、各フォントの各文字についてのトレーニングデータに加えて、デコレーションされた文字についてのトレーニングデータを登録するように構成されてもよい。デコレーションされた文字は、例えば、プレゼンテーション等で利用される文字であって、既定のフォントに比べて文字の輪郭が違う色で表示された文字や、斜体や太文字で形成された文字、白抜きされた文字、シャドーのある文字等がある。
【００９０】
また、他の実施形態として、動画処理装置２は、静止画フレームにおける特定の人物（特に、著名人）の顔画像を認識すると共に、その人物情報をメタデータとして生成するように構成することもできる。この場合、動画処理装置２は、特定の人物の顔画像の特徴点の分布及び方向ベクトル（この場合では、３Ｄ方向ベクトル）を、予めトレーニングデータとして登録し、トレーニングデータに付随してその特定の人物の人物情報も登録しておく。そして、動画処理装置２は、静止画フレーム（二値画像フレーム）における特徴点の分布及びベクトル方向から顔認識処理を行い、抽出された顔画像が、トレーニングデータに該当するか否かを判定する。抽出された顔画像がトレーニングデータに該当する場合には、そのトレーニングデータに付随する人物情報を、動画データ及び静止画フレームに関連付けたメタデータとして生成し、人物情報データベース（図示せず）に登録する。
【００９１】
同様にして、動画処理装置２は、静止画フレームにおけるランドマーク（特に、著名な建造物）の画像を認識すると共に、そのランドマーク情報をメタデータとして生成するように構成することもできる。
【００９２】
更に、他の実施形態として、動画処理装置２は、静止画フレームにおける特定の風景（特に、色彩から想定できる海等の風景）の画像を認識すると共に、その風景情報をメタデータとして生成するように構成することもできる。この場合、動画処理装置２は、特定の風景の色の分布を示すヒストグラムを、予めトレーニングデータとして登録し、トレーニングデータに付随してその特定の風景の風景情報も登録しておく。そして、動画処理装置２は、静止画フレーム（処理対象フレーム）における色の分布のヒストグラムを算出し、そのヒストグラムが、トレーニングデータに該当するか否かを判定する。算出されたヒストグラムがトレーニングデータに該当する場合には、そのトレーニングデータに付随する風景情報を、動画データ及び静止画フレームに関連付けたメタデータとして生成し、風景情報データベース（図示せず）に登録する。
【００９３】
本実施形態では、動画処理装置２が文字認識処理の機能を有する構成を説明したが、この構成に限定されない。例えば、他の実施形態では、動画処理システム１において、動画処理装置２又は他のサーバが、動画処理装置２と同様の文字認識処理の機能を有するプログラムやアプリケーションを提供するように構成されてもよい。
【符号の説明】
【００９４】
１  動画処理システム
２  動画処理装置
３  ネットワーク
４  動画データベース（ＤＢ）
５  文字情報データベース（ＤＢ）
６  検索エンジン
７  視聴者端末
１０  制御部
１１  記憶部
１２  通信部
１３  フレーム切り出し部
１４  近似判定部
１５  シャープ化部
１６  二値化部
１７  文字認識部
１８  メタデータ生成部
【図１】
2017011581.tif 000003
【図２】
2017011581.tif 000004
【手続補正書】
【提出日】平成28年10月11日(2016.10.11)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
動画データから所定のフレーム間隔毎の複数の静止画フレームを切り出すフレーム切り出し部と、
前記複数の静止画フレームに対して、前後に連続する前記静止画フレームの近似判定を順次行い、前記近似判定において近似と判定された場合には、先行の前記静止画フレームを処理対象フレームとすると共に、後続の前記静止画フレームを処理対象フレームから除外する近似判定部と、
前記処理対象フレームにシャープ化処理を施してエッジを強調したエッジ強調フレームを生成するシャープ化部と、
前記エッジ強調フレームに二値化処理を施して二値画像フレームを生成する二値化部と、
前記二値画像フレームに対して文字認識処理を行って文字情報を取得する文字認識部と、
前記文字情報と共に、少なくとも、当該文字情報が取得された前記動画データに関する動画情報と当該文字情報が取得された前記静止画フレームの静止画情報とを記録したメタデータを前記文字情報毎に生成するメタデータ生成部と、
を備え、
前記二値化部は、前記エッジ強調フレームの色温度範囲を算出すると共に、前記色温度範囲における所定の閾値間隔毎の複数の色温度のそれぞれに基づいて複数の閾値を取得して、前記エッジ強調フレームに対して前記複数の閾値をそれぞれ用いた二値化処理を施して複数の前記二値画像フレームを生成し、
前記文字認識部は、前記複数の二値画像フレームのそれぞれに対して文字認識処理を行って前記複数の二値画像フレーム毎に前記文字情報を含む文字認識結果を得ると共に、各文字認識結果を比較して、最適な文字認識結果が得られた前記二値画像フレームのみから前記文字情報を取得し、
前記メタデータ生成部は、前記複数の二値画像フレームの内、最適な文字認識結果が得られた前記二値画像フレームのみから取得された前記文字情報に基づいて前記メタデータを生成することを特徴とする動画処理装置。
【請求項２】
前記近似判定部は、前後に連続する前記静止画フレームについてＲＧＢ値及び輝度のヒストグラムの変化値を比較し、前記比較値が所定の近似閾値以上であれば、当該前後に連続する静止画フレームを近似と判定することを特徴とする請求項１に記載の動画処理装置。
【請求項３】
前記近似判定部は、前後に連続する前記静止画フレームにおいて、四分木空間分割を行い各領域における特異点の変位量の二階微分値にて加速度に換算し、比較することで前後に連続する静止画フレームが近似するか否かを判定することを特徴とする請求項１又は請求項２に記載の動画処理装置。
【請求項４】
前記近似判定部は、前記静止画フレームの四分木空間分割を行う際に各特異点の分布及び方向ベクトルを算出し、
前記文字認識部は、前記近似判定部で算出された各特異点の分布及び方向ベクトルを、各特異点の分布及び方向ベクトルからなる所定のトレーニングデータと比較することで前記文字認識処理を行うことを特徴とする請求項３に記載の動画処理装置。
【請求項５】
前記文字認識部は、前記二値画像フレームの被写体像の各特異点の分布及び方向ベクトルを算出すると共に、特異点の分布及び方向ベクトルからなる所定のトレーニングデータと比較することで前記文字認識処理を行うことを特徴とする請求項１又は請求項２の何れか１項に記載の動画処理装置。
【請求項６】
前記文字認識部は、前記二値画像フレームに対して四分木空間分割を行うことで前記被写体像の各特異点を算出すると共に、当該特異点の分布及び方向ベクトルを算出することを特徴とする請求項５に記載の動画処理装置。
【請求項７】
請求項１〜請求項６の何れか１項に記載の動画処理装置と、
前記動画処理装置の前記メタデータ生成部によって生成された前記文字情報毎の前記メタデータを格納する文字情報データベースと、
を備える動画処理システム。