(57)【特許請求の範囲】
【請求項１】
監視カメラで撮影された映像データの映像と共に、前記映像に含まれる事象のカテゴリを設定するためのカテゴリ設定画面を表示させる表示制御手段と、
前記カテゴリ設定画面に対するオペレータの操作に応じて設定されたカテゴリ情報を、前記映像データと共に学習用データとして蓄積する学習用データ蓄積手段と、
前記学習用データ蓄積手段に蓄積された前記学習用データを用いて学習処理を行い、前記映像データを解析して、特定のカテゴリに属する事象を検出し、その検出結果を出力する第１映像解析手段と、
を備え、
前記表示制御手段は、前記カテゴリ設定画面において、前記映像データに関連するカテゴリを新たに生成するために必要な情報を入力させる手段を有し、
前記カテゴリが新たに生成された場合に、前記第１映像解析手段で解析できれば、前記第１映像解析手段に新たなカテゴリを設定し、前記第１映像解析手段で解析できなければ、新規なカテゴリの属する事象を検出するための、前記第１映像解析手段と異なるアルゴリズムを有する第２映像解析手段を新たに生成する生成手段をさらに備える映像処理装置。
【請求項２】
前記表示制御手段は、前記カテゴリ設定画面において、前記映像データに関連する複数のカテゴリを修正または追加可能に表示させる請求項１に記載の映像処理装置。
【請求項３】
前記表示制御手段は、前記カテゴリ設定画面において、前記映像データに関連する複数のカテゴリを選択可能に表示させる請求項１または２に記載の映像処理装置。
【請求項４】
学習用データ蓄積手段は、カテゴリ情報として、カテゴリ名、映像撮影時刻、事象領域、オペレータ情報を蓄積する請求項１乃至３のいずれか１項に記載の映像処理装置。
【請求項５】
監視カメラで撮影された映像データを蓄積する映像データ蓄積手段と、
前記映像データ蓄積手段に蓄積された映像データの映像と共に、前記映像に含まれる事象のカテゴリを設定するためのカテゴリ設定画面を表示させる表示制御手段と、
前記カテゴリ設定画面に対するオペレータの操作に応じて設定されたカテゴリ情報を、前記映像データと共に学習用データとして蓄積する学習用データ蓄積手段と、
前記学習用データ蓄積手段に蓄積された前記学習用データを用いて学習処理を行い、前記映像データ蓄積手段に蓄積された映像データを解析して、特定のカテゴリに属する事象を検出し、その検出結果を出力する第１映像解析手段と、
を備え、
前記表示制御手段は、前記カテゴリ設定画面において、前記映像データに関連するカテゴリを新たに生成するために必要な情報を入力させる手段を有し、
前記カテゴリが新たに生成された場合に、前記第１映像解析手段で解析できれば、前記第１映像解析手段に新たなカテゴリを設定し、前記第１映像解析手段で解析できなければ、新規なカテゴリの属する事象を検出するための、前記第１映像解析手段と異なるアルゴリズムを有する第２映像解析手段を新たに生成する生成手段をさらに備える映像監視システム。
【請求項６】
監視カメラで撮影された映像データの映像と共に、前記映像に含まれる事象のカテゴリを設定するためのカテゴリ設定画面を表示させる表示制御ステップと、
前記カテゴリ設定画面に対するオペレータの操作に応じて設定されたカテゴリ情報を、前記映像データと共に学習用データとして学習用データ蓄積手段に蓄積する学習用データ蓄積ステップと、
前記学習用データ蓄積手段に蓄積された前記学習用データを用いて映像解析モジュールの学習処理を行なう学習ステップと、
第１映像解析手段が、前記映像解析モジュールを用いて、前記映像データを解析して、特定のカテゴリに属する事象を検出し、その検出結果を出力する映像解析ステップと、
を含み、
前記表示制御ステップは、前記カテゴリ設定画面において、前記映像データに関連するカテゴリを新たに生成するために必要な情報を入力させるステップを有し、
前記カテゴリが新たに生成された場合に、前記第１映像解析手段で解析できれば、前記第１映像解析手段に新たなカテゴリを設定し、前記第１映像解析手段で解析できなければ、新規なカテゴリの属する事象を検出するための、前記第１映像解析手段と異なるアルゴリズムを有する第２映像解析手段を生成する生成ステップをさらに含む映像処理方法。
【請求項７】
監視カメラで撮影された映像データの映像と共に、前記映像に含まれる事象のカテゴリを設定するためのカテゴリ設定画面を表示させる表示制御ステップと、
前記カテゴリ設定画面に対するオペレータの操作に応じて設定されたカテゴリ情報を、前記映像データと共に学習用データとして学習用データ蓄積手段に蓄積する学習用データ蓄積ステップと、
前記学習用データ蓄積手段に蓄積された前記学習用データを用いて映像解析モジュールの学習処理を行なう学習ステップと、
第１映像解析手段が、前記映像解析モジュールを用いて、前記映像データを解析して、特定のカテゴリに属する事象を検出し、その検出結果を出力する映像解析ステップと、
を含み、
前記表示制御ステップは、前記カテゴリ設定画面において、前記映像データに関連するカテゴリを新たに生成するために必要な情報を入力させるステップを有し、
前記カテゴリが新たに生成された場合に、前記第１映像解析手段で解析できれば、前記第１映像解析手段に新たなカテゴリを設定し、前記第１映像解析手段で解析できなければ、新規なカテゴリの属する事象を検出するための、前記第１映像解析手段と異なるアルゴリズムを有する第２映像解析手段を生成する生成ステップをさらにコンピュータに実行させる映像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、監視カメラからの映像を解析する技術に関する。
【背景技術】
【０００２】
上記技術分野において、特許文献１には、リアルタイム学習により、挙動認識システムの事前知識、事前学習を不要とする技術が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】ＷＯ２００８／０９８１８８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記文献に記載の技術では、挙動認識を機械学習することにより、類似の物体の過去の観測に基づいて、一定の挙動を正常または異常と特徴付けている。これでは、システム運用者が積極的に介在、支援しないため、運用過程での識別器学習ができない。つまり、挙動解析システムの実運用中に解析精度を向上させることができない。【０００５】
本発明の目的は、上述の課題を解決する技術を提供することにある。
【課題を解決するための手段】
【０００６】
上記目的を達成するため、本発明に係る映像処理装置は、
監視カメラで撮影された映像データの映像と共に、前記映像に含まれる事象のカテゴリを設定するためのカテゴリ設定画面を表示させる表示制御手段と、
前記カテゴリ設定画面に対するオペレータの操作に応じて設定されたカテゴリ情報を、前記映像データと共に学習用データとして蓄積する学習用データ蓄積手段と、
前記学習用データ蓄積手段に蓄積された前記学習用データを用いて学習処理を行い、前記映像データを解析して、特定のカテゴリに属する事象を検出し、その検出結果を出力する第１映像解析手段と、
を備え、
前記表示制御手段は、前記カテゴリ設定画面において、前記映像データに関連するカテゴリを新たに生成するために必要な情報を入力させる手段を有し、
前記カテゴリが新たに生成された場合に、前記第１映像解析手段で解析できれば、前記第１映像解析手段に新たなカテゴリを設定し、前記第１映像解析手段で解析できなければ、新規なカテゴリの属する事象を検出するための、前記第１映像解析手段と異なるアルゴリズムを有する第２映像解析手段を新たに生成する生成手段をさらに備える。
【０００７】
上記目的を達成するため、本発明に係る映像監視システムは、
監視カメラで撮影された映像データを蓄積する映像データ蓄積手段と、
前記映像データ蓄積手段に蓄積された映像データの映像と共に、前記映像に含まれる事象のカテゴリを設定するためのカテゴリ設定画面を表示させる表示制御手段と、
前記カテゴリ設定画面に対するオペレータの操作に応じて設定されたカテゴリ情報を、前記映像データと共に学習用データとして蓄積する学習用データ蓄積手段と、
前記学習用データ蓄積手段に蓄積された前記学習用データを用いて学習処理を行い、前記映像データ蓄積手段に蓄積された映像データを解析して、特定のカテゴリに属する事象を検出し、その検出結果を出力する第１映像解析手段と、
を備え、
前記表示制御手段は、前記カテゴリ設定画面において、前記映像データに関連するカテゴリを新たに生成するために必要な情報を入力させる手段を有し、
前記カテゴリが新たに生成された場合に、前記第１映像解析手段で解析できれば、前記第１映像解析手段に新たなカテゴリを設定し、前記第１映像解析手段で解析できなければ、新規なカテゴリの属する事象を検出するための、前記第１映像解析手段と異なるアルゴリズムを有する第２映像解析手段を新たに生成する生成手段をさらに備える。
【０００８】
上記目的を達成するため、本発明に係る映像処理方法は、
監視カメラで撮影された映像データの映像と共に、前記映像に含まれる事象のカテゴリを設定するためのカテゴリ設定画面を表示させる表示制御ステップと、
前記カテゴリ設定画面に対するオペレータの操作に応じて設定されたカテゴリ情報を、前記映像データと共に学習用データとして学習用データ蓄積手段に蓄積する学習用データ蓄積ステップと、
前記学習用データ蓄積手段に蓄積された前記学習用データを用いて映像解析モジュールの学習処理を行なう学習ステップと、
第１映像解析手段が、前記映像解析モジュールを用いて、前記映像データを解析して、特定のカテゴリに属する事象を検出し、その検出結果を出力する映像解析ステップと、
を含み、
前記表示制御ステップは、前記カテゴリ設定画面において、前記映像データに関連するカテゴリを新たに生成するために必要な情報を入力させるステップを有し、
前記カテゴリが新たに生成された場合に、前記第１映像解析手段で解析できれば、前記第１映像解析手段に新たなカテゴリを設定し、前記第１映像解析手段で解析できなければ、新規なカテゴリの属する事象を検出するための、前記第１映像解析手段と異なるアルゴリズムを有する第２映像解析手段を生成する生成ステップをさらに含む。
【０００９】
上記目的を達成するため、本発明に係る映像処理プログラムは、
監視カメラで撮影された映像データの映像と共に、前記映像に含まれる事象のカテゴリを設定するためのカテゴリ設定画面を表示させる表示制御ステップと、
前記カテゴリ設定画面に対するオペレータの操作に応じて設定されたカテゴリ情報を、前記映像データと共に学習用データとして学習用データ蓄積手段に蓄積する学習用データ蓄積ステップと、
前記学習用データ蓄積手段に蓄積された前記学習用データを用いて映像解析モジュールの学習処理を行なう学習ステップと、
第１映像解析手段が、前記映像解析モジュールを用いて、前記映像データを解析して、特定のカテゴリに属する事象を検出し、その検出結果を出力する映像解析ステップと、
を含み、
前記表示制御ステップは、前記カテゴリ設定画面において、前記映像データに関連するカテゴリを新たに生成するために必要な情報を入力させるステップを有し、
前記カテゴリが新たに生成された場合に、前記第１映像解析手段で解析できれば、前記第１映像解析手段に新たなカテゴリを設定し、前記第１映像解析手段で解析できなければ、新規なカテゴリの属する事象を検出するための、前記第１映像解析手段と異なるアルゴリズムを有する第２映像解析手段を生成する生成ステップをさらにコンピュータに実行させる。
【発明の効果】
【００１０】
本発明によれば、監視システムの実運用中に効果的かつ効率的に映像解析精度を高めることができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の第１実施形態に係る映像処理装置の構成を示すブロック図である。
【図２Ａ】本発明の前提技術に係る映像監視システムの構成を示すブロック図である。
【図２Ｂ】本発明の前提技術に係る映像監視システムの構成を示すブロック図である。
【図３】本発明の前提技術に係る映像監視システムの処理の流れを示すフローチャートである。
【図４】本発明の前提技術に係る映像監視システムの学習処理の流れを示すフローチャートである。
【図５】本発明の第２実施形態に係る映像監視システムの構成を示すブロック図である。
【図６Ａ】本発明の第２実施形態に係る映像監視システムで用いられるカテゴリテーブルの構成を示す図である。
【図６Ｂ】本発明の第２実施形態に係る映像監視システムで用いられるカテゴリテーブルの構成を示す図である。
【図６Ｃ】本発明の第２実施形態に係る映像監視システムにおいて映像監視操作端末群から学習用映像抽出部に送られるカテゴリ情報の内容を示す。
【図７Ａ】本発明の第２実施形態に係る映像監視システムの表示画像例を示す図である。
【図７Ｂ】本発明の第２実施形態に係る映像監視システムに格納されるカメラごとの発生事象テーブルの例を示す図である。
【図８】本発明の第２実施形態に係る映像監視システムの表示画像例を示す図である。
【図９Ａ】本発明の第２実施形態に係る映像監視システムの学習処理の流れを示すフローチャートである。
【図９Ｂ】本発明の第２実施形態に係る映像監視システムの学習処理の流れを示すフローチャートである。
【図１０】本発明の第３実施形態に係る映像監視システムの構成を示すブロック図である。
【図１１】本発明の第３実施形態に係る映像監視システムのインセンティブテーブルの内容を示すブロック図である。
【図１２】本発明の第３実施形態に係る映像監視システムの学習処理の流れを示すフローチャートである。
【図１３】本発明の第４実施形態に係る映像監視システムの表示画像例を示す図である。
【図１４】本発明の第４実施形態に係る映像監視システムの学習処理の流れを示すフローチャートである。
【発明を実施するための形態】
【００１２】
以下に、図面を参照して、本発明の実施の形態について例示的に詳しく説明する。ただし、以下の実施の形態に記載されている構成要素はあくまで例示であり、本発明の技術範囲をそれらのみに限定する趣旨のものではない。
【００１３】
［第１実施形態］
本発明の第１実施形態としての映像処理装置１０１について、図１を用いて説明する。図１に示すように、映像処理装置１０１は、映像データ蓄積部１２１と映像解析部１１１と表示制御部１２３と学習用データ蓄積部１４０とを含む。
【００１４】
映像データ蓄積部１２１は、監視カメラ１０２で撮影された映像データを蓄積する。映像解析部１１１は、映像データ蓄積部１２１に蓄積された映像データを解析して、特定のカテゴリ情報に属する事象を検出し、その検出結果を出力する。また、表示制御部１２３は、映像データ蓄積部１２１に蓄積された映像データの映像と共に、映像に含まれる事象のカテゴリ情報を設定するためのカテゴリ情報設定画面を表示させる。学習用データ蓄積部１４０は、カテゴリ情報設定画面に対するオペレータ１８０の操作に応じて設定されたカテゴリ情報とそのカテゴリ情報が設定された映像データとを学習用データとして蓄積する。そして、映像解析部１１１は学習用データ蓄積部１４０に蓄積された学習用データを用いて、学習処理を行なう。
【００１５】
本実施形態によれば、監視システムの実運用中に効果的かつ効率的に映像解析精度を高めることができる。
【００１６】
［第２実施形態］
本発明の第２実施形態は、映像検知エンジンの検知対象の学習用映像をカテゴリ別に収集し、収集した学習用映像を新規モジュール作成、既定モジュールの精度向上に活用する技術に関するものである。なお、以下の説明中「映像」という用語は、動画のみを意味する概念ではなく、静止画をも含む概念として用いている。
【００１７】
（前提技術）
まず、本発明の第２実施形態に係る映像監視システムの前提技術について、図２Ａ〜図４を用いて説明する。図２Ａ、図２Ｂは、本実施形態の前提技術としての映像監視システム２００を説明するための図である。
【００１８】
図２Ａに示すように、映像監視システム２００は、データセンタ２０１と監視カメラ群２０２とを含む。データセンタ２０１は、映像解析プラットフォーム２１０と映像監視プラットフォーム２２０とを含み、さらに、複数の映像監視操作端末群２３２を含んでいる。この図では、複数の映像監視操作端末群２３２を備えた映像監視室２３０の様子を示している。映像監視室２３０では、オペレータ２４０が、映像監視操作端末群２３２のそれぞれの端末が備える２画面のモニタを見ながら、監視対象映像をチェックしている。ここでは、左画面において１６画面分割表示を行ない、右画面において１画面拡大表示を行なった場合の例を示している。しかし、本発明はこれに限定されるものではなく、どのような表示でもよい。例えば左右が逆でもよいし、それぞれの画面での分割数も任意の数である。映像監視室２３０の前方の壁には、複数の大型モニタ２３１が設けられ、問題のある映像または静止画面が表示される。このような映像監視室２３０では、例えば、２００人のオペレータ２４０が、交代しながら、一人あたり１６カメラの映像を監視し、全２０００カメラの映像を２４時間３６０日間監視し続ける。そして、オペレータ２４０は、割り当てられた１６台の監視カメラの映像を見つつ、暴走車、銃やナイフなどの危険物、窃盗、ひったくり、家出、傷害事件、殺人、麻薬取引、不法侵入といった問題行為、それらに準ずる物および行為（例えば不審者や群衆の動き）などといった検出すべき事象を見つけ出し、スーパバイザに報告する。スーパバイザは、映像を再確認して、必要に応じて警察や病院に連絡し、被害者の救助および犯罪者の逮捕に協力する。
【００１９】
映像監視プラットフォーム２２０は、ＶＭＳ(Video Management System)と呼ばれ、監視カメラ群２０２から取得した映像データの保存、および映像監視操作端末群２３２に対する配信を行なう。その結果、映像監視操作端末群２３２では、所定の割り当てルールに応じて、映像データのリアルタイム表示を行なう。映像監視プラットフォーム２２０は、映像監視操作端末群２３２を操作するオペレータ２４０からのリクエストに応じて、監視カメラ群２０２のいずれかを選択し、ＰＴＺ（パン・チルト・ズーム）操作指示を送る。
【００２０】
映像解析プラットフォーム２１０は、映像監視プラットフォーム２２０において保存された映像データに対して解析処理を施し、条件に合った映像データが存在した場合、対象となる映像データを指定したカテゴリ情報を映像監視プラットフォーム２２０へ送信する。映像監視プラットフォーム２２０は、映像解析プラットフォーム２１０から受け取ったカテゴリ情報に応じて、アラート画面を生成し、映像監視操作端末群２３２の所定端末に対して通知する。場合によっては、問題映像の強制拡大表示、大型モニタ２３１への表示を行なう。
【００２１】
図２Ｂは、映像監視システム２００の詳しい構成を示すブロック図である。図２Ｂに示すとおり、映像監視プラットフォーム２２０は、監視カメラ群２０２から映像データ２５０を収集して、採取時刻、カメラ位置、カメラＩＤ、その他の情報を付加して映像ストレージ２２１に蓄積する。また、カメラ選択操作部２２２は、オペレータ２４０による映像監視操作端末群２３２を介した、カメラの指定およびＰＴＺ（パン・チルト・ズーム）操作指示を受け取り、指定された監視カメラを操作する。
【００２２】
映像監視プラットフォーム２２０は、映像監視操作端末群２３２に対してアラートを表示させる表示制御部２２３と、映像監視操作端末群２３２からの指示に応じて、映像ストレージ２２１に保存された過去映像の再生／編集を行なう映像読出処理部２２４とを含む。
【００２３】
映像解析プラットフォーム２１０は、既定映像解析モジュール２１１を備えている。各映像解析モジュールは、それぞれ別々の種類の問題映像を検出するためのアルゴリズムおよび/またはパラメータで構成されている。これらの既定映像解析モジュール２１１は、あらかじめ用意されたアルゴリズムおよびパラメータを用いて、あらかじめ設定された事象を含む映像検出を行ない、検出した映像データに対して、あらかじめ用意されたカテゴリ情報を映像監視プラットフォーム２２０に送信する。
【００２４】
図３は、データセンタ２０１での処理の流れを説明するためのフローチャートである。ステップＳ３０１において、映像監視プラットフォーム２２０は、監視カメラ群２０２から、映像データ２５０を受信する。
【００２５】
次に、ステップＳ３０２において、映像監視プラットフォーム２２０は受信した映像データ２５０を映像ストレージ２２１へ保存し、映像監視操作端末群２３２および映像解析プラットフォーム２１０へ送信する。
【００２６】
次に、ステップＳ３０３において、カメラ選択操作部２２２は、映像監視操作端末群２３２を介してオペレータ２４０からカメラ選択情報とカメラ操作情報とを受信し、選択された監視カメラに対して操作コマンドを送信する。
【００２７】
一方、ステップＳ３０４では、映像解析プラットフォーム２１０が、既定映像解析モジュール２１１を用いて、映像監視プラットフォーム２２０から受信した映像データの解析処理を行なう。
【００２８】
そして、ステップＳ３０５において、既定映像解析モジュール２１１は、あらかじめ定められた条件を満たす映像を検出した場合に、ステップＳ３０７に進み、カテゴリ情報を映像監視プラットフォーム２２０へ送信する。条件を満たす映像を検出しない場合でも、ステップＳ３１０へ進み、「カテゴリ情報無し」というカテゴリ情報を映像監視プラットフォーム２２０へ送信する。
【００２９】
さらにステップＳ３０８では、映像監視プラットフォーム２２０の表示制御部２２３にてアラート画面を生成し、対象監視カメラの映像と共に映像監視操作端末群２３２に送信する。
【００３０】
ステップＳ３０９では、アラート画面に対するオペレータ２４０の操作（スーパーバイザや警察への報告操作）を受け付ける。
【００３１】
図４は、既定映像解析モジュール２１１を生成する際の処理の流れを説明するためのフローチャートである。ここでの映像解析モジュール生成処理は、データセンタ２０１を現地に構築する前に行なう。まずステップＳ４０１では、膨大な過去映像の中から検出すべき事象を含む映像を人間の目で大量に抽出する。あるいは、ステップＳ４０２において、実運用環境と類似の環境において、検出すべき事象と類似する事象を意図的に発生させ、撮影を実施し、サンプル映像を抽出する。ステップＳ４０３では、抽出／収集された大量の映像データの一つ一つに対してマニュアルで付加情報を付与し、学習用映像を作成する。さらに、ステップＳ４０４では、対象となるオブジェクト、事象、動作に対して最適なアルゴリズムを研究者／エンジニアが選択し、学習用映像データを学習させて既定映像解析モジュール２１１を生成する。
【００３２】
（前提技術の課題）
上記前提技術では既定映像解析モジュールを作成する際、収集と正解付けに莫大な工数と期間を必要としていた。例えば、顔認証では２０００枚の画像、ディープラーニングでの特定事象検知では１００万枚の画像が必要であり、導入までのハードルが高かった。つまり、学習用映像からの映像解析モジュール（識別器）作成はマニュアルで実施され、その過程の中で映像解析モジュールの動作検証も個別に実施しており、個別に環境を整備していた為、工数と期間を必要としていた。
【００３３】
これに対し、近年、犯罪や事故の種別が多様化する中で、検出できる事象の追加処理に対する運用顧客の需要は高まっている。また、監視環境とは異なる環境で収集をした学習用映像のみを適用した既定映像解析モジュールでは、実際の映像監視環境によっては問題映像の検出精度が大きく落ちてしまう場合があった。そして、実際の監視環境にフィットさせるためには、多くの工数と長い期間を必要としていた。
【００３４】
（本実施形態の構成）
図５は、本実施形態に係る監視情報処理システムの一例としての映像監視システム５００の構成を示すブロック図である。前提技術と同様の構成には同じ符号を付して説明を省略する。図２Ｂに示した前提技術と異なり、本実施形態に係る映像処理装置の一例としてのデータセンタ５０１は、学習用データベース５４０と、映像監視操作端末５７０とを備える。学習用データベース５４０は、オペレータ２４０が選択したカテゴリ情報５６１を付加された学習用映像データ５６０を蓄積する。また、映像監視操作端末５７０は、スーパバイザ５８０がカテゴリ情報指定を行なうための端末である。映像解析プラットフォーム５１０は、新規に作成される新規映像解析モジュール５１１とカテゴリ情報追加部５１５と新規映像解析モジュール生成部５１６とを備える。一方、映像監視プラットフォーム５２０は、新たに学習用映像抽出部５２５を備える。
【００３５】
カテゴリ情報とは映像中に検知したいオブジェクト、動作の分類を示す情報である。カテゴリ情報としては、例えば“拳銃”、“ナイフ”、“喧嘩”、“暴走”、“バイクの二人乗り”、“麻薬取引”等がある。映像解析プラットフォーム５１０は、カテゴリ情報テーブル５１７、５１８を備えており、各種のカテゴリ情報とその属性が対応付けて保存されている。
【００３６】
図６Ａ、図６Ｂは、既定カテゴリ情報テーブル５１７と新規カテゴリ情報テーブル５１８の内容を示す図である。カテゴリ情報テーブル５１７、５１８は、カテゴリ情報名に対応付けて、カテゴリ情報種別、形状、軌跡情報、大きさの閾値などを記憶している。これらを参照することにより、映像解析モジュール２１１、５１１は、映像データに含まれる事象のカテゴリを決定することができる。
【００３７】
図６Ｃに、映像監視操作端末群２３２から学習用映像抽出部５２５に送られるカテゴリ情報５３１の内容を示す。図６Ｃに示すように、カテゴリ情報５３１としては、「カテゴリ」、「カメラＩＤ」、「映像撮影時刻」、「事象領域」、「オペレータ情報」、「カテゴリ種別」を登録する。ここで、「カテゴリ」とは、検知したいオブジェクト名、動作の分類のことである。「カメラＩＤ」とは、監視カメラを特定するための識別子である。「映像撮影時刻」とは、そのカテゴリ情報を追加すべき映像データが撮影された年月日と時刻を示す情報である。特定の期間（採取開始〜終了）を表す場合もある。「事象領域」とは、映像における“対象となる形”、“映像背景差分”、“背景差分の全体映像の中の位置”を表す情報である。事象領域は矩形領域だけでなく、マスク映像、背景差分映像、多角形映像等、様々な種類を用意する。「オペレータ情報」とは、カテゴリ情報を追加したオペレータの情報を示し、オペレータＩＤや名前などを含む。カテゴリ種別とは、検知対象物/事象のタイプのことである。例えばカテゴリ情報“銃“については、対象となる銃の「形状」を学習用映像データとして蓄積するカテゴリ種別である。また、カテゴリ“暴走”であれば、指定領域の背景差分の起点から終点までの軌跡を「動作」として学習用映像データを蓄積するカテゴリ情報種別である。さらに、カテゴリ情報“麻薬取引”であれば、映像全体における背景差分の軌跡を「動作」として学習用映像データを蓄積するカテゴリ情報種別である。
【００３８】
図５に戻ると、カテゴリ追加部５１５は、既に存在する映像解析モジュール２１１、５１１において、パラメータの調整または追加によって、新たに検出しようとする事象のカテゴリを増やすことができる場合、それらの映像解析モジュール２１１、５１１に対してパラメータの調整または追加を行なう。一方、既に存在する映像解析モジュール２１１、５１１のパラメータの調整または追加では、新たに検出しようとする事象カテゴリを増やすことができないと判断した場合、新規映像解析モジュール生成部５１６を用いて、新規映像解析モジュール５１１を生成する。また、学習用データベース５４０に蓄積された学習用映像データ５６０を、カテゴリ情報５６１に基づいて選択した映像解析モジュール２１１、５１１に振り分け、それぞれの映像解析モジュールに学習処理を行なわせる。
【００３９】
表示制御部５２３は、図７Ａに示すようなカテゴリ情報選択画面７０１を生成して、映像監視操作端末群２３２に送る。カテゴリ情報選択画面７０１には、あらかじめ用意されたカテゴリ情報（例えば「ヘルメット無し」「バイク二人乗り」「スピード超過」「拳銃」「ナイフ」「麻薬取引」「喧嘩」など）とは別に、カテゴリ情報の選択肢として「その他」７１１が含まれている。ここで、オペレータ２４０によるカテゴリ情報選択のモチベーションを下げないように、図７Ｂに示すカメラ事象テーブル７０２を参照することによりあらかじめ予測した一部のカテゴリ情報候補（例えば５個）のみをカテゴリ情報選択画面７０１に表示することが好ましい。カメラ事象テーブル７０２は、カメラＩＤ７２１ごとに、そのカメラで撮影される映像に含まれる可能性の高い事象のカテゴリ情報を蓄積したものである。すなわち、発生した事象のカテゴリ７２２とその発生率７２３とを、発生率の高いものから順次記憶する。選択されたカテゴリ情報に関するカテゴリ情報はカテゴリ情報が選択された映像データと共に学習用データベース５４０に蓄積される。
【００４０】
学習用映像抽出部５２５は、「その他」７１１が選択された映像データについては、スーパバイザ５８０が適宜、映像監視操作端末５７０を介して具体的なカテゴリ情報を入力できるように、別途、学習用データベース５４０に蓄積する。また、「その他」が選択された際、その時点での映像データを示す映像識別情報と共に、カテゴリ情報入力要求が、スーパバイザ５８０用の映像監視操作端末５７０に送信される。オペレータ２４０が映像監視操作端末群２３２を通じて映像監視中にカテゴリ情報選択操作を実施すると、映像識別情報とカテゴリとのセット５３１を、映像監視プラットフォーム５２０を介して学習用データベース５４０に蓄積する。一方、表示制御部５２３は、スーパバイザ５８０による新規カテゴリ情報生成処理を促すための、新規カテゴリ情報生成画面を映像監視操作端末５７０に送信する。
【００４１】
図８は、このような新規カテゴリ情報設定画面８０１の具体例を示す図である。この新規カテゴリ情報設定画面８０１では、例として、カテゴリ情報名入力欄８１１とカテゴリ情報種別選択欄８１３の他に、そのカテゴリ情報に含まれる映像を検出するために注目すべき領域を指定する領域指定用グラフィックオブジェクト８１２が用意されている。図８に示す新規カテゴリ情報設定画面８０１に加えて、「その他」カテゴリ情報を選択したオペレータ、映像を取得した場所、時間などを特定する情報を表示してもよい。映像解析により「その他」としてカテゴライズされた映像が、どのカテゴリ情報の映像に近いのかを判定し、スーパバイザ５８０に提示してもよい。
【００４２】
新規映像解析モジュール生成部５１６は、新たなカテゴリ情報にフィットする既存アルゴリズムを選択し、そのアルゴリズムに従ったニューラルネットワーク等により、新たな映像解析モジュールを作成する。そしてさらに、蓄積された学習用映像データを用いて、学習させる。学習、適用処理としては、カテゴリ情報に合わせてバッチ処理かオンザフライ処理かを選択可能である。
【００４３】
カテゴリ情報追加部５１５は、バッチ処理、もしくはリアルタイム処理を施し、追加されたカテゴリ情報に関する情報をカテゴリ情報テーブル５１８に登録し、既定映像解析モジュール２１１もしくは新規映像解析モジュール５１１が、そのカテゴリ情報テーブル５１７、５１８における参照すべきカテゴリ情報を指定する。
【００４４】
既定映像解析モジュール２１１、新規映像解析モジュール５１１は、指定されたカテゴリ情報に基づいてそれぞれの学習用映像データを用いて学習処理を行なう。これにより、既定映像解析モジュール２１１の映像解析精度が向上し、新規映像解析モジュール５１１は新たな映像解析モジュールとして完成する。
【００４５】
新規映像解析モジュール生成部５１６は、新たなカテゴリにフィットする既存アルゴリズムがない場合には、新たなアルゴリズム（例えば、人の前を複数の人が通過しても、後ろの人をまだ人として認識する）を自動生成してもよい。
【００４６】
（処理の流れ）
図９Ａ、図９Ｂは、映像監視システム５００による処理の流れを説明するためのフローチャートである。ステップＳ３０１からステップＳ３０９までは、図３において説明した前提技術の処理と同様であるため、ここでは説明を省略し、ステップＳ３０９以降のステップＳ９００〜Ｓ９１１について説明する。
【００４７】
ステップＳ３０９において、学習用映像抽出部５２５が映像を精査し、検出すべき事象を含む映像であるというアラートが発生すると、ステップＳ９００に進み、表示制御部５２３は、映像監視操作端末群２３２において図７Ａに示すようなカテゴリ情報選択画面７０１を表示する。
【００４８】
ステップＳ９０１では、オペレータ２４０がカテゴリ情報を選択する。ここで選択したカテゴリ情報が、特定のカテゴリ情報の場合には、ステップＳ９０２に進み、学習用映像抽出部５２５において、カテゴリ情報を生成して、映像データに付与し、学習用映像データを生成する。
【００４９】
次にステップＳ９０３では、学習用映像抽出部５２５が、生成した学習用映像データを学習用データベース５４０蓄積し、さらにステップＳ９０４において、既定の映像解析モジュール２１１で学習処理を行なう。
【００５０】
一方、ステップＳ９０１において、オペレータ２４０が、「その他」カテゴリ情報を選択した場合には、ステップＳ９０５に進み、学習用映像抽出部５２５にてカテゴリ情報名を“その他”、カテゴリ情報種別を“NULL”としたカテゴリ情報を生成し、学習用映像データに付与する。
【００５１】
次にステップＳ９０６では、学習用映像抽出部５２５が、カテゴリ情報「その他」を付加した学習用映像データを学習用データベース５４０に格納すると同時に、表示制御部５２３が、スーパバイザ５８０の映像監視操作端末５７０に対し学習用映像データおよび新規カテゴリ情報設定画面８０１を送る。
【００５２】
ステップＳ９０７において、カテゴリ追加部５１５は、スーパバイザ５８０の指示を受けて新たなカテゴリ情報を設定し、蓄積された学習用映像データとの紐付けを行なう。
【００５３】
ステップＳ９０８に進むと、カテゴリ情報追加部５１５が、設定された新たなカテゴリ情報にフィットする既定の映像解析モジュール２１１があるか否かを判定する。設定された新たなカテゴリ情報にフィットする既定の映像解析モジュール２１１がある場合には、ステップＳ９０９に進み、対象の既定映像解析モジュール２１１の新たなカテゴリ情報として設定し、さらにステップＳ９０４において、新たなカテゴリ情報を付された学習用映像データを用いて学習を行なう。
【００５４】
一方、ステップＳ９０８において、設定された新たなカテゴリ情報にフィットする既定の映像解析モジュール２１１が存在していなければ、ステップＳ９１１に進み、新規映像解析モジュール５１１を生成し、学習用映像して学習させる。
【００５５】
図９Ｂは、ステップＳ９１１の新規映像解析モジュール生成処理の詳細な流れを示すフローチャートである。ステップＳ９２１では、不図示のアルゴリズムデータベースを参照する。ステップＳ９２３では、スーパバイザによって指定されたカテゴリ情報種別に応じたアルゴリズム（例えば特徴ベクトルを抽出するアルゴリズム、ブロブ（小さな画像領域）の集合からなるクラスタとそのクラスタの境界を抽出するアルゴリズムなど）を選択し、映像解析プログラムモジュールの骨組みを生成する。次に、ステップＳ９２５では、スーパバイザによって指定された判定領域を用いて、映像解析モジュールが解析対象とする映像領域を設定する。さらにステップＳ９２７において、複数の学習用映像データを用いて、検出対象となる物の形状、大きさや、検出対象となる動きの方向、距離などの閾値を決定する。このとき、学習用映像データ中の検出対象となる物やその動作の特徴ベクトルを抽出しその特徴量を閾値として設定してもよい。ブロブの集合からなるクラスタとそのクラスタの境界を特徴量として抽出する場合、その特徴量を閾値として設定してもよい。
【００５６】
以上、本実施形態によれば、運用者が実運用中、簡易に学習用映像を蓄積し、同時にカテゴリも付随させることができる。これにより、半自動的な学習用映像収集とカテゴリとの関連付けを実現でき、環境へのローカライズや、新規映像解析モジュール生成の工数と期間を抑制することができる。
【００５７】
また、運用環境の映像が学習できる為、より精度の高い映像解析モジュールを構築することが可能となる。このような技術は、映像監視や警備等のセキュリティ分野に適用可能である。また、映像による店舗や公共エリアでの顧客指向分析にも適用可能である。
【００５８】
［第３実施形態］
次に、本発明の第３実施形態に係る映像監視システムについて説明する。本実施形態に係る映像監視システムは、上記第２実施形態と比べると、オペレータに対するインセンティブを考慮する点で異なる。その他の構成および動作については、上記第２実施形態と同様であるため、同じ構成については同じ符号を付してここでは詳しい説明を省略する。
【００５９】
図１０は、本実施形態に係る映像監視システム１０００の構成を示すブロック図である。映像監視システム１０００に含まれる映像監視プラットフォーム１０２０は、第２実施形態と異なり、インセンティブテーブル１０２６を備えている。インセンティブテーブル１０２６、オペレータごとに、学習用データベース５４０に蓄積した学習用映像数に関して統計を取り、インセンティブをつけることにより、収集効率を向上させるものである。
【００６０】
インセンティブテーブル１０２６の一例を図１１に示す。インセンティブテーブル１０２６は、オペレータＩＤ１１０１に紐付けて、学習用映像数１１０２と新規カテゴリ数１１０３とポイント１１０４とを保存、管理している。学習用映像数１１０２は、そのオペレータがカテゴリを選択、付与した学習用映像データの数を表わしている。新規カテゴリ数１１０３は、そのオペレータがカテゴリとして「その他」を選択し，最終的にスーパバイザにより新規のカテゴリとして生成されたカテゴリの数を示す。これらの学習用映像数や新規カテゴリ数は、オペレータによる監視業務の貢献値として評価できるため、これらの値に応じてポイント１１０４を算出し、やはりオペレータＩＤに紐付けて保存、更新する。オペレータが発見し、カテゴリを付与した映像の重要度を、ポイント１１０４の算出の際に考慮して重み付けを行なってもよい。
【００６１】
オペレータの時給や給料などを、このポイント１１０４の値に応じて定めることにより、オペレータの監視業務に対するモチベーションを喚起することができる。インセンティブテーブル１０２６には、オペレータを評価する値として、ポイント以外に、カテゴリ付与の正確さを表わす値を用いてもよい。例えば、正解となるカテゴリを付与されたテスト映像データを複数のオペレータに見せて、それぞれのオペレータの検出スピード、検出精度、カテゴリ正解確率を検証し、それらを用いてオペレータ評価値を算出してもよい。
【００６２】
図１２は、映像監視システム１０００の処理の流れを説明するフローチャートである。カテゴリ選択やカテゴリ生成によって、既定映像解析モジュールに学習させ、または新規映像解析モジュールを生成すると、ステップＳ１２１１に進みポイントを付与する。つまり、例えば、オペレータが発見した事象のカテゴリに応じたインセンティブ（ポイント）
をカテゴリ付けを行なったオペレータＩＤに紐付けて保存する。
【００６３】
本実施形態によれば、オペレータの監視モチベーションを刺激することが可能となる。
【００６４】
［第４実施形態］
本手法の実施例として、監視情報システムの前提技術である図２Ｂのオペレータからのカテゴリ情報追加・修正を可能にしたシステムを説明する。
【００６５】
表示制御部５２３は、図１３に示すようなカテゴリ情報選択画面１３０１を生成して、映像監視操作端末群２３２に送る。カテゴリ情報選択画面１３０１には、映像の表示画面１３０３とアラートの発生状況を表すカテゴリ情報バー１３０２と映像制御用部品１３０４（例えば、「再生」「停止」「一時停止」「巻き戻し」「早送り」など）と映像の再生状況を表すプログレスバー１３０７とカテゴリ情報設定用ボタン１３０５が含まれている。カテゴリ情報設定用ボタン１３０５にはあらかじめ用意されたカテゴリ情報とは別に、カテゴリ情報の選択肢として「その他」１３０６が含まれている。オペレータ２４０は映像制御用部品１３０４を使用して映像を確認する。オペレータ２４０は表示画面１３０３に表示されている映像データのカテゴリ情報をカテゴリ情報設定用ボタン７０５により修正・追加する。オペレータ２４０が設定したカテゴリ情報に関するカテゴリ情報は映像データと共に学習用データベース５４０に蓄積される。
【００６６】
図１４は、映像監視システム５００による処理の流れを説明するためのフローチャートである。ステップＳ３０１からステップＳ３０９までは、図３において説明した前提技術の処理と同様であるため、ここでは説明を省略し、ステップＳ３０９以降のステップＳ９００〜Ｓ９１０について説明する。また、ステップＳ９００、ステップＳ９０２からステップＳ９１０までも、図９Ａにおいて説明した処理と同様であるため、ここでは説明を省略し、ステップＳ１４０１について説明する。
ステップＳ３０９において、学習用映像抽出部５２５が映像を精査し、検出すべき事象を含む映像であるというアラートが発生すると、ステップＳ９００に進み、表示制御部５２３は、映像監視操作端末群２３２において図１３に示すようなカテゴリ情報選択画面１３０１を表示する。
【００６７】
カテゴリ情報選択画面１３０１では、映像とそのカテゴリ情報が表示部１３０３とカテゴリ情報バー１３０２に表示される。また、映像制御用部品１３０４を用いることにより再生・巻き戻し・早送りしてカテゴリ情報と映像を確認できる。カテゴリ情報バー１３０２はカテゴリ情報選択画面１３０１に表示された映像に対して発生したカテゴリ情報とオペレータ２４０が修正・追加した正しいカテゴリ情報を色で表示している。例えば、“ヘルメット無し“のアラートが発生した区間は青で表示し、何もアラートが発生していない区間や、カテゴリ情報が無い区間１３１０は黒で表示し、”バイク二人乗り”のアラートが発生した区間は赤で表示する。また、オペレータ２４０がカテゴリ情報設定用ボタン１３０５を用いて修正・追加した正しいカテゴリ情報も同様に表示する。
【００６８】
ステップＳ１４０１において、オペレータ２４０は、カテゴリ情報選択画面１３０１を用いてアラートが発生した映像とそのカテゴリ情報を確認し、カテゴリ情報の修正や追加が必要な区間に対してカテゴリ情報の修正・追加を行う。
【００６９】
カテゴリ情報修正・追加の際には、映像の一部を再生しながら特定のカテゴリ情報に対応するカテゴリ情報設定用ボタン１３０５を押す。例えば“ヘルメット無し“のアラートが発生している区間を”２人乗りバイク”のアラートに修正することを考える。ここで、“ヘルメット無し”のカテゴリ情報に属している区間はカテゴリ情報バー１３０２では青で表示されている。カテゴリ情報選択画面１３０１の映像制御用部品１３０４を使用して、映像を表示部１３０３上で再生しながら、該当の映像データが表示部１３０３に表示されたらカテゴリ情報設定用ボタン１３０５の「バイク二人乗り」ボタンを押し、“バイク二人乗り”のカテゴリへ修正する。この時、オペレータ２４０によりカテゴリ情報が設定された区間に対応するカテゴリ情報バー１３０２の色が「青」から「赤」に変化する。
【００７０】
映像制御用部品１３０４を用いて、同じ区間に対して複数種類のカテゴリ情報を追加することも出来る。このとき複数のカテゴリ情報が追加されている区間のカテゴリ情報バー１３０２は複数の色で層状に表示する。例えば、「ヘルメット無し」と「バイク二人乗り」を追加した場合、カテゴリ情報バー１３０９のように青と赤を層状に表示する。
【００７１】
また、カテゴリ情報を削除したい場合は映像制御用部品１３０４を使用してカテゴリ情報を削除したい区間の映像を再生しながら、「カテゴリ情報無し」ボタン１３０８を押せばよい。これは、カテゴリ情報に「カテゴリ情報無し」へ修正することと同じである。「カテゴリ情報無し」へ修正された区間のカテゴリ情報バー１３１０はアラートが発生していない区間と同様に黒で表示する。
【００７２】
ここで、連続したある一定区間の映像のカテゴリ情報を修正・追加する場合は、該当の区間の映像を再生している間にカテゴリ情報設定用ボタン１３０５の特定のボタンを押し続ければよい。更に、カテゴリ情報修正・追加をしたい区間が長い場合は、カテゴリ情報設定用ボタン１３０５の切り替えをトグル式にしてカテゴリ情報修正・追加をしたい区間の最初と最後のみにボタンを押すようにしてもよい。
【００７３】
ステップＳ１４０１において、オペレータが正しいカテゴリ情報を修正・追加していた場合は、映像解析モジュール２１１が出力すべきアラートを学習することが出来る。
【００７４】
ここで修正・追加したカテゴリ情報が、特定のカテゴリ情報の場合には、ステップＳ９０２に進み、学習用映像抽出部５２５において、カテゴリ情報を映像データに追加し、学習用映像データを生成する。
【００７５】
映像と監視情報システムからのカテゴリ情報をオペレータが確認し、オペレータが正しいカテゴリ情報を設定することにより、新しいオブジェクト、動作を検出する監視情報システムを構築することが出来る。また、カテゴリ情報をオペレータが修正することにより監視情報システムの精度を向上させることが出来る。
【００７６】
［他の実施形態］
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。また、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステムまたは装置も、本発明の範疇に含まれる。
【００７７】
また、本発明は、複数の機器から構成されるシステムに適用されてもよいし、単体の装置に適用されてもよい。さらに、本発明は、実施形態の機能を実現する情報処理プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされるプログラム、あるいはそのプログラムを格納した媒体、そのプログラムをダウンロードさせるＷＷＷ(World Wide Web)サーバも、本発明の範疇に含まれる。特に、少なくとも、上述した実施形態に含まれる処理ステップをコンピュータに実行させるプログラムを格納した非一時的コンピュータ可読媒体（non-transitory computer readable medium）は本発明の範疇に含まれる。
【００７８】
この出願は、２０１３年６月２８日に出願された日本出願特願２０１３−１３６９５３を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【図１】
0006474107.tif 000002
【図２Ａ】
0006474107.tif 000003
【図２Ｂ】
0006474107.tif 000004
【図３】
0006474107.tif 000005
【図４】
0006474107.tif 000006
【図５】
0006474107.tif 000007
【図６Ａ】
0006474107.tif 000008
【図６Ｂ】
0006474107.tif 000009
【図６Ｃ】
0006474107.tif 000010
【図７Ａ】
0006474107.tif 000011
【図７Ｂ】
0006474107.tif 000012
【図８】
0006474107.tif 000013
【図９Ａ】
0006474107.tif 000014
【図９Ｂ】
0006474107.tif 000015
【図１０】
0006474107.tif 000016
【図１１】
0006474107.tif 000017
【図１２】
0006474107.tif 000018
【図１３】
0006474107.tif 000019
【図１４】
0006474107.tif 000020