(57)【要約】【課題】各会議室でそれぞれ撮影された画像が互いにフィードバックされて、各会議室内のディスプレイ等に重なって表示されることを防ぐことを目的とする。【解決手段】第１の会議室の出席者Ｂをその会議室のカメラが撮影した第１の画像を第２の会議室で表示する。この第２の会議室において、そこのカメラが上記表示された第１の画像の前にいる出席者Ａを撮影した画像をそのまま第１の会議室で表示すると、出席者Ａと共に第１の画像がフィードバックされた第２の画像８０が表示されてしまう。そこで、この撮影した第２の画像の、撮影領域内で表示されている第１の画像と一致する点線で示す領域９０を決定する。この領域９０には出席者Ａは含まれていない。この領域９０を透過領域に設定したアルファチャンネルを構成し、これを第２の画像に付加する。【選択図】図９
2008306264.tif 000002
【特許請求の範囲】
【請求項１】
第一の画像を受け付ける受付部と、
前記受付部が受け付けた第一の画像を表示する表示部と、
前記表示部が表示する第一の画像を含む領域を撮影した画像である第二の画像を受け付ける画像受付部と、
前記第一の画像と前記第二の画像内に含まれる第一の画像との色あわせ、および位置あわせのための補正に用いられる補正パラメータが格納される補正パラメータ格納部と、
前記補正パラメータに基づいて、前記第一の画像、または、第二の画像内の第一の画像が位置する領域内の画像を補正し、前記第一の画像と、前記第二の画像内の第一の画像が位置する領域内の画像とを比較する比較部と、
前記比較部の比較結果を用いて、前記第二の画像内の前記第一の画像と一致する領域を透過領域に設定した透過画像を生成する透過画像構成部と、
前記透過画像構成部が生成した透過画像を出力する出力部と
を具備することを特徴とする画像処理装置。
【請求項２】
前記比較部は、
前記補正パラメータに基づいて、前記第一の画像、及び第二の画像内の第一の画像が位置する領域内の画像を補正する
ことを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記透過画像構成部は、
前記第二の画像内の前記透過領域により分離された領域の画像を切り出した複数の透過画像を構成する
ことを特徴とする請求項１または２に記載の画像処理装置。
【請求項４】
前記透過画像構成部は、
透過領域を指定するアルファチャンネルを有する透過画像を生成する
ことを特徴とする請求項１から請求項３のいずれか１項に記載の画像処理装置。
【請求項５】
目印となる画像である目印画像が異なる位置に配置された複数のパターン画像であって当該複数のパターン画像間にて、目印画像の出現パターンが互いに異なる複数のパターン画像が格納される画像格納部と、
前記パターン撮影画像内から前記目印画像を検出する目印画像検出部と、
前記目印画像検出部が検出した各目印画像を用いて、前記各目印画像についての出現パターンを取得し、前記各パターン撮影画像内において検出された目印画像の位置と、当該目印画像の出現パターンと一致する出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得する対応情報取得部と、
前記対応情報取得部が取得した対応情報を用いて前記補正パラメータを構成し、前記補正パラメータ格納部に蓄積する補正パラメータ構成部とを更に具備し、
前記表示部は、
前記画像格納部に格納されている複数のパターン画像を切り替えて表示し、
前記画像受付部は、前記表示部が表示している複数のパターン画像を含む画像を撮影した画像であるパターン撮影画像を受け付け、
前記目印画像検出部は、前記画像受付部が受け付けたパターン撮影画像内から前記目印画像を検出する
ことを特徴とする請求項１から請求項４のいずれか１項に記載の画像処理装置。
【請求項６】
前記画像格納部は、
複数の色のうちのいずれか一つの色を有する、目印となる画像である前記目印画像が、異なる位置に複数配置された前記複数のパターン画像であって当該複数のパターン画像間にて、前記複数の目印画像の配置されている位置が同じであり、異なる位置に配置された目印画像の色の出現パターンが互いに異なる前記複数のパターン画像を格納し、
前記対応情報取得部は、
前記目印画像検出部が検出した各目印画像を用いて、前記各パターン撮影画像内の同じ位置において検出された前記目印画像についての色の出現パターンを取得し、当該色の出現パターンが取得された撮影画像内の位置と、当該色の出現パターンと一致する色の出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得する
ことを特徴とする請求項５に記載の画像処理装置。
【請求項７】
前記複数のパターン画像における複数の目印画像の配置された位置と、当該配置された位置における色の出現パターンとの対応を示す情報である対応管理情報が格納される対応管理情報格納部を更に具備し、
前記対応情報取得部は、
前記対応管理情報を用いて、前記撮影画像内の目印画像について取得した色の出現パターンから前記対応情報を取得する
ことを特徴とする請求項６に記載の画像処理装置。
【請求項８】
前記画像格納部は、
前記各パターン画像内の目印画像数をＡ(Ａは２以上の整数)、前記パターン画像数をＢ(Ｂは２以上の整数)とした場合に、２Ｂ≧Ａの関係を満たす複数のパターン画像を格納する
ことを特徴とする請求項６または請求項７に記載の画像処理装置。
【請求項９】
前記複数のパターン画像の目印画像は、前記パターン画像ごとに互いに異なっており、
前記目印画像検出部は、
各パターン画像から検出した目印画像を取得し、
前記対応情報取得部は、
前記目印画像検出部が取得したパターン画像の配列される順番に応じた前記目印画像を取得して、前記対応情報を取得する
ことを特徴とする請求項５から請求項８いずれか１項に記載の画像処理装置。
【請求項１０】
前記補正パラメータ構成部は、
前記画像受付部が受け付けたパターン撮影画像内の目標画像の色に関する情報である色情報と、前記出力部により出力された対応情報が示す前記目標画像に対応した前記パターン画像内の目標画像の色情報とを取得する色情報取得手段と、
前記色情報取得手段が取得した色情報を用いて、前記画像受付部が受け付けた画像の色あわせのための補正に用いられる補正パラメータである色補正情報を取得し、前記補正パラメータ格納部に蓄積する色補正情報取得手段と
を更に具備することを特徴とする請求項５から請求項９いずれか１項に記載の画像処理装置。
【請求項１１】
前記補正パラメータ構成部は、
前記対応情報取得部が取得した位置情報を用いて、前記画像受付部が受け付けた画像の位置あわせのための補正に用いられる補正パラメータである位置補正情報を取得し、前記補正パラメータ格納部に蓄積する位置補正情報取得手段をさらに具備する
ことを特徴とする請求項５から請求項１０いずれか１項に記載の画像処理装置。
【請求項１２】
第一の画像を受け付ける受付部と、画像を表示する表示部と、第二の画像を受け付ける画像受付部と、前記第一の画像と、前記第二の画像内に含まれる第一の画像との色あわせ、および位置あわせのための補正に用いられる補正パラメータが格納される補正パラメータ格納部と、画像の比較を行う比較部と、透過画像を生成する透過画像構成部と、出力部とを備えた画像処理装置における画像処理方法であって、
前記受付部が、前記第一の画像を受け付けるステップと、
前記表示部が、受け付けた第一の画像を表示するステップと、
前記画像受付部が、表示した第一の画像を含む領域を撮影した画像である第二の画像を受け付けるステップと、
前記比較部が、前記補正パラメータ格納部に格納される補正パラメータに基づいて、前記第一の画像、または、第二の画像内の第一の画像が位置する領域内の画像を補正するステップと、
前記比較部が、前記第一の画像と、前記第二の画像内の第一の画像が位置する領域内の画像とを比較するステップと、
前記透過画像構成部が、比較結果を用いて、前記第二の画像内の、前記第一の画像と一致する領域を透過領域に設定した透過画像を生成するステップと、
前記出力部が、生成した透過画像を出力するステップと
を含むことを特徴とする画像処理方法。
【請求項１３】
前記画像処理装置は、さらに、目印となる画像である目印画像が異なる位置に配置された複数のパターン画像であって当該複数のパターン画像間にて、目印画像の出現パターンが互いに異なる複数のパターン画像が格納される画像格納部と、前記パターン撮影画像内から前記目印画像を検出する目印画像検出部と、対応情報取得部と、前記補正パラメータ格納部に蓄積する補正パラメータを生成する補正パラメータ構成部とを具備し、
前記表示部が、前記画像格納部に格納されている複数のパターン画像を切り替えて表示するステップと、
前記画像受付部が、前記表示部が表示している複数のパターン画像を含む画像を撮影した画像であるパターン撮影画像を受け付けるステップと、
前記目印画像検出部が、前記画像受付部が受け付けたパターン撮影画像内から前記目印画像を検出するステップと、
前記対応情報取得部が、前記目印画像検出部が検出した各目印画像を用いて、前記各目印画像についての出現パターンを取得し、前記各パターン撮影画像内において検出された目印画像の位置と、当該目印画像の出現パターンと一致する出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得するステップと、
前記補正パラメータ構成部が、前記対応情報取得部が取得した対応情報を用いて前記補正パラメータを構成し、前記補正パラメータ格納部に蓄積するステップと、
を更に含むことを特徴とする請求項１２に記載の画像処理方法。
【請求項１４】
前記画像格納部には、
複数の色のうちのいずれか一つの色を有する、目印となる画像である前記目印画像が、異なる位置に複数配置された前記複数のパターン画像であって当該複数のパターン画像間にて、前記複数の目印画像の配置されている位置が同じであり、異なる位置に配置された目印画像の色の出現パターンが互いに異なる前記複数のパターン画像が格納されており、
前記対応情報取得部が、
前記目印画像検出部が検出した各目印画像を用いて、前記各パターン撮影画像内の同じ位置において検出された前記目印画像についての色の出現パターンを取得し、当該色の出現パターンが取得された撮影画像内の位置と、当該色の出現パターンと一致する色の出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得するステップと、
を更に含むことを特徴とする請求項１３に記載の画像処理方法。
【請求項１５】
第一の画像と、第二の画像内に含まれる第一の画像との色あわせ、および位置あわせのための補正に用いられる補正パラメータを格納する補正パラメータ格納部を具備したコンピュータに、
前記第一の画像を受け付けるステップと、
受け付けた第一の画像を表示するステップと、
表示した第一の画像を含む領域を撮影した画像である第二の画像を受け付けるステップと、
前記補正パラメータ格納部に格納されている前記補正パラメータに基づいて、前記第一の画像、または、第二の画像内の第一の画像が位置する領域内の画像を補正するステップと、
前記第一の画像と、前記第二の画像内の第一の画像が位置する領域内の画像とを比較するステップと、
比較結果を用いて、前記第二の画像内の、前記第一の画像と一致する領域を透過領域に設定した透過画像を生成するステップと、
生成した透過画像を出力するステップと
を実行させるためのプログラム。
【請求項１６】
請求項１５記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はテレビ会議等を行うために用いられる画像処理装置、画像処理方法、プログラムおよび記録媒体に関するものである。
【背景技術】
【０００２】
従来よりテレビ会議システムが開発されており、そのテレビ会議システムを用いることにより、遠隔の２以上の会議室の間で映像・音声の送受信を行うことができ、その２以上の会議室にいる人たちで会議を行うことができていた。
一方、従来の画像処理の技術として、背景画像の用意されていない動画像において、動領域の切れ目のない閉輪郭を生成し、この閉輪郭を用いて動領域と背景領域とを分離する技術が開発されている(例えば、特許文献１参照)。
【特許文献１】特開平１１−３５３４８６号公報(第１頁、第１図等)
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかしながら、従来のテレビ会議システムにおいては、第一の会議室における会議の様子を撮影するカメラの設置場所や向き等によっては、カメラが、第一の会議室内の参加者等だけでなく、撮影領域内に配置されたディスプレイ等に表示されている第二の会議室の状態を撮影した画像や、資料の画像等を撮影してしまう場合がある。このように一旦ディスプレイ等に表示された画像を再度撮影して得られた画像は、通常、画質が悪く、内容が把握しにくい。従って、このような画像が、第二の会議室で表示されると、目障りであるとともに、この画像内のディスプレイ内に表示されている画像等に、第二の会議室における会議の参加者の注意が移ってしまい、会議に集中できず、効率の良い会議が実現できない恐れがあるという問題があった。
【０００４】
特に、第一の会議室において撮影された画像に、第二の会議室の様子を表示しているディスプレイ等を含む画像が含まれている場合、この第一の会議室において撮影された画像が、遠隔地の第二の会議室に送信されてディスプレイ等に表示されると、第二の会議室のディスプレイ等には、本来は表示が不要な第二の会議室内で撮影された画像等がフィードバックされて表示されることとなる。この結果、第二の会議室内においては、第一の会議室の様子と第二の会議室の様子とが同じ画面に表示されてしまい、表示される画像全体が混雑したものとなり、会議に集中できなくなってしまうという問題があった。
具体的には、第二の会議室で参加者の一人が発言している様子が、第二の会議室のディスプレイ等にも表示される結果、第二の会議室では、現在、どこで、誰が発言しているかを、瞬時に判断しにくくなり、参加者が状況の把握ができずに混乱してしまい、会議に集中できなくなってしまうという問題があった。
【０００５】
本発明は、上記問題を解決すべくなされたもので、その目的は、前述したように各会議室でそれぞれ撮影された第一の画像が互いにフィードバックされて、各会議室内のディスプレイ等に表示される第二の画像に重なって表示されることを防ぐ画像処理装置、画像処理方法、プログラムおよび記録媒体を提供することにある。
【課題を解決するための手段】
【０００６】
上記課題を解決するために、本発明は、第一の画像を受け付ける受付部と、前記受付部が受け付けた第一の画像を表示する表示部と、前記表示部が表示する第一の画像を含む領域を撮影した画像である第二の画像を受け付ける画像受付部と、前記第一の画像と前記第二の画像内に含まれる第一の画像との色あわせ、および位置あわせのための補正に用いられる補正パラメータが格納される補正パラメータ格納部と、前記補正パラメータに基づいて、前記第一の画像、または、第二の画像内の第一の画像が位置する領域内の画像を補正し、前記第一の画像と、前記第二の画像内の第一の画像が位置する領域内の画像とを比較する比較部と、前記比較部の比較結果を用いて、前記第二の画像内の前記第一の画像と一致する領域を透過領域に設定した透過画像を生成する透過画像構成部と、前記透過画像構成部が生成した透過画像を出力する出力部とを具備することを特徴とする画像処理装置である。
かかる構成により、色と位置とを補正して、第二の画像内の第一の画像と、撮影対象となったオリジナルの第一の画像とが一致するか否かを精度良く判断することができ、撮影した第二の画像の、撮影領域内で表示されていた第一の画像と一致する領域を、精度良く透過領域に指定して出力することができる。
【０００７】
また、本発明は、上記に記載の発明において、前記比較部は、前記補正パラメータに基づいて、前記第一の画像、及び第二の画像内の第一の画像が位置する領域内の画像を補正することを特徴とする。
かかる構成により、第一の画像と第二の画像内の第一の画像が位置する領域内の画像の両方の色と位置とを補正して、第二の画像内の第一の画像と、撮影対象となったオリジナルの第一の画像とが一致するか否かを更に精度良く判断することができ、撮影した第二の画像の、撮影領域内で表示されていた第一の画像と一致する領域を、精度良く透過領域に指定して出力することができる。
【０００８】
また、本発明は、上記に記載の発明において、前記透過画像構成部は、前記第二の画像内の前記透過領域により分離された領域の画像を切り出した複数の透過画像を構成することを特徴とする。
かかる構成により、表示が不必要である領域の画像を削除して、第二の画像のデータ量を削減できる。
【０００９】
また、本発明は、上記に記載の発明において、前記透過画像構成部は、透過領域を指定するアルファチャンネルを有する透過画像を生成することを特徴とする。
かかる構成により、第二の画像の情報を削減することなく、撮影した第二の画像の、撮影領域内で表示されていた第一の画像と一致する領域を、透過領域として表示させることが可能となる。
【００１０】
また、本発明は、上記に記載の発明において、目印となる画像である目印画像が異なる位置に配置された複数のパターン画像であって当該複数のパターン画像間にて、目印画像の出現パターンが互いに異なる複数のパターン画像が格納される画像格納部と、前記パターン撮影画像内から前記目印画像を検出する目印画像検出部と、前記目印画像検出部が検出した各目印画像を用いて、前記各目印画像についての出現パターンを取得し、前記各パターン撮影画像内において検出された目印画像の位置と、当該目印画像の出現パターンと一致する出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得する対応情報取得部と、前記対応情報取得部が取得した対応情報を用いて前記補正パラメータを構成し、前記補正パラメータ格納部に蓄積する補正パラメータ構成部とを更に具備し、前記表示部は、前記画像格納部に格納されている複数のパターン画像を切り替えて表示し、前記画像受付部は、前記表示部が表示している複数のパターン画像を含む画像を撮影した画像であるパターン撮影画像を受け付け、前記目印画像検出部は、前記画像受付部が受け付けたパターン撮影画像内から前記目印画像を検出することを特徴とする。
【００１１】
かかる構成により、表示部に表示された画像と、撮影部により撮影された画像内において表示部に表示された画像との間の、位置の対応を正確に取ることができ、この対応関係を用いて、精度の良い補正パラメータを得ることができる。特に、目印画像の出現パターンによって、撮影画像内から目印画像を識別して検出するようにしているため、撮影部の撮影状況によって、表示部の一部しか撮影できず、表示部の表示領域内のどの部分を撮影したか分からない場合や、表示部の撮影された向き等が判別できない場合においても、撮影画像内から、正確に目印画像が配置されている位置を識別することができ、位置の対応を正確にとることができ、精度の良い補正パラメータを得ることができる。
【００１２】
また、本発明は、上記に記載の発明において、前記画像格納部は、複数の色のうちのいずれか一つの色を有する、目印となる画像である前記目印画像が、異なる位置に複数配置された前記複数のパターン画像であって当該複数のパターン画像間にて、前記複数の目印画像の配置されている位置が同じであり、異なる位置に配置された目印画像の色の出現パターンが互いに異なる前記複数のパターン画像を格納し、前記対応情報取得部は、前記目印画像検出部が検出した各目印画像を用いて、前記各パターン撮影画像内の同じ位置において検出された前記目印画像についての色の出現パターンを取得し、当該色の出現パターンが取得された撮影画像内の位置と、当該色の出現パターンと一致する色の出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得することを特徴とする。
【００１３】
かかる構成により、表示部に表示された画像と、撮影部により撮影された画像内において表示部に表示された画像との間の、位置の対応を正確に取ることができ、この対応関係を用いて、精度の良い補正パラメータを得ることができる。特に、目印画像の出現パターンによって、撮影画像内から目印画像を識別して検出するようにしているため、撮影部の撮影状況によって、表示部の一部しか撮影できず、表示部の表示領域内のどの部分を撮影したか分からない場合や、表示部の撮影された向き等が判別できない場合においても、撮影画像内から、正確に，目印画像が配置されている位置を識別することができ、位置の対応を正確にとることができ、精度の良い補正パラメータを得ることができる。
【００１４】
また、本発明は、上記に記載の発明において、前記複数のパターン画像における複数の目印画像の配置された位置と、当該配置された位置における色の出現パターンとの対応を示す情報である対応管理情報が格納される対応管理情報格納部を更に具備し、前記対応情報取得部は、前記対応管理情報を用いて、前記撮影画像内の目印画像について取得した色の出現パターンから前記対応情報を取得することを特徴とする。
かかる構成により、表示部に表示された画像と、撮影部により撮影された画像内において表示部に表示された画像との間の位置の対応を正確に取ることができる。
【００１５】
また、本発明は、上記に記載の発明において、前記画像格納部は、前記各パターン画像内の目印画像数をＡ(Ａは２以上の整数)、前記パターン画像数をＢ(Ｂは２以上の整数)とした場合に、２Ｂ≧Ａの関係を満たす複数のパターン画像を格納することを特徴とする。
かかる構成により、目印画像数を最適化できる。
【００１６】
また、本発明は、上記に記載の発明において、前記複数のパターン画像の目印画像は、前記パターン画像ごとに互いに異なっており、前記目印画像検出部は、各パターン画像から検出した目印画像を取得し、前記対応情報取得部は、前記目印画像検出部が取得したパターン画像の配列される順番に応じた前記目印画像を取得して、前記対応情報を取得することを特徴とする。
かかる構成により、この撮影画像が複数のパターン画像を撮影する際等に、複数のパターン画像を識別できるようにする必要がなく、パターン画像を撮影する順番等を考慮する必要がなくなり、処理を簡略化できる。
【００１７】
また、本発明は、上記に記載の発明において、前記補正パラメータ構成部は、前記画像受付部が受け付けたパターン撮影画像内の目標画像の色に関する情報である色情報と、前記出力部により出力された対応情報が示す前記目標画像に対応した前記パターン画像内の目標画像の色情報とを取得する色情報取得手段と、前記色情報取得手段が取得した色情報を用いて、前記画像受付部が受け付けた画像の色あわせのための補正に用いられる補正パラメータである色補正情報を取得し、前記補正パラメータ格納部に蓄積する色補正情報取得手段とを更に具備することを特徴とする。
かかる構成により、画像間の対応する位置の色を用いて色補正情報を取得することができるため、この色補正情報を用いて色補正を行うことで、正確に色の補正を行うことができる。
【００１８】
また、本発明は、上記に記載の発明において、前記補正パラメータ構成部は、前記対応情報取得部が取得した位置情報を用いて、前記画像受付部が受け付けた画像の位置あわせのための補正に用いられる補正パラメータである位置補正情報を取得し、前記補正パラメータ格納部に蓄積する位置補正情報取得手段をさらに具備することを特徴とする。
かかる構成により、この補正情報を用いて位置の補正を行うことで、正確に位置の補正を行うことができる。
【００１９】
また、本発明は、第一の画像を受け付ける受付部と、画像を表示する表示部と、第二の画像を受け付ける画像受付部と、前記第一の画像と、前記第二の画像内に含まれる第一の画像との色あわせ、および位置あわせのための補正に用いられる補正パラメータが格納される補正パラメータ格納部と、画像の比較を行う比較部と、透過画像を生成する透過画像構成部と、出力部とを備えた画像処理装置における画像処理方法であって、前記受付部が、前記第一の画像を受け付けるステップと、前記表示部が、受け付けた第一の画像を表示するステップと、前記画像受付部が、表示した第一の画像を含む領域を撮影した画像である第二の画像を受け付けるステップと、前記比較部が、前記補正パラメータ格納部に格納される補正パラメータに基づいて、前記第一の画像、または、第二の画像内の第一の画像が位置する領域内の画像を補正するステップと、前記比較部が、前記第一の画像と、前記第二の画像内の第一の画像が位置する領域内の画像とを比較するステップと、前記透過画像構成部が、比較結果を用いて、前記第二の画像内の、前記第一の画像と一致する領域を透過領域に設定した透過画像を生成するステップと、前記出力部が、生成した透過画像を出力するステップとを含むことを特徴とする画像処理方法である。
【００２０】
また、本発明は、上記に記載の画像処理方法の発明において、前記画像処理装置は、さらに、目印となる画像である目印画像が異なる位置に配置された複数のパターン画像であって当該複数のパターン画像間にて、目印画像の出現パターンが互いに異なる複数のパターン画像が格納される画像格納部と、前記パターン撮影画像内から前記目印画像を検出する目印画像検出部と、対応情報取得部と、前記補正パラメータ格納部に蓄積する補正パラメータを生成する補正パラメータ構成部とを具備し、前記表示部が、前記画像格納部に格納されている複数のパターン画像を切り替えて表示するステップと、前記画像受付部が、前記表示部が表示している複数のパターン画像を含む画像を撮影した画像であるパターン撮影画像を受け付けるステップと、前記目印画像検出部が、前記画像受付部が受け付けたパターン撮影画像内から前記目印画像を検出するステップと、前記対応情報取得部が、前記目印画像検出部が検出した各目印画像を用いて、前記各目印画像についての出現パターンを取得し、前記各パターン撮影画像内において検出された目印画像の位置と、当該目印画像の出現パターンと一致する出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得するステップと、前記補正パラメータ構成部が、前記対応情報取得部が取得した対応情報を用いて前記補正パラメータを構成し、前記補正パラメータ格納部に蓄積するステップと、を更に含むことを特徴とする。
【００２１】
また、本発明は、上記に記載の画像処理方法の発明において、前記画像格納部には、複数の色のうちのいずれか一つの色を有する、目印となる画像である前記目印画像が、異なる位置に複数配置された前記複数のパターン画像であって当該複数のパターン画像間にて、前記複数の目印画像の配置されている位置が同じであり、異なる位置に配置された目印画像の色の出現パターンが互いに異なる前記複数のパターン画像が格納されており、前記対応情報取得部が、前記目印画像検出部が検出した各目印画像を用いて、前記各パターン撮影画像内の同じ位置において検出された前記目印画像についての色の出現パターンを取得し、当該色の出現パターンが取得された撮影画像内の位置と、当該色の出現パターンと一致する色の出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得するステップと、を更に含むことを特徴とする。
【００２２】
また、本発明は、第一の画像と、第二の画像内に含まれる第一の画像との色あわせ、および位置あわせのための補正に用いられる補正パラメータを格納する補正パラメータ格納部を具備したコンピュータに、前記第一の画像を受け付けるステップと、受け付けた第一の画像を表示するステップと、表示した第一の画像を含む領域を撮影した画像である第二の画像を受け付けるステップと、前記補正パラメータ格納部に格納されている前記補正パラメータに基づいて、前記第一の画像、または、第二の画像内の第一の画像が位置する領域内の画像を補正するステップと、前記第一の画像と、前記第二の画像内の第一の画像が位置する領域内の画像とを比較するステップと、比較結果を用いて、前記第二の画像内の、前記第一の画像と一致する領域を透過領域に設定した透過画像を生成するステップと、生成した透過画像を出力するステップとを実行させるためのプログラムである。
【００２３】
また、本発明は、上記に記載のプログラムの発明において、前記画像処理装置は、さらに、目印となる画像である目印画像が異なる位置に配置された複数のパターン画像であって当該複数のパターン画像間にて、目印画像の出現パターンが互いに異なる複数のパターン画像が格納される画像格納部を具備し、前記画像格納部に格納されている複数のパターン画像を切り替えて表示するステップと、表示している複数のパターン画像を含む画像を撮影した画像であるパターン撮影画像を受け付けるステップと、受け付けたパターン撮影画像内から前記目印画像を検出するステップと、検出した各目印画像を用いて、前記各目印画像についての出現パターンを取得し、前記各パターン撮影画像内において検出された目印画像の位置と、当該目印画像の出現パターンと一致する出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得するステップと、取得した対応情報を用いて前記補正パラメータを構成し、前記補正パラメータ格納部に蓄積するステップと、を更にコンピュータに実行させることを特徴とする。
【００２４】
また、本発明は、上記に記載のプログラムの発明において、前記画像格納部には、複数の色のうちのいずれか一つの色を有する、目印となる画像である前記目印画像が、異なる位置に複数配置された前記複数のパターン画像であって当該複数のパターン画像間にて、前記複数の目印画像の配置されている位置が同じであり、異なる位置に配置された目印画像の色の出現パターンが互いに異なる前記複数のパターン画像が格納されており、検出した各目印画像を用いて、前記各パターン撮影画像内の同じ位置において検出された前記目印画像についての色の出現パターンを取得し、当該色の出現パターンが取得された撮影画像内の位置と、当該色の出現パターンと一致する色の出現パターンを有する前記複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得するステップを更にコンピュータに実行させることを特徴とする。
【００２５】
また、本発明は、上記に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体である。
【発明の効果】
【００２６】
本発明によれば、撮影した第二の画像の、撮影領域内で表示されていた第一の画像と一致する領域を、透過領域に設定して出力することができる。
【発明を実施するための最良の形態】
【００２７】
以下、画像処理装置等の実施の形態について図面を参照して説明する。なお、図面において同じ符号を付した構成要素は同様の動作を行うものとする。
（実施の形態１）
図１は、本実施の形態における色補正・位置補正機能付きの画像処理装置の具体例を示すブロック図である。
画像処理装置１００は、受付部１０１、表示部１０２、撮影部１０３、画像受付部１０４、遅延バッファ１０５、補正パラメータ格納部１０６、比較部１０７、透過画像構成部１０８、出力部１０９を具備する。
【００２８】
受付部１０１は、第一の画像の入力を受け付ける。なお、説明を簡略化するために、画像を示す情報である画像情報も、適宜、画像と呼ぶこととする。ここでの受け付けは、例えば、有線もしくは無線の通信回線（例えば、インターネットやイントラネット、ＬＡＮ(Local Area Network)などであってもよく、あるいは、ＩＥＥＥ１３９４のケーブルや、映像情報を伝送する専用のケーブル等であってもよい）を介して送信された第一の情報の受信でもよく、所定の記録媒体（例えば、光ディスクや磁気ディスク、半導体メモリなど）からの第一の画像の情報の読み出しであってもよい。
【００２９】
第一の画像は、通常、動画像であるが、静止画像であってもよい。第一の画像はカラー画像であることが好ましいが、グレースケール画像であってもよい。この第一の画像は、例えば、会議の場面を撮影した画像である。具体例としては、この画像処理装置１００を端末として用いたテレビ会議システムにおける、他の会議室で撮影され、リアルタイムに送信された画像である。また、第一の画像は、会議の場面を撮影した画像を、蓄積した画像であってもよい。また、第一の画像は、会議の場面を撮影した画像に限らず、どのような画像であってもよい。例えば、会議に利用される資料の画像やプレゼンテーション用の画像等であってもよい。
【００３０】
また、第一の画像は、アナログの画像であってもデジタルの画像であってもよい。アナログ画像である場合、第一の画像は、例えば、コンポジット信号やコンポーネント信号であってもよい。また、デジタルの画像である場合、第一の画像は、例えば、ＭＰＥＧ（Moving Picture Experts Group）や、ＩＴＵ−Ｔ  Ｈ．２６４等、画像の圧縮符号化のアルゴリズム等は問わない。また、非圧縮の画像を出力してもよい。また、画像は、ＨＤ画像等、画質や解像度等も問わない。また、第一の画像には、他の画像等との同期を取るための同期情報が含まれていても、付加されていてもよい。
【００３１】
また、受付部１０１は受け付けた第一の画像を、後述する遅延バッファ１０５や、図示しないメモリ等に一時記憶するようにしてもよい。受付部１０１は、第一画像に加えて、第一画像に対応した音声情報を受け付けてもよい。受付部１０１は、受け付けを行うためのデバイス（例えば、モデムやネットワークカードなど）を含んでもよく、あるいは含まなくてもよい。また、受付部１０１は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。
【００３２】
なお、受付部１０１が受け付けた第一の画像がアナログ信号である場合、画像処理装置１００内に、第一の画像を、適宜デジタル信号に変換して出力する図示しないＡＤ（アナログデジタル）変換部等を設けることが好適である。このようなＡＤ変換部等を設けることで、適宜、第一の画像に対して行う処理をデジタル化することができる。例えば、受付部１０１が受け付けたアナログの第一の画像を、このようなＡＤ変換部でデジタル信号に変換して遅延バッファ１０５に蓄積してもよい。
【００３３】
表示部１０２は、受付部１０１が受け付けた第一の画像を表示する。具体的には、表示部１０２は、受付部１０１から出力される第一の画像を用いて表示用の情報を構成して、液晶ディスプレイやプラズマディスプレイ、ＣＲＴ（Cathode Ray Tube）ディスプレイ等の表示デバイスに第一の画像を表示する。なお、表示部１０２は、第一の画像に対応して付与されている音声を、第一の画像とともに音声出力してもよい。表示部１０２が第一の画像を表示する解像度等は問わない。また、表示部１０２は、第一の画像に、マスク情報等の透過情報が含まれる場合、これらの情報を用いて第一の画像の一部の領域を透過させて表示したり、第一画像の一部の領域を、他の画像、例えば背景画像や特定の色の画像で置換して表示するようにしてもよい。表示部１０２は、表示を行う表示デバイスやスピーカを含んでもよく、あるいは含まなくてもよい。表示部１０２は、ハードウェアによって実現されてもよく、あるいは表示デバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。
【００３４】
撮影部１０３は、表示部１０２が表示デバイス等を用いて表示する第一の画像を含む領域の画像である第二の画像を撮影する。具体的には、撮影部１０３は、表示部１０２が第一の画像を表示する領域上の少なくとも一部を含む領域を撮影の対象となる領域である撮影領域として撮影して、第二の画像を取得する。より具体的には、撮影部１０３は、第一の画像を表示するディスプレイ等の表示デバイスの表示面を含む領域の画像を第二の画像として撮影する。第二の画像は、例えば、表示部１０２の表示デバイス等の前に、会議の参加者等が位置している状態のテレビ会議の画像等である。撮影部１０３が撮影する画像は、通常は動画像であるが、一以上の静止画像であってもよい。なお、一定または不定の所定の時間間隔で撮影された複数の静止画像は、ここでは動画像とする。
【００３５】
第二の画像はアナログ信号であっても、デジタル信号であってもよい。また、第二の画像は、通常はカラー画像であるが、グレースケール画像であってもよい。撮影部１０３の撮影方向と表示部１０２が表示する第一の画像の表示面とのなす角等は問わない。撮影部１０３は、例えば、映像を撮影するカメラであり、例えば、ＣＣＤ（Charge Coupled Devices）やＣＭＯＳ（Complementary Metal Oxide Semiconductor）等のイメージセンサを用いて映像を撮影する。また、撮影部１０３が音声情報も取得する場合には、撮影部１０３は、例えば、マイクを含んでいてもよい。撮影部１０３が画像を出力するためのデータ構造やタイミング等は問わない。例えば、撮影部１０３は、取得した動画像の情報を、一つの動画像ファイルとして出力してもよい。また、撮影部１０３は動画像を構成する各フレームの画像情報、もしくは各フレームに相当する画像情報を、取得する毎に順次出力してもよいし、所定数のフレームの画像が取得された時点で、所定数のフレーム単位で画像情報を出力してもよい。
【００３６】
また、撮影部１０３は、撮影した動画像に対して、動画像内の任意の時間的位置を指定することができるような情報である時間位置情報を付加した動画像を作成してもよい。例えば、時間位置情報として、撮影時点の時刻を示す情報等の時間位置を示す情報を付加した動画像を作成してもよい。例えば、撮影部１０３は、動画像を構成する各フレームの画像情報に対し、その画像情報を取得した時刻の情報を、時間位置情報、具体例としてはタイムコードや、タイムスタンプとして付加した画像情報を作成してもよい。また、画像情報の各フレームに、フレームを識別するためのフレーム識別情報を付与するようにしてもよい。撮影部１０３が作成し出力する画像情報は、アナログの画像情報であってもデジタルの画像情報であってもよい。例えば、デジタルの画像情報である場合、ＭＰＥＧや、ＩＴＵ−Ｔ  Ｈ．２６４等、画像情報の圧縮符号化のアルゴリズム等は問わない。また、非圧縮の画像情報を出力してもよい。また、画像情報は、ＨＤ画像等、画質や解像度等も問わない。また、撮影部１０３は、マイク等を含むようにし、音声情報も取得するようにしてもよい。
【００３７】
また、撮影部１０３は、撮影部１０３を識別する装置識別情報を出力するようにしてもよい。装置識別情報は、撮影部１０３が、カメラ等の撮影デバイスである場合、その撮影デバイスの製造番号等であってもよいし、予め撮影部１０３に設定しておいた識別番号であってもよい。また、撮影部１０３のＩＰアドレス等のネットワーク上の物理アドレス情報であってもよい。また、装置識別情報は、結果として撮影部１０３を識別できる情報であればよく、撮影部１０３が接続されているポート番号等の入力端子を識別する情報であっても良い。装置識別情報は、例えば撮影部１０３内部の図示しないメモリ等に予め蓄積しておく。また、撮影部１０３が、識別情報をどのように送信するかは問わない。具体的には、上述した位置識別情報と同様の方法により識別情報を出力することが可能である。
【００３８】
画像受付部１０４は、表示部１０２が表示する第一の画像を含む領域を撮影した画像である第二の画像を受け付ける。ここでは、具体的には、撮影部１０３が出力する、当該撮影部１０３が撮影した第二の画像を受け付ける。この受け付けは、例えば、有線もしくは無線の通信回線（例えば、インターネットやイントラネット、ＬＡＮなどであってもよく、あるいは、ＩＥＥＥ１３９４のケーブルや、映像情報を伝送する専用のケーブル等であってもよい）を介して送信された情報の受信でもよく、所定の記録媒体（例えば、光ディスクや磁気ディスク、半導体メモリなど）から読み出された情報の受け付けでもよい。本実施の形態では、画像受付部１０４は、撮影部１０３が撮影した第二の画像を示す情報を、専用のケーブル等を介して受け付ける例について説明する。なお、画像受付部１０４は、受け付けを行うためのデバイス（例えば、モデムやネットワークカードなど）を含んでもよく、あるいは含まなくてもよい。また、画像受付部１０４は、は、ハードウェアによって実現されてもよく、あるいは所定のデバイス、を駆動するドライバ等のソフトウェアによって実現されてもよい。
【００３９】
遅延バッファ１０５は、表示部１０２が表示する第一の画像を、所定の時間遅延させて、比較部１０７に入力させるためのものである。遅延バッファ１０５には、一時的に蓄積され、予め設定された時間遅延後、比較部１０７により読み出される。例えば、受付部１０１が受け付けた第一の画像が、表示部１０２に入力されると同時に遅延バッファ１０５に蓄積される。遅延バッファ１０５の所定の遅延時間は、具体的には、表示部１０２により読み出された第一の画像を撮影した第二の画像が、比較部１０７に入力されるまでの時間とほぼ同じ時間、好ましくは同じ時間、となるように設定されている。遅延バッファ１０５としては、例えばリングバッファ等が利用可能である。遅延バッファ１０５への第一の画像の蓄積は、図示しない制御部等により行われる。
【００４０】
補正パラメータ格納部１０６は、第一の画像と、第二の画像内に含まれる第一の画像と、の色あわせ、および位置あわせのための補正に用いられる補正パラメータを格納する。色あわせのための補正に用いられる補正パラメータとは、例えば、第一の画像と第二の画像の色をあわせるための、第一の画像と第二の画像との少なくともいずれか一方の画像の色の補正に用いられる情報である色補正情報である。色補正情報とは、具体的には、色の補正に用いられる関数の係数等の値である。色を補正するための関数はどのような関数であってもよい。関数の具体例については後述する。ここで述べる色の補正とは、例えば、撮影部１０３が撮影して得た第二の画像の色を、撮影部１０３の撮影対象である第一の画像のオリジナルの色に対してあわせるための補正である。なお、この場合の色の補正は、第二の画像と、第二の画像の撮影対象である第一の画像のオリジナルとの相対的な色の補正であればよく、例えば、第二の画像を、オリジナルの第一の画像に色あわせする補正であってもよい。ここで述べる色あわせとは、完全な一致を目指すものでなくてよく、後述するような、画像同士の一致する領域を判断しやすくするためのものであればよい。
【００４１】
位置あわせのための補正に用いられる補正パラメータとは、例えば、第一の画像と第二の画像の対応する位置同士をあわせるための、第一の画像と第二の画像との少なくともいずれか一方の画像の位置補正に用いられる位置補正情報である。位置補正とは、位置や、形状や、サイズ等の補正、変更を含む。位置補正情報とは、具体的には、第一の画像を、第二の画像に変換するための関数の係数等の値である。あるいは、このような関数の係数等を算出可能な情報であってもよい。例えば、第一の画像内の座標と、この座標に対応する第二の画像内の座標とを対応付けた情報を、位置補正情報としてもよいし、この座標の情報を、第一の画像内の座標を、第二の画像内の座標に座標変換する関数に代入することで得られる座標変換の関数の係数等を位置補正情報としてもよい。
【００４２】
このように画像を変換する関数としては、どのような関数を用いてもよく、例えば、アフィン変換の関数等が利用可能である。この場合、位置補正情報としては例えばアフィン係数を用いることができる。また、このような座標変換等を行う関数は、いわゆるモーフィング等の技術として公知である。関数の具体例については後述する。ここで述べる位置あわせとは、完全な一致を目指すものでなくてよく、後述するような、画像同士の一致する領域を判断しやすくするためのものであればよい。補正パラメータ格納部１０６は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。不揮発性の記録媒体でも、揮発性の記録媒体でもよい。
【００４３】
比較部１０７は、補正パラメータ格納部１０６に格納されている補正パラメータを用いて、第一の画像と、第二の画像内の第一の画像が位置する領域内の画像との少なくとも一方を補正し、第一の画像と、第二の画像内の第一の画像が位置する領域内の画像とを比較する。なお、第一の画像および第二の画像が、アナログ信号である場合、第一の画像および第二の画像を、例えば図示しないＡＤ変換部等を用いて適宜デジタル信号に変換して用いるようにしてもよい。また、第一の画像および第二の画像のデジタル信号への変換を比較部１０７が適宜行うようにしてもよい。
【００４４】
比較部１０７は、例えば、上記のように特定された第二の画像内における表示部１０２が第一の画像を表示している領域の画像（以下、第二領域画像と称す）と、遅延バッファ１０５から読み出した第一の画像とをそれぞれ構成する画素のうちの、対応する画素同士を比較する。同様の比較を、第二領域画像内の画素、通常は全ての画素について順次行う。ここで述べる第一の画像と第二領域画像との対応する画素同士の比較とは、必ずしも対応する画素同士の１対１の比較でなくてもよい。例えば、一つの画素と、複数の画素、例えば隣接する画素ブロック、との比較でもよいし、複数の画素と複数の画素との比較でもよい。第二領域画像と受付部１０１が受け付けた第一の画像との画素数等が異なる場合、画素同士が１対１で対応しないからである。例えば、一方の画像の１画素と、この画素に対応する他方の画像の複数の画素、例えば画素ブロックとを比較する場合、一方の画像の１画素の画素値と、複数の画素の画素値の平均値や中間値等の代表値とを比較してもよい。また、例えば、一方の画像の複数の画素と、この複数の画素に対応する他方の画像の複数の画素とを比較する場合、一方の画像の複数の画素の画素値の平均値等の代表値と、複数の画素の画素値の平均値等の代表値とを比較してもよい。
【００４５】
比較部１０７による画素同士の比較は、通常、画素の情報、例えば、ＲＧＢの各チャンネルの色強度等の情報や輝度情報等の色情報の値の比較により行われる。具体的には、第二領域画像と、第一の画像とが相似の関係にあり、両者の総画素数が同じである場合、第一の画像および第二領域画像の相対的な座標が一致する画素同士の、所定の画素値、例えば色情報の比較を行うようにしてもよい。そして、このような比較を全ての対応する画素間について行うようにすればよい。また、比較部１０７は、色情報同士等を比較する代わりに、二つの画像の対応する領域同士について、隣接する画素の色配列パターン等のパターンマッチングを順次行うようにしてもよい。また、これらの方法を組み合わせてもよい。
【００４６】
ここで、本実施の形態においては、比較部１０７は、補正パラメータと補正パラメータに対応した関数とを用いて、第一の画像と、第二の画像内の第一の画像が位置する領域内の画像との少なくとも一方の色を補正して、第一の画像と、第一の画像内の第一の画像が位置する領域内の画像との比較を行う。例えば、第一の画像の色を補正し、補正した第一の画像と、第二の画像内に撮影されている、言い換えれば配置されている第一の画像、すなわち第二領域画像とを比較してもよい。また、第二の画像内の、少なくとも第一の画像が位置する領域内の画像の色を補正し、第一の画像と、補正した第二の画像とを比較してもよい。また、第一の画像と第二の画像とをともに補正して、補正した第一の画像と補正した第二の画像とを比較してもよい。
【００４７】
ここで行われる補正は、補正パラメータを用いた、第一の画像と第二の画像との少なくとも一方に対する色あわせのための補正であり、具体的には、補正パラメータのうちの色補正情報を用いた第一の画像と第二領域画像との色あわせの補正である。この色補正情報は、予め、第一の画像の色の情報と、当該第一の画像を撮影した第二の画像内の第二領域画像の色の情報とを用いて求めておき、補正パラメータ格納部１０６に蓄積しておく。なお、場合によっては、色あわせの補正と位置あわせの補正とのいずれか一方のみの補正を行うようにしてもよい。なお、色あわせの補正は、第二の画像全体に対して行うようにしてもよいし、第二領域画像のみに対して行うようにしてもよい。補正に用いられる関数等は、補正パラメータ格納部１０６に格納されている補正パラメータに対応する関数である。
【００４８】
さらに、本実施の形態においては、比較部１０７は、補正パラメータと補正パラメータに対応した関数とを用いて、第一の画像と、第二の画像内の第一の画像が位置する領域内の画像との少なくとも一方の位置を補正して、第一の画像と、第一の画像内の第一の画像が位置する領域内の画像との比較を行う。比較部１０７による第一の画像と第二領域画像との比較は、例えば、以下のように行われる。すなわち、まず、第二の画像に撮影された第一の画像内の座標と、第一の画像内の座標との相関関数を求めておく。この相関関数を示す情報、例えば相関関数の係数等の情報を位置補正情報として補正パラメータ格納部１０６に予め格納しておく。この相関関数は、言い換えれば位置補正に用いられる位置補正関数である。そして、この相関関数、もしくはその逆関数を用いて、第二領域画像の各画素または各画素ブロック等の複数の画素に対応する第一の画像内の座標を算出し、第一画像情報が示す第一の画像内の算出された座標が示す位置の、一または複数の画素の色情報等の情報と、対応する第二領域画像の画素の色情報等の情報とを比較する。
【００４９】
なお、第一の画像の各画素に、または各画素ブロック等の複数の画素に対応する第二の画像内の座標を算出し、第二画像情報が示す第二の画像の算出された座標が示す位置の、一または複数の画素の色情報等の情報と、対応する第一の画素の色情報等の情報とを比較するようにしてもよい。このように、相関関数を用いて、第一の画像内の座標を、第二の画像内の座標、具体的には、第二領域画像内の座標に座標変換する補正や、第二の画像内の第二領域画像内の座標を、第一の画像内の座標に座標変換する補正を、ここでは、第一の画像と、第二の画像、具体的には、第二領域画像との位置あわせのための補正とする。すなわち、ここでは、第一の画像または第二領域画像を、位置補正しながら、比較していると考えてもよい。なお、第一の画像と第二の画像とをともに補正して、補正した第一の画像と補正した第二の画像とを比較してもよい。
【００５０】
上記のような、第二領域画像と第一の画像とを比較する処理は、第二の画像の全てのフレームの画像に対して行うようにしてもよいが、一定または不定期の所定のタイミング、例えば、数フレーム毎や、数秒毎に行うようにしてもよい。特に、第一の画像が、テレビ会議等の画像である場合、上述したように、急激な動き等がないと考えられるため、一旦決定した第一画像情報が示す第一の画像に一致する画素を含む領域を、連続する複数のフレームの第二の画像から第一の画像に一致する画像を透過領域に指定する処理に適用しても、大きな画質の劣化等がないと考えられるからである。なお、上記のように、相関関数の係数等の情報を位置補正情報として蓄積しておく代わりに、相関関数の係数等の情報を算出可能な情報を位置補正情報として蓄積しておき、この位置補正情報から相関関数を求めるようにしてもよい。
【００５１】
また、ここでは、相関関数により対応づけられた座標同士の一以上の画素同士を比較するようにしたが、予め第一の画像から、相関関数を用いた補正により、形状や画素数等を第二領域画像と同じにあわせた画像を構成しておき、この相関関数により構成した第一の画像と、第二領域画像とを画素単位で比較するようにしてもよい。あるいは、予め第二領域画像から、相関関数を用いた補正により、形状や画素数等を第一の画像と同じにあわせた画像を構成しておき、この相関関数により構成した第二領域画像と、第一の画像とを画素単位で比較するようにしてもよい。
【００５２】
第二の画像内の第一の画像が位置する領域、すなわち第一の画像内の第二領域画像の位置は、例えば、予め第二の画像内における表示部１０２が第一の画像を表示する領域が、第二の画像内のどの領域に表示されるかを調べておいて、この領域を指定する情報を設定しておくことが好ましい。この領域を指定する情報を、上述した位置指定情報の一つとして、例えば、予め補正パラメータ格納部１０６に予め蓄積しておくようにしてもよい。特に、第一の画像と、第二領域画像とが相似の関係にある場合等には、この位置指定情報を用いることで、相似の関係を定義する関数を算出することができ、この関数を用いて、第一の画像と第二領域画像との少なくとも一方の画像内の画素の位置等を補正して、第一の画像と、第二領域画像との比較が可能となる。
【００５３】
なお、この第一の画像が位置する領域を画像処理等により検出してもよい。なお、第二の画像内の第一の画像が位置する領域は、第二画像内の、第一の画像が実際に含まれている領域だけではなく、表示部１０２と重なっている会議の参加者等の物体等を無視した場合の、表示部１０２が第一の画像を表示している領域である。例えば、表示部１０２が第一の画像を表示する際に用いるディスプレイの表示領域が四角形である場合、そのディスプレイの一部を覆う物体、例えばユーザ等が、第二の画像に撮影されていたとしても、表示部１０２が第一の画像を表示する領域は四角形と考える。ただし、撮影部１０３に対する表示デバイスの表示領域の向きにより形状は完全に一致しない場合がある。
比較部１０７は、通常、ＭＰＵやメモリ等から実現され得る。比較部１０７の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【００５４】
透過画像構成部１０８は、比較部１０７の比較結果を用いて、第二の画像内の、第一の画像と一致する領域を、透過領域に設定した透過画像を構成する。具体的には、透過画像構成部１０８は、比較部１０７による第一の画像と、第二の画像内の第一の画像が位置する領域内の画像との比較の結果から、透過画像構成部１０８が一致していると判断した第二の画像内の領域を、透過領域に設定した透過画像を構成する。透過画像構成部１０８は、具体的には、比較部１０７の第一の画像と第二領域画像との画素同士の比較結果に応じて、比較した画素同士が一致しているか否かを判断する。ここでの画素同士の比較結果とは、上述したように、１対１の画素同士の比較結果でなくてもよく、例えば、１つの画素と、画素ブロックとの比較結果であってもよい。透過画像構成部１０８による画素同士の比較は、対応する画素同士について、所定の画素の情報、例えば色情報の比較を行い、その差が予め設定した閾値以内であれば、一致する画素であると判断し、閾値より大きければ、一致しない画素であると判断することにより行われる。
【００５５】
なお、この一致するか否かの判断は、比較部１０７による比較がパターンマッチングの比較である場合、マッチングの度合い、スコア等に応じて行われてもよい。そして、比較された全ての画素や画素ブロックについての判断を行って、第二の画像の第二領域画像内の、第一の画像に一致すると判断された画素を含む領域を決定する。なお、第二領域画像のうちの、第一の画像に一致する画素に領域に囲まれた微小な画素の領域等については、ノイズと考えて、第一の画像に一致する画素と判断するようにしてもよい。画像同士の比較結果から一致する領域を決定する処理については、上記の方法も含めて様々な処理があるが、公知技術であるので詳細な説明は省略する。
【００５６】
そして、透過画像構成部１０８は、一致すると判断された領域を透過領域に設定した透過画像を構成する。透過領域とは、第二の画像が表示される際に、透明な領域として表示される、もしくは取り扱われる第二の画像内の領域であり、本来の第二の画像が表示されない領域である。あるいは、画像を表示しない領域や、本来の画像とは異なる背景画像や所定のパターンの画像を表示する領域を透過領域と考えてもよい。具体的には、透過画像構成部１０８は、透過領域を不可視領域に指定するための、いわゆるアルファチャンネルと呼ばれるチャンネル画像を第二の画像に付加した透過画像を構成してもよい。このアルファチャンネルの画像は、第二の画像と同じ画像ファイルを構成してもよいし、第二の画像と対応付けられた異なる画像ファイルを構成してもよい。
【００５７】
例えば、ＪＰＥＧ（Joint Photographic Experts Group)ファイルである第二の画像に対応したアルファチャンネル画像や画像ファイルを、第二の画像ファイルに添付してもよい。また、アルファチャンネルの代わりに、透過領域に設定する領域の外縁を指定するベクトル情報であるパス、いわゆるクリッピングパス等の情報を第二の画像に付加して透過画像を構成してもよい。なお、画像にアルファチャンネル等を付加して、画像をマスクする技術については公知技術であるので説明は省略する。また、一致すると判断された領域の色情報を削除した透過画像を構成してもよい。また、当該透過画像を表示する表示装置等で、透過領域として認識して透明に表示できるように、一致する領域を特定のキーカラーで塗りつぶした透過画像を構成してもよい。ただし、アルファチャンネルを付加するほうが、オリジナルの第二の画像が損なわれない点で、オリジナル画像を残す必要がある場合等には最適である。
【００５８】
また、透過画像構成部１０８は、第二の画像内の、透過領域により分離された領域の画像を切り出した複数の透過画像を構成するようにしてもよい。具体的には、第二の画像内の、透過領域により分離された領域の囲む矩形の領域を一以上選択して、当該一以上の矩形の領域をそれぞれ切り抜いて、すなわちクリッピングして、一以上の透過画像を構成する。このように透過領域により分離された領域をクリッピングすることで、表示には不要である透過領域を削減し画像のデータ量を削減することができる。なお、この透過画像のそれぞれについては、元の第二の画像が再現できるように、元の第二の画像内において配置されていた位置を指定する情報、例えば座標を対応付けておく必要がある。透過画像構成部１０８は、通常、ＭＰＵやメモリ等から実現され得る。透過画像構成部１０８の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【００５９】
出力部１０９は、透過画像構成部１０８が構成した透過画像を出力する。ここでの出力とは、他の装置への送信や、記録媒体等への蓄積を含む概念である。出力部１０９は、画像処理装置１００がリアルタイムで会議を行うテレビ会議システム等に利用される場合、透過画像をストリーミング出力することが好ましい。出力部１０９が、透過画像を出力するタイミングや方式等は問わない。例えば、透過画像を取得する毎に、透過画像を出力するようにしてもよいし、所定量の透過画像を取得した場合に透過画像を出力するようにしてもよい。
【００６０】
出力部１０９は、透過画像構成部１０８が出力する透過画像を、ＭＰＥＧや、ＩＴＵ−Ｔ  Ｈ．２６４等の、圧縮符号化のアルゴリズム等を用いて、圧縮符号化してもよい。また、透過画像を、図示しないＤＡ（デジタルアナログ）変換部等を用いてアナログ信号に変換して出力するようにしてもよい。また出力部１０９は、同期情報を透過画像に付加して出力してもよい。また、出力部１０９は、撮影画像と、当該撮影画像の透過領域を指定する情報とを対応付けて出力してもよい。また、透過画像が上述したように透過画像がクリッピングされたものである場合、出力部１０９は、クリッピングされた透過画像を表示する位置を指定する情報を、透過画像と対応付けて出力してもよい。
【００６１】
また、出力部１０９は、撮影部１０３等の装置識別情報等を付加して透過画像を出力してもよい。出力部１０９は、通信装置等の出力デバイスを含むと考えても含まないと考えても良い。出力部１０９は、出力デバイスのドライバーソフト、または出力デバイスのドライバーソフトと出力デバイス等で実現され得る。なお、出力部１０９が、圧縮符号化の処理等を行う場合、これらの処理を実行するためのＭＰＵ（Micro Processing Unit）やメモリ等を具備していても良い。またこれらの処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ（Read Only Memory）等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【００６２】
次に、画像処理装置の動作について図２のフローチャートを用いて説明する。ここでは、第二の画像には、少なくとも第一の画像の一部が撮影されているものとする。なお、ここでは例として、予め第二の画像に含まれる第一の画像を、撮影対象となったオリジナルの第一の画像の対応する領域に配置した場合における、オリジナルの第一の画像の四つの頂点の座標を、第二の画像の座標系を用いて表した座標の情報が、位置補正情報として予め補正パラメータ格納部１０６に格納されている場合について説明する。また、第一の画像の色を、第二の画像の色、特に第二領域画像の色に色あわせするための関数の係数である色補正情報が、補正パラメータ格納部１０６に格納されている場合について説明する。
【００６３】
（ステップＳ２０１）受付部１０１は、第一の画像の入力を受け付けたか否かを判断する。受け付けた場合、ステップＳ２０２に進み、受け付けていない場合、ステップＳ２０１に戻る。
（ステップＳ２０２）表示部１０２は、受付部１０１が受け付けた第一の画像を取得する。
（ステップＳ２０３）画像処理装置１００は、ステップＳ２０２で表示部１０２が取得した第一の画像を、遅延バッファ１０５に蓄積する。
（ステップＳ２０４）表示部１０２は、ステップＳ２０２で取得した画像情報を、図示しないディスプレイ等に表示する。
【００６４】
（ステップＳ２０５）撮影部１０３は、表示部１０２によりディスプレイ等に表示されている第一の画像を含む第二の画像を撮影する。画像受付け１０４は、撮影された第二の画像を示す情報を受け付け、図示しないメモリ等に一時記憶する。
（ステップＳ２０６）比較部１０７は、画像受付部１０４が受け付けた第二の画像を取得する。また、遅延バッファ１０５により遅延された第一の画像を取得する。ここで取得される第一の画像は、遅延バッファ１０５により遅延された、上記で取得した第二の画像に含まれる第一の画像と同じ第一の画像、すなわちオリジナルの第一の画像である。
【００６５】
（ステップＳ２０７）比較部１０７は、ステップＳ２０６において取得した第一の画像と第二の画像内の第二領域画像との比較を行う。例えば動画像の場合、１フレーム同士の比較を行う。そして、透過画像構成部１０８が、この比較結果に応じて一致する領域を判断する。この処理の詳細については後述する。
（ステップＳ２０８）透過画像構成部１０８は、ステップＳ２０７において一致すると判断された領域を透過領域に設定したアルファチャンネル付きの透過画像を構成する。なお、透過画像を構成する際に、透過領域と、透過させない領域との境界、または境界付近の画素については、透過させない領域の外周が滑らかに表示されるよう、透過度を０％または１００％以外、好ましくは３０〜７０％程度に設定することが好ましい。
【００６６】
（ステップＳ２０９）透過画像構成部１０８は、ステップＳ２０８において構成したアルファチャンネル付きの透過画像を、透過領域で分離されている画像ごとにクリッピングする。このとき、各クリッピングされた画像に含まれる透過領域ができる限り小さくなるようにする。クリッピングした画像には、それぞれ元の撮影画像内の配置を示す位置情報、例えば座標を対応付けるようにする。透過領域で分離されている画像ごとにクリッピングする技術は公知技術であるので説明は省略する。
【００６７】
（ステップＳ２１０）出力部１０９は、ステップＳ２０９においてクリッピングされた透過画像を、出力、ここでは例として送信する。そして、ステップＳ２０１に戻る。
なお、図２のフローチャートにおいて、ステップＳ２０９の切り抜く処理を行った後、ステップＳ２０９により、切り技いた各第二の画像に対して透過領域を設定するようにしてもよい。
なお、図２のフローチャートは、電源オフや処理終了の割り込みにより処理を終了する。
【００６８】
次に、図２のステップＳ２０７の処理について、図３のフローチャートを用いて説明する。なお、ここでは、例として、第一の画像と第二領域画像とが、Ｒ、Ｇ、Ｂのそれぞれのチャンネルを有するカラー画像であるとし、第一の画像と第二領域画像との色情報の値、言い換えれば各チャンネルの色強度の値を用いて、第一の画像の画素と第二領域画像内の画素とを比較する場合を例に挙げて説明する。また、ここでは第一の画像および第二の画像が、それぞれｘ軸方向がｐ画素（ｐは１以上の整数）で、ｙ軸方向がｑ画素（ｑは１以上の整数）の矩形の画像である場合について説明する。
【００６９】
（ステップＳ３０１）比較部１０７は、カウンタｍに１を代入する。
（ステップＳ３０２）比較部１０７は、カウンタｎに１を代入する。
（ステップＳ３０３）比較部１０７は、第二の画像の座標（ｎ、ｍ）に位置する画素が、第二領域画像の画素であるか否かを判断する。例えば、上述した補正パラメータ格納部１０６に格納されている第二の画像に含まれる第一の画像を、撮影対象となったオリジナルの第一の画像の対応する領域に配置した場合における、オリジナルの第一の画像の四つの頂点の座標を、第二の画像の座標系を用いて表した座標の情報を用いて、この頂点を結んだ領域内に座標（ｎ、ｍ）が位置するか否かを判断する。そして、この頂点を結んだ領域内に座標（ｎ、ｍ）が位置している場合、第一の画像が撮影されている領域の画素、すなわち第二領域画像内の画素であると判断する。第二領域画像の画素である場合、ステップＳ３０４に進み、第二領域画像の画素でない場合、ステップＳ３１０に進む。なお、座標（ｎ、ｍ）は、画像内の画素を単位とした座標であり、ここでは、例として、左上の座標が（０，０）、右下の座標が（ｐ、ｑ）であるとする。
【００７０】
（ステップＳ３０４）比較部１０７は、第二領域画像の座標（ｎ、ｍ）に位置する画素の色情報を取得する。
（ステップＳ３０５）比較部１０７は、ステップＳ３０４で取得した画素の色情報を、補正パラメータ格納部１０６に格納されている色補正情報を用いて設定される色補正関数を用いて補正する。
【００７１】
（ステップＳ３０６）比較部１０７は、補正パラメータ格納部１０６に格納されている位置補正情報を用いて設定される位置補正関数を用いて座標（ｎ、ｍ）を補正した座標（Ｎ、Ｍ）（ただし、Ｎはｐ以下、Ｍはｑ以下）を取得する。例えば、上述したように、第二の画像に含まれる第一の画像を、撮影対象となったオリジナルの第一の画像の対応する領域に配置した場合における、オリジナルの第一の画像の四つの頂点の座標を、第二の画像の座標系を用いて表す。そして表した座標の情報が、位置補正情報として予め補正パラメータ格納部１０６に格納されている場合、予め利用することが指定されている係数等が決定されていない位置補正関数に、この四つの頂点を座標を代入することで、位置補正関数の係数等を求めて、位置補正に使用する位置補正関数を得る。次に、この位置補正関数に座標（ｎ、ｍ）を代入して補正した座標（Ｎ、Ｍ）を取得する。なお、比較部１０７が位置補正関数の係数等を算出するタイミング等は問わない。また、一度、位置補正関数の係数等を算出した後は、再度の算出処理は省略してよい。
【００７２】
（ステップＳ３０７）比較部１０７は、第一の画像の座標（Ｎ、Ｍ）の画素の色情報と、ステップＳ３０５において色を補正した第二領域画像の座標（ｎ、ｍ）の画素の色情報とを比較する。この比較は、例えば、対応する画素同士の、同じチャンネルの色強度の値の差、もしくは差の絶対値を算出することで行われる。なお、この比較においては、第一の画像の座標（Ｎ、Ｍ）の画素の色情報の代わりに、座標（Ｎ、Ｍ）を中心とした複数の画素により構成される画素ブロックの色情報の代表値を用いてもよい。
【００７３】
（ステップＳ３０８）透過画像構成部１０８は、比較部１０７による比較結果を用いて、第二領域画像の座標（ｎ、ｍ）の画素が、第一の画像内の対応する画素と一致するか否かを判断する。例えば、ステップＳ３０７において算出した各チャンネルごとの色強度の差が、全て予め設定された値よりも小さいか否かを判断し、全てのチャンネルの色強度の差が、それぞれ予め設定された値よりも小さい場合、画素同士が一致すると判断し、小さくない場合、一致しないと判断する。なお、画素同士の比較および一致の判断を、Ｒ、Ｇ、Ｂの各チャンネルの色強度の差を求めて行う場合について説明したが、これはあくまでも一例であり、画素同士、あるいは画素と画素ブロックや、画素ブロック同士の比較等は、どのような方法により行うようにしてもよい。比較結果に基づいて一致すると判断された場合、ステップＳ３０９に進み、一致しないと判断された場合、ステップＳ３１０に進む。
【００７４】
（ステップＳ３０９）透過画像構成部１０８は、ステップＳ３０８において判断した第二領域画像の（ｎ、ｍ）の画素が第一の画像に一致する画素であるとする判断結果をメモリ等に一時記憶し、ステップＳ３１０に進む。
（ステップＳ３１０）比較部１０７は、カウンタｎの値を１インクリメントする。
（ステップＳ３１１）比較部１０７は、カウンタｎの値がｐより大きいか否かを判断する。ｐより大きい場合、ステップＳ３１２に進み、大きくない場合、ステップＳ３０３に戻る。
（ステップＳ３１２）比較部１０７は、カウンタｍの値を１インクリメントする。
（ステップＳ３１３）比較部１０７は、カウンタｍの値がｑより大きいか否かを判断する。ｑより大きい場合、ステップＳ３１４に進み、大きくない場合、ステップＳ３０２に戻る。
【００７５】
（ステップＳ３１４）比較部１０７は、ステップＳ３０９により記憶された判断結果を用いて第二領域画像内の第一の画像と一致する領域を決定する。例えば、ステップＳ３０８において一致していると判断された画素のうちの、連続して隣接している領域を判断し、その領域の縁となる複数の画素の座標等を、第二領域画像内の、第一の画像と一致する領域を定義する情報としてメモリ等に蓄積してもよい。また、ステップＳ３０８において一致していると判断された全ての画素の座標を、第二領域画像内の第一の画像と一致する領域を定義する情報としてメモリ等に蓄積してもよい。そして、上位関数にリターンする。
【００７６】
なお、図３のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
また、上記図２および図３のフローチャートにおいては、画素間のＲ、Ｇ、Ｂチャンネルの色情報を比較して、第二領域画像の画素と、第一画像情報が示す第一の画像の画素とが一致するか否かを判断する場合を例に挙げて説明したが、画素間の他の色の情報、例えば輝度値等を用いて、画素同士が一致するか否かを判断してもよい。このような画素間の比較としては公知の技術が利用可能である。
【００７７】
次に、上記実施の形態による画像処理装置を用いたテレビ会議システムの実施の形態を説明する。
図４は、本実施の形態によるテレビ会議システムのブロック図である。テレビ会議システムは、第一テレビ会議端末１０と第二テレビ会議端末２０とを具備している。第一テレビ会議端末１０と第二テレビ会議端末２０とは、例えばネットワークや通信回線等を介して通信可能に接続されている。第一テレビ会議端末１０と第二テレビ会議端末２０とは、例えば、２つの離れた会議室間で双方向の対話ができるように、それぞれの会議室に設置される。ここでは、第一テレビ会議端末１０が配置されている会議室を第一会議室、第二テレビ会議端末２０が配置されている会議室を第二会議室とする。
【００７８】
第一テレビ会議端末１０は、ここでは例として、前記実施の形態１による画像処理装置１００を備えているものとする。
また、第二テレビ会議端末２０は、撮影部２０１と、撮影した画像を第一テレビ会議端末１０に送信する送信部２０２と、第一テレビ会議端末１０から送信される画像を受信する受信部２０３と、受信した画像を表示する表示部２０４とを備えている。なお、撮影部２０１、送信部２０２、表示部２０４の構成は、基本的には第一テレビ会議端末１０の撮影部１０３、出力部１０９、表示部１０２と同様の構成を有しているため、ここでは説明を省略する。
受信部２０３は、第一テレビ会議端末１０から送信される透過画像が付与された第二の画像、すなわち透過画像を受信する。受信部２０３は、通信手段のデバイスドライバや、記録媒体等から情報を読み出す装置の制御ソフトウェア等で実現され得る。
【００７９】
図５は、テレビ会議システムの概念図である。第一テレビ会議端末１０は表示デバイスとしてディスプレイ１０２ａを有するとともに、ディスプレイ１０２ａと撮影部１０３以外は、ここでは、情報処理装置１０００により構成されているものとする。また、第二テレビ会議端末２０は表示デバイスとしてディスプレイ２０４ａを有するとともに、ディスプレイ２０４ａと撮影部２０１以外は、ここでは、情報処理装置２０００により構成されているものとする。なお、図５に示すように、第一テレビ会議端末１０においては、撮影部１０３の撮影領域内に、表示部１０２の表示デバイスであるディスプレイ１０２ａが、表示面が撮影部１０３に対向するように配置されているものとする。
【００８０】
ここで、予め撮影部１０３が撮影した第二の画像内に含まれる第一の画像と、受付部１０１が受け付けるオリジナルの第一の画像との位置関係を調べておき、第二の画像に含まれる第一の画像を、撮影対象となったオリジナルの第一の画像の対応する領域に配置した場合における、オリジナルの第一の画像の四つの頂点の座標を、第二の画像の座標系を用いて表した座標の情報を位置指定情報として、補正パラメータ格納部１０６に蓄積しておく。
【００８１】
図６は、第二の画像６２と、第二の画像６２の座標系を用いて表した第一の画像６１の四つの頂点の座標の情報との位置関係を示す模式図である。例えば、ここでは第二の画像６２の座標系を用いて表した第一の画像６１の四つの頂点の座標は、（ｘ１，ｙ１）、（ｘ２，ｙ２）、（ｘ３，ｙ３）、（ｘ４，ｙ４）であったとする。ここでは、第二の画像６２は、ディスプレイ１０２ａに表示された第一の画像６１内の一部の画像のみを撮影した画像である場合を示しているため、上記の四つの座標は、全て第二の画像６２の外側に位置している。
【００８２】
ただし、第二の画像６２は、ディスプレイ１０２ａに表示された第一の画像全体を含む領域を撮影した画像であってもよい。この場合、上記の四つの頂点の座標は、第二の画像内の座標となる。また、第二の画像６２は、ディスプレイ１０２ａに表示された第一の画像６１の一部と、第一の画像６１以外の領域を撮影した画像であってもよい。この場合、上記の四つの頂点の座標の一部が第二の画像６２内の座標となり、その他の座標は、第二の画像６２外に位置する。なお、座標の単位はピクセルとする。
【００８３】
また、第一の画像６１の色と、第二の画像６２内の第二領域画像の色との違いを補正するための補正関数の係数である色補正情報を、予め算出し設定しておく。例えば、第一の画像として、所定の色の第一の画像を表示させ、この第一の画像の複数の位置の色と、この第一の画像を撮影した第二の画像内の第二領域画像の、第一の画像の複数の位置に対応すると考えられる位置の色を、色補正に利用する色補正関数に代入することで、色補正関数の係数等の色補正情報を取得することができる。
【００８４】
次に、テレビ会議システムの動作について説明する。
まず、第一会議室においては、テレビ会議の参加者Ａが、撮影部１０３とディスプレイ１０２ａとの間に立っており、第二会議室においては、テレビ会議の出席者Ｂが、撮影部２０１の正面に着席していたとする。この状態でテレビ会議を開始したとする。
まず、図７に示すような、第二会議室において、第二テレビ会議端末２０の撮影部２０１で撮影された出席者Ｂの上半身の画像を含む第一の画像７０が、送信部２０２から、ネットワークを介して第一テレビ会議端末１０に送信される。
【００８５】
第一会議室の第一テレビ会議端末１０では、受付部１０１が第一の画像を受け付ける。ここでは、第二テレビ会議端末２０から受信する。表示部１０２は、受付部１０１が受け付けた図７に示したような第一の画像を取得して、ディスプレイ１０２ａに表示する。次に、撮影部１０３は、第一会議室の出席者Ａの画像を含む第二の画像を撮影する。撮影した第二の画像を画像受付部１０４が受け付ける。受け付けた第二の画像は、図示しないメモリ等に一時記憶するようにしてもよい。
【００８６】
図８は、第二の画像８０の例を示す図である。第一会議室においては、撮影部１０３の撮影領域が、ディスプレイ１０２ａの表示領域内に位置しているため、第二の画像８０においては、出席者Ａの背景として、第二会議室の出席者Ｂの画像を含む第一の画像を表示しているディスプレイ１０２ａが背景として撮影されていることとなる。
【００８７】
ここで、この撮影部１０３が撮影した第二の画像を、そのまま出力部１０９から第二テレビ会議端末２０に送信して表示部２０４のディスプレイ２０４ａに表示させた場合、第二会議室の参加者Ｂは、自分自身が撮影されている第一の画像が背景に表示されている第二の画像を、ディスプレイで見ることとなる。すなわち、第二会議室で撮影された第一の画像が、第二会議室のディスプレイ２０４ａにフィードバックされて表示されることとなる。このため、テレビ会議としては適切な画像が表示されているとはいえない状況となり、会議のスムーズな進行に支障をきたす恐れがある。例えば、第二会議室においては、参加者Ｂは、ディスプレイ２０４ａにフィードバックされて表示される自分自身の画像が気になり、注意が散漫となり、会議が効率良く行われなくなってしまうことが考えられる。
【００８８】
このため、本実施の形態においては、このようなフィードバックされる画像を不可視とした画像を、他の会議室に送信する処理を行う。
まず、受付部１０１が第一の画像を受け付け、表示部１０２に出力すると同時に、同じ第一の画像が遅延バッファ１０５に蓄積される。比較部１０７は、画像受付部１０４が受け付けた第二の画像を取得するとともに、遅延バッファ１０５により所定の時間遅延された、当該第二の画像内に撮影されている第一の画像と同じ第一の画像を、遅延バッファ１０５から取得する。
【００８９】
次に、第二の画像の各画素について、第二の画像内の第一の画像が位置する領域内の画像であるか否か、すなわち、第二領域画像の画素であるか否かを判断する。すなわち、図８に示すような、上述した四つの頂点の座標（ｘ１，ｙ１）、（ｘ２，ｙ２）、（ｘ３，ｙ３）、（ｘ４，ｙ４）により定義される領域の画素であるか否かを判断する。ここでは、第二の画像の全ての画素が第二領域画像の画素と判断される。
【００９０】
そして、この領域の画素であると判断された画素について、当該画素の色情報、ここでは、Ｒ、Ｇ、Ｂの色強度の値を取得する。次に、この色強度の値を、補正パラメータ格納部１０６に格納されている色補正情報を用いて色補正関数により補正する。
【００９１】
ここで利用する色補正関数として、例えば、
【００９２】
Ｒ＝ａ１ｒ＋ａ２ｇ＋ａ３ｂ、
Ｇ＝ｂ１ｒ＋ａ２ｇ＋ａ３ｂ、
Ｂ＝ｃ１ｒ＋ａ２ｇ＋ａ３ｂ
【００９３】
という色補正関数を用いるものとする。
【００９４】
ここで、第二の画像の画素値、すなわち各色強度の値を（ｒ，ｇ，ｂ）、補正後の画素値、すなわち各色強度の値を（Ｒ，Ｇ，Ｂ）とする。このａ１〜ａ３、ｂ１〜ｂ３、ｃ１〜ｃ３、は、色補正関数の係数、すなわち補正パラメータ格納部１０６に格納されている色補正情報である。従って、この色補正関数のｒ、ｇ、ｂに、第二領域画像の画素であると判断された画素の色情報を代入することで、補正した色情報（Ｒ、Ｇ、Ｂ）を得ることができる。
【００９５】
次に、比較部１０７は、補正パラメータ格納部１０６に格納されている位置補正情報である第二の画像内の第二領域画像の四つの頂点の座標を、予め指定されている位置補正に利用する係数が特定されていない位置補正関数に代入する。そして、第二領域画像に対応する第一の画像の座標を算出するための位置補正関数の係数を算出して、位置補正関数を得る。
【００９６】
ここで利用する位置補正関数が、例えば、
【００９７】
Ｘ＝ａｘ＋ｂｙ、
Ｙ＝ｃｘ＋ｄｙ
【００９８】
で表される関数であったとする。ここで、第二の画像内の第二領域画像を構成する画素の位置を（ｘ、ｙ）、オリジナルの第一の画像内の画素の位置を（Ｘ，Ｙ）とし、ａ、ｂ、ｃ、ｄは、それぞれ位置補正関数の係数であるとする。
【００９９】
この場合、上述した四つの頂点の座標（ｘ１，ｙ１）、（ｘ２，ｙ２）、（ｘ３，ｙ３）、（ｘ４，ｙ４）を、上記関数のｘおよびｙに代入することで、ａ、ｂ、ｃ、ｄを算出することができる。これにより、フィードバックされる画像を不可視とする際に利用する位置補正関数を求めることができる。なお、このａ、ｂ、ｃ、ｄの値を、最初から位置補正情報として与えておくようにしてもよい。また、このａ、ｂ、ｃ、ｄの値を与えた補正関数自身を位置補正情報としてもよい。
【０１００】
そして、この位置補正関数を用いて、第二領域情報の画素と判断された画素に対応する第一の画像内の画素、もしくは画素ブロックを指定する座標を取得する。具体的には、取得した位置補正関数のｘ、ｙに、第二領域情報の画素と判断された画素の座標を代入することで、第一の画像内の対応する座標（Ｘ，Ｙ）を得ることができる。
【０１０１】
次に、第一の画像内のこの座標に位置する画素、もしくは画素ブロックの色情報を取得して、対応する第二領域画像の画素の色情報を色補正した色情報との比較を行う。具体的には、画素の色情報同士、具体的にはＲ、Ｇ、Ｂのそれぞれのチャンネルの色強度の値を比較し、全ての差が所定の値より小さければ一致すると判断する。
【０１０２】
例えば、第二領域画像内の画素と判断された画素の（Ｒ、Ｇ、Ｂ）の各チャンネルの値が、（２３０、１３、５６）であり、当該第二領域画像内の画素の座標を位置補正関数により補正して得られた第一の画像内の座標に位置する画素の（Ｒ、Ｇ、Ｂ）の各チャンネルの値が、(２３１、１０、５７)であったとし、各チャンネルの値が一致すると判断される値の差の上限値、すなわち各チャンネルの閾値がすべて「５」であったとすると、この場合には、全てのチャンネルの値の差の絶対値が６より小さいため、画素同士が一致すると判断される。このため、第二領域画像内の画素と判断された画素は、第一の画像内の画素であると判断される。そして、この第二領域画像内の画素と判断された画素を、第一の画像内の画素に一致する画素として図示しないメモリ等に一時的に蓄積していく。なお、閾値は、予め設定されていてもよいし、適宜設定できるようにしてもよい。
【０１０３】
逆に、例えば、第二領域画像内の画素と判断された画素の（Ｒ、Ｇ、Ｂ）の各チャンネルの値が、（２３０、１３、５６）であり、当該第二領域画像内の画素の座標を位置補正関数により補正して得られた第一の画像内の座標に位置する画素の（Ｒ、Ｇ、Ｂ）の各チャンネルの値が、(２３８、１０、５０）であったとすると、この場合には、ＲとＢのチャンネルの値の差の絶対値が「６」以上であるため、画素同士が一致しないと判断され、第二領域画像内の画素と判断された画素は、第一の画像内の画素ではない、と判断される。すなわち、この画素は、ディスプレイ１０２ａの前に位置する参加者Ａを撮影した画素等と考えられる。このような処理を、第二の画像の全ての画素について行う。
【０１０４】
その後、透過画像構成部１０８は、メモリ等に蓄積された第一の画像内の画素に一致する画素を読み出し、この画素が含まれる領域を、第二の画像内の第一の画像と一致する領域に決定する。例えば、画素が連続している領域を順次検出していく。そして、この領域の縁となる複数の画素の座標等を、第二の画像内の、第一の画像と一致する領域を定義する情報として取得し、図示しないメモリ等に一時的に蓄積する。
【０１０５】
図９は、第二の画像８０内の第一の画像と一致する領域９０を示す図である。次に、透過画像構成部１０８が、この第二の画像内の第一の画像と一致する領域を定義する情報を読み出し、この領域を透過領域に設定したアルファチャンネルを構成し、第二の画像に付加する。図１０は、第二の画像８０にアルファチャンネル９５を付加した状態を模式的に示す図である。このアルファチャンネルが付加された画像が透過画像である。なお、アルファチャンネル９５は第二の画像８０と同じファイル等を構成しているものとする。ただし、第二の画像８０と対応付けがなされていれば、アルファチャンネルの画像は同じファイルを構成していなくてもよい。
【０１０６】
次に、透過画像構成部１０８が、この透過領域により分離されている領域を、クリッピング、すなわち切り抜く。このクリッピングした第二の画像においても、アルファチャンネルは保持されているようにする。さらに、このクリッピングした第二の画像のそれぞれが、クリッピング前の第二の画像のどの位置に配置されていたかを示す情報を取得し、クリッピングした第二の画像に対応付けて図示しないメモリ等に、保持しておく。ここでは、アルファチャンネルを構成した後、クリッピングするようにしたが、クリッピング後にアルファチャンネルを構成してもよい。このような透過領域等の情報に基づいてクリッピングを行う処理は公知であるので説明は省略する。
【０１０７】
図１１は、クリッピングにより得られた第二の画像９１、９２を示す図である。また、図１２は、クリッピングにより得られた第二の画像９１、９２と、それぞれの画像が配置される位置を示す情報、ここでは座標とを管理するためのクリッピング画像管理表である。クリッピング画像管理表において、「座標」は、オリジナルの第二の画像内のクリッピング画像の左上の座標を示す。「画像」は、クリッピングにより得られた画像を示す。
【０１０８】
出力部１０９は、クリッピングにより得られた第二の画像９１、９２に、これらの画像の配置される位置を示す座標の情報を対応付けて、第二テレビ会議端末２０に送信する。
このようにクリッピングした画像を送信することで、第二の画像内の透過領域、すなわち表示する必要のない領域の画像を削除して、送信する第二の画像の情報量を削減することができる。この結果、限られた通信帯域の中で、効率良く画像の送受信を行うことが可能となり、画像の遅れや乱れ、コマ落ち等の発生を低減させることができる。
【０１０９】
第二テレビ会議端末２０では、クリッピングにより得られた第二の画像９１、９２とこれらに対応付けられた座標の情報を受信し、図示しないメモリ等に一時記憶する。そして、表示部２０４が、この第二の画像９１、９２を、それぞれに対応付けられた座標の情報が示す位置に配置し、アルファチャンネルが示す透過領域に、例えば予め設定された背景画像等を配置した、表示用の画像を構成して、ディスプレイ２０４ａに表示する。図１３は、第二テレビ会議端末２０のディスプレイ２０４ａによる表示例を示す図である。これにより、双方向でテレビ会議を実現することができる。
なお、この具体例ではクリッピングした第二の画像を、出力部１０９が出力するようにしたが、通信の帯域が広い場合等には、出力部１０９は、クリッピングしない第二の画像を出力するようにしてもよい。
【０１１０】
以上、本実施の形態によれば、撮影部１０３が撮影した第二の画像から、表示部１０２が表示している第一の画像と一致する画像を透過領域とするようにしたことにより、表示部１０２が表示している画像が、撮影部１０３が撮影した第二の画像に含まれて出力されることを防ぐことができる。これにより、例えば、撮影部１０３がテレビ会議等の参加者を撮影した画像から、参加者の背景において、表示部１０２に表示されている他の会議室における会議の参加者の画像を除去した画像を、他の会議室のテレビ会議端末に送信することができる。この結果、それぞれの会議室で撮影された画像が、フィードバックされて、同じ会議室内のディスプレイ等に表示されることを防ぐことができ、フィードバックされた画像による混乱等を抑えて、会議を効率的に行うことが可能となる。
【０１１１】
さらに、位置補正情報および色補正情報等の補正パラメータを用いて、第一の画像と、第二の画像内に含まれる第一の画像と、の色あわせおよび位置あわせのための補正を行って、第一の画像と第二の画像内に含まれる第一の画像とを比較するようにしたことにより、精度良く画像同士の比較を行うことができる。例えば、通常、第一の画像と、第一の画像を一旦ディスプレイ１０２ａ等に表示したものを、撮影部１０３で撮影した画像とでは、使用する機器の特性や、照明等の影響等により色が大きく変わることがあるが、本実施の形態においては、このような色の違いを補正して画像同士を比較することが可能である。
【０１１２】
また、撮影部１０３やディスプレイ１０２ａの配置や、撮影部１０３のレンズ特性等により、第二の画像内の第一の画像は、オリジナルの第一の画像に比べて、大きさや形等が大きく変形しており、両者の画素同士を対応させて比較することが困難であるが、本実施の形態においては位置補正を行うことで、第一の画像内の位置と、第二の画像に含まれる第一の画像内の位置とを正確に位置あわせし、対応付けて比較することができるため、正確な比較が可能となる。
【０１１３】
なお、上記具体例において、第二テレビ会議端末２０として、第一テレビ会議端末１０と同様の構成を用いるようにしてもよい。
また、上記具体例においては、第一テレビ会議端末１０の表示部１０２と撮影部１０３とがそれぞれ一つであり、第二テレビ会議端末２０においても、撮影部２０１と表示部２０４とがそれぞれ一つである場合について説明したが、これらは複数であってもよい。例えば、図１４に示すように、第一テレビ会議端末１０に、表示部１０２と同様の、図示しない６つの表示部を設けるようにし、それぞれの表示デバイスである６つのディスプレイ１０２ａを、八角形の領域の６つの辺に並べて配置し、各ディスプレイ１０２ａの上部に６つの撮影部１０３をそれぞれ配置するようし、その八角形の領域の中央部に、会議用のテーブル等を配置するようにしてもよい。
【０１１４】
この場合、第二テレビ会議端末も、同様の構成として、第一テレビ会議端末１０の各撮影部１０３が撮影した第二の画像が、図示しない第二テレビ会議端末の６つの表示部の表示デバイスである６つのディスプレイにそれぞれ表示されるようにし、図示しない第二テレビ会議端末の６つの撮影部が撮影した第一の画像が、第一テレビ会議端末１０の６つのディスプレイ１０２ａにそれぞれ表示されるようにすることが好ましい。このように参加者の画像を表示する複数のディスプレイを設けることで、多人数で、臨場感あふれる会議を実現することができる。
【０１１５】
なお、上記具体例においては、第二領域画像の画素と、当該画素の座標を位置補正関数で座標変換して得られた座標に対応する第一の画像内の画素等を、適宜比較するようにした場合について説明したが、予め第二領域画像全体を、位置補正関数を用いて位置補正することで、第一の画像と同じ形状の画像を構成して、第一の画像の各画素や画素ブロック等と比較するようにしてもよい。また、予め第一の画像全体を、位置補正関数を用いて位置補正して、第二領域画像と同じ形状の画像を構成して、構成した第一の画像を、第二領域画像の各画素や画素ブロック等と比較するようにしてもよい。
【０１１６】
（実施の形態２）
本実施の形態にかかる画像処理装置は、上記実施の形態１にかかる画像処理装置において、上述した補正パラメータを取得するための構成を備えたものである。
図１５は、本実施の形態における画像処理装置の具体例を示すブロック図である。
画像処理装置３００は、画像格納部３０１、受付部１０１、表示部３０２、撮影部３０３、画像受付部１０４，遅延バッファ１０５、補正パラメータ格納部１０６、比較部１０７、透過画像構成部１０８、出力部１０９、撮影画像格納部３０４、目印画像検出部３０５、対応情報取得部３０６、対応管理情報格納部３０７、および、補正パラメータ構成部３０８を具備する。
【０１１７】
補正パラメータ構成部３０８は、色情報取得手段３０８１、色補正情報取得手段３０８２、位置補正情報取得手段３０８３を有する。受付部１０１、画像受付部１０４、遅延バッファ１０５、補正パラメータ格納部１０６、比較部１０７、透過画像構成部１０８、出力部１０９については、上記実施の形態１と同様の構成を有するため、説明を省略する。
【０１１８】
画像格納部３０１には、一以上、好ましく複数の目印画像が異なる位置に配置された画像であるパターン画像が数格納される。これらの複数のパターン画像間においては、複数の目印画像の配置されている位置が同じとなっている。さらに、複数のパターン画像においては、異なる位置に配置された目印画像の色の出現パターンが互いに異なるものとしている。目印画像とは、目印となる画像である。ここで述べる目印とは、画像内の位置を識別するための目印である。目印画像は後述するパターン画像の一部を構成する画像である。目印画像は、具体的には、後述する表示部３０２が表示する画像内の位置と、撮影部３０３が撮影した画像内において表示部３０２が表示している画像内の位置との対応を求める際に用いられる画像のことである。目印画像は、背景等から分離して検出可能な、色や形状を有する画像である。目印画像の形状は、目印画像が表示される位置を、目印画像の中心の位置とする場合、目印画像が変形しても、その中心位置が変わりにくいことから、円形が好ましい。ただし、多角形等の他の形状でもよい。なお、目印画像の大きさは問わない。
【０１１９】
各目印画像は、通常、複数の色のうちのいずれか一つの色を有する。目印画像の色は、撮影部３０３が表示部３０２により表示されたパターン画像の少なくとも一部を含む画像を撮影した画像（以下、撮影画像と称す）内において、目印画像の背景となる画像である背景画像に対して識別可能な色とする。各目印画像は、均一な色であることが好ましいが、識別が可能な範囲であれば、多少のばらつきを有していてもよい。目印画像およびパターン画像は、ベクトル画像でもラスタ画像であってもよい。パターン画像の目印画像が配置されていない領域は、通常、背景画像となっている。
【０１２０】
パターン画像は、例えば、表示部３０２が通常表示する画像の画素数に相当する画素数を有する背景画像の所定の位置に、複数の目印画像を配置して構成した画像である。パターン画像における目印画像間の配置間隔や位置関係等は問わない。各パターン画像において、各目印画像の配置される位置は、通常、予め指定されている。目印画像の配置されている位置は、表示部３０２が通常表示する画像内の位置を示す情報、例えば座標等で指定される。目印画像の配置されている位置は、表示部３０２の表示領域内の位置を示す情報、例えば座標等で指定されてもよい。目印画像は、表示される位置、あるいは配置される位置を指定する情報と対応付けられて、画像格納部３０１内に格納されていてもよい。
【０１２１】
なお、パターン画像は、表示部３０２により表示される画像における、表示位置を示す情報等と対応付けられた複数の目印画像と考えてもよい。この場合、表示部３０２が表示を行う際に、これらの複数の目印画像を、それぞれの表示位置に配置した表示用のパターン画像を構成して、パターン画像を表示するようにしてもよい。ここでは、上述したように、各パターン画像間においては、複数の目印画像が配置される位置が一致しているとともに、同じ位置に表示される目印画像の色が出現するパターン、すなわち、出現パターンが、位置毎に全て異なるように、各パターン画像内に目印画像を配置している。
【０１２２】
色の出現パターンとは、言い換えれば目印画像の色の変化のパターンである。具体的には、出現パターンは、複数のパターン画像の、各目印画像が配置される位置における複数の目印画像の色の順列または組み合わせである。例えば、出現パターンは、複数のパターン画像を予め設定されている所定の順番で並べた場合における、各目印画像の配置位置における目印画像の色の出現する順列である。また、例えば、出現パターンは、パターン画像の各目印画像の配置されている位置において、複数のパターン画像から複数の目印画像を取り出した場合における、取り出された目印画像の色の組み合わせであってもよい。例えば、本実施の形態においては、複数のパターン画像を、予め設定された順番に表示させる場合に、異なる位置に表示される目印画像の色の出現パターンが互いに異なるような複数の目印画像を、各パターン画像が有しているようにする。
【０１２３】
このようにすることにより、詳細については後述するが、撮影部３０３が撮影した画像内における目印画像が配置されている位置毎の目印画像の色の出現パターンを用いて、目印画像が配置されている位置を識別することができる。なお、色の情報を数値で置き換えるようにし、その数値の出現パターンを取得することも、ここでは、色の出現パターンを取得することと考える。また、ここでは例として、各パターン画像における各目印画像の色は、それぞれ２色のうちのいずれか一方であるとする。また、各パターン画像間における各目印画像の２色の組み合わせは、全て同じとしてもよいが、異なるようにしてもよい。特に、全て異なるようにすることで、その色の組み合わせを判断することにより、どのパターン画像であるか、もしくはどのパターン画像を撮影した画像であるかを判断することができる。
【０１２４】
後述するが、各パターン画像内の目印画像が、２色の色のうちのいずれか一方の色を有する場合において、各目印画像が配置された位置を識別できるようにするためには、各パターン画像内に配置される目印画像数をＡ（Ａは２以上の整数）、パターン画像数をＢ（Ｂは２以上の整数）とした場合に、
【０１２５】
２Ｂ≧Ａ
【０１２６】
の関係を満たすような複数のパターン画像が、画像格納部３０１に格納されているようにする。画像格納部３０１は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
【０１２７】
表示部３０２は、上記実施の形態において説明した第一の画像を表示する表示部１０２において、さらに、画像格納部３０１に格納されている複数のパターン画像を読み出して、切り替えて表示するようにしたものである。なお、複数のパターン画像は、予め定められた順番で表示することが好ましいが、表示部３０２に表示したパターン画像、もしくは撮影部３０３が撮影した画像内に含まれるパターン画像から、各パターン画像を識別可能な場合には、表示部３０２が各パターン画像を表示する順番は問わない。ここでは、表示部３０２の表示デバイスの表示面の向き等は、パターン画像の表示時と、第一の画像の表示時とで、変更しないものとする。
【０１２８】
撮影部３０３は、上記実施の形態１において説明した、第二の画像を撮影する撮影部１０３において、さらに、表示部３０２がディスプレイ等に表示しているパターン画像を含む画像を撮影するようにしたものである。撮影部３０３は、表示部３０２が画像を表示する領域とともに、それ以外の領域を含む領域の画像を撮影してもよい。また、表示部３０２が、複数のパターン画像を切り替えて表示する場合、切り替えて表示部３０２に表示される複数のパターン画像を含む各画像を、それぞれ撮影する。また、撮影部３０３は、表示部３０２が表示しているパターン画像のうちの、複数の目印画像を含む一部の領域のみを撮影してもよい。撮影部３０３は、複数のフレーム画像を備えた動画像を撮影してもよいし、静止画像を撮影してもよい。
【０１２９】
上述したように複数のパターン画像が切り替えられて表示される場合、撮影部３０３は、パターン画像が切り替える毎に静止画像を撮影してもよいし、切り替えられた全てのパターン画像を含む動画像を撮影してもよい。例えば、撮影部３０３は、表示部３０２から、表示しているパターン画像の切り替えを行うことを示す情報を受け付けるようにし、切り替えを行う情報を受け付けた場合に、静止画像を撮影してもよい。また、撮影部３０３は、切り替えが行われたことを示す情報を、撮影している動画像のフレームやヘッダ等に付与してもよい。この情報を参照することで、パターン画像の切り替えが行われたタイミングを判断することができる。撮影部３０３は、撮影した画像を、撮影画像格納部３０４に蓄積する。撮影部３０３は、撮影したパターン画像の表示順番を示す情報を構成して、撮影した画像である撮影画像に対応付けて、撮影画像格納部３０４等に蓄積してもよい。ここでは、撮影部３０３は、パターン画像の撮影時と、第二の画像の撮影時とで、撮影領域等を固定して利用される。
【０１３０】
撮影画像格納部３０４には、撮影部３０３が撮影した、表示部３０２がディスプレイ等に表示しているパターン画像を含む画像が格納される。ここでは、具体的には、撮影画像格納部３０４には、画像受付部１０４が受け付けたパターン画像を含む画像が蓄積される。撮影画像格納部３０４は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
【０１３１】
目印画像検出部３０５は、撮影部３０３が撮影した画像内における目印画像を検出する。撮影部３０３が、表示部３０２に切り替えて表示されたパターン画像を撮影した場合、目印画像検出部３０５は、撮影部３０３が撮影した、表示部３０２が表示した各パターン画像を含む静止画像毎に、画像内における各目印画像を検出する。あるいは、目印画像検出部３０５は、表示部３０２が表示した各パターン画像を撮影部３０３が撮影した動画像のうちの、各パターン画像が撮影されている部分から、それぞれ１フレームを取り出して、それぞれ画像内における各目印画像を検出する。１フレームを取り出す代わりに複数フレームを取り出して、複数フレームを平均した１フレーム分の合成画像を予め構成してもよい。
【０１３２】
目印画像検出部３０５は、結果的に、全てのパターン画像から目印画像を検出できればよく、例えば、全てのパターン画像について目印画像を検出する代わりに、一つのパターン画像について目印画像を検出し、他のパターン画像については、その検出した位置と同じ位置に、目印画像が検出されたものとしてもよく、このような場合においても、各パターン画像について目印画像を検出したことと考える。
【０１３３】
目印画像検出部３０５は、例えば、予めメモリ等に蓄積しておいた目印画像に用いられる複数の色の情報を読み出し、各パターン画像を含む静止画像、もしくは１フレームの画像内において、画素毎に、目印画像に用いられているいずれかの色と同じか、もしくは目印画像の色に近いか否かを判断し、目印画像の色と同じ画素、もしくは近い画素が連続して隣接している領域が検出された場合に、この領域内の画像を、撮影部３０３が撮影した画像内における目印画像として検出する。
【０１３４】
目印画像検出部３０５は、検出した目印画像を指定する情報を、例えば、図示しないメモリ等の記憶媒体等に蓄積する。検出した目印画像を指定する情報は、目印画像が指定できる情報であればよく、例えば、目印画像を構成する各画素の座標情報、目印画像を代表する画素、例えば中心の画素等の座標情報や、目印画像の輪郭を指定する座標情報等である。目印画像検出部３０５は、各目印画像に対して、管理のための識別情報等を対応付けてメモリ等に蓄積してもよい。
【０１３５】
なお、複数のパターン画像の目印画像として利用される２色の組み合わせが、前記パターン画像毎に互いに異なっている場合、目印画像検出部３０５は、各パターン画像から検出した目印画像に用いられている色の組み合わせを取得し、当該色の組み合わせを用いて撮影画像内のパターン画像を識別したり、撮影画像内のパターン画像が配列される順番を取得するようにしてもよい。例えば、予め各パターン画像と、各パターン画像に用いられる２色の色の組み合わせを示す情報とを対応付けた判断用の情報を用意しておき、この情報の色の組み合わせの中から、撮影画像内の目印画像に用いられている色の組み合わせと一致する色の組み合わせを検索し、一致する組み合わせに対応づけられたパターン画像が、撮影画像内のパターン画像であると判断する、または識別するようにすればよい。
【０１３６】
目印画像検出部３０５は、通常、ＭＰＵやメモリ等から実現され得る。目印画像検出部３０５の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【０１３７】
対応管理情報格納部３０７には、画像格納部３０１に格納されている複数のパターン画像における複数の目印画像の配置されている位置と、当該配置されている位置における色の出現パターンとの対応を示す情報である対応管理情報が格納される。目印画像の配置された位置は、例えば、各パターン画像内における目印画像が配置されている位置の座標で表すようにしてもよい。また、表示部３０２の表示領域内における、目印画像が表示される座標で表すようにしてもよい。目印画像の配置された位置を示す情報は、目印画像の位置を特定できる情報であればよく、例えば、目印画像の中心の座標情報等である。また、目印画像の輪郭等を指定する情報等であってもよい。
【０１３８】
目印画像の配置されている位置における色の出現パターンとは、目印画像の色の出現するパターン、言い換えれば変化のパターンである。例えば、出現パターンは、各目印画像が配置されている位置における色の順列または組み合わせである。例えば、出現パターンは、複数のパターン画像を予め設定されている所定の順番で並べた場合における、各目印画像の表示位置において表示される目印画像の色の出現する順列である。また、例えば、出現パターンは、複数のパターン画像の、各目印画像の配置されている位置から、目印画像を取得した場合の、当該取得した目印画像の色の組み合わせであってもよい。
【０１３９】
なお、色の出現パターンは、色の値や名称等の変化する順番や組み合わせを並べて表した情報であってもよい。例えば、出現パターンは、赤、黄、録、赤、青等で表される。また、色の情報等を数値に置き換えたりした値の変化する順番を表した情報であってもよいし、１つのパターン内において目印画像として利用される２色の色を、２値の値で表した場合の２値の出現するパターンであってもよい。
【０１４０】
例えば、第一のパターン画像においては、赤色の目印情報を「０」、青色の目印情報を「１」とし、第二のパターン画像においては、緑色の目印情報を「０」、青色の目印情報を「１」とし、第三のパターン画像においては、黄色の目印情報を「０」、青色の目印情報を「１」とした場合においては、出現パターンは、「０１１」、「１０１」や、「０」が３つと「１」が５つの組み合わせ等で表される。対応する表示位置と出現パターンとは、例えばデータベースの一つのレコードの、二つの属性値として管理される。対応管理情報格納部３０７は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
【０１４１】
対応情報取得部３０６は、撮影部３０３が撮影した画像内における目印画像の位置と、目印画像の予め指定されている表示位置との対応を示す情報である対応情報を取得する。例えば、対応情報取得部３０６は、目印画像検出部３０５が検出した各目印画像から、同じ位置において検出された目印画像についての色の出現パターンを取得し、当該色の出現パターンが取得された、撮影部３０３が撮影した画像内の位置と、当該色の出現パターンと一致する色の出現パターンを有する複数のパターン画像における目印画像の表示位置と、の対応を示す対応情報を取得する。ここでの一致は、完全一致であっても部分一致であってもよい。
【０１４２】
対応情報取得部３０６は、例えば、目印画像検出部３０５が各パターン画像について撮影した画像において検出した各目印画像の、色情報を取得する。そして、表示部３０２に表示された各パターン画像を撮影した画像を、予め指定された所定の順番に並べた場合における、目印画像検出部３０５が検出した目印画像のうちの、ほぼ同じ位置に検出された目印画像についての色の出現パターンを取得する。色の出現パターンは、上述したように、色の値や名称等の変化する順番を並べて表した情報であってもよいし、色の情報等を数値に置き換えたりした値の変化する順番を表した情報であってもよいし、１つの画像において目印画像として利用される２色の色を、２値の値で表した場合の２値の出現するパターンであってもよい。
【０１４３】
そして、対応情報取得部３０６は、この色の出現パターンと一致する色の出現パターンを有する一以上のパターン画像における目印画像が表示される位置の情報を取得する。具体的には、対応管理情報格納部３０７に格納されている対応管理情報から、対応情報取得部３０６が取得した撮影部３０３が撮影した画像における目印画像の色の出現パターンと一致する、パターン画像内の目印画像の色の出現パターンに対応付けられた目印画像の位置情報を取得する。そして、この取得した目印画像が表示される位置情報と、色の出現パターンが同じである目印画像検出部３０５が検出した目印画像の位置情報との対応を示す対応情報を取得する。
【０１４４】
対応情報は、具体的には、対応する目印画像が表示される位置情報と、目印画像検出部３０５が検出した撮影された画像における目印画像の位置情報とを対に持つ情報である。ここでの位置情報は、例えば座標情報である。なお、必ずしも、目印画像検出部３０５が検出した全ての目印画像の位置について、対応情報を取得する必要はない。また、対応情報取得部３０６は、通常、ＭＰＵやメモリ等から実現され得る。対応情報取得部３０６の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【０１４５】
補正パラメータ構成部３０８は、対応情報取得部３０６が取得した対応情報を用いて、補正パラメータを構成し、補正パラメータ格納部１０６に蓄積する。ここで述べる補正パラメータとは、上記実施の形態１において説明した補正パラメータと同様の補正パラメータであり、例えば、位置補正情報や、色補正情報である。この位置補正情報および色補正情報は、位置補正関数の係数や色補正関数の係数等であってもよいし、位置補正関数や色補正関数自身であってもよい。補正パラメータ構成部３０８は、通常、ＭＰＵやメモリ等から実現され得る。補正パラメータ構成部３０８の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【０１４６】
色情報取得手段３０８１は、撮影部３０３が撮影した画像内の複数の目印画像の色に関する情報である色情報と、対応情報取得部３０６が取得した対応情報が示す撮影部３０３が撮影した画像内の複数の目印画像に対応したパターン画像内の目印画像の色情報とを取得する。色情報取得手段３０８１は一つの目印画像が表示される位置についての色情報を取得してもよいし、複数の目印画像が表示される位置についての色情報を取得してもよい。ただし、色情報取得手段３０８１は、一のパターン画像と、当該パターン画像を表示部３０２が表示したものを撮影部３０３が撮影した画像とからそれぞれ色情報を取得する。
【０１４７】
また、色情報は、各目印画像内の一部、例えば一画素等の色情報であってもよいし、目印画像内の画素全体の色情報から最小二乗法等を用いて算出した色情報であってもよい。色情報取得手段３０８１は、通常、ＭＰＵやメモリ等から実現され得る。色情報取得手段３０８１の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【０１４８】
色補正情報取得手段３０８２は、色情報取得手段３０８１が取得した色情報を用いて、画像受付部１０４が受け付けた画像の色の補正に用いられる色補正情報を取得する。色補正情報とは、具体的には、色の補正に用いられる関数の係数等の値である。また、関数自身であってもよい。例えば、色情報取得手段３０８１が取得した色情報の値を、色を変換する関数に代入することで、色補正情報を算出することができる。これらの関数としては、上記実施の形態１と同様の色補正関数が用いられる。
【０１４９】
ここで述べる色の補正とは、最終的には、第一の画像と、第二の画像内の第二領域画像の色とを色あわせする補正である。ただし、ここでは、この補正に用いられる色補正情報として、撮影部３０３が撮影した画像の色を、撮影部３０３が撮影したパターン画像のオリジナルに対して色をあわせるための補正に用いられる色補正情報を用いるものとする。この場合の色の補正は、撮影画像とオリジナルのパターン画像との相対的な色の補正であればよく、撮影画像を、オリジナルのパターン画像に色あわせする補正であっても、オリジナルのパターン画像を、撮影画像に色あわせする補正であってもよい。
【０１５０】
色補正情報取得手段３０８２は、取得した色補正情報を、補正パラメータ格納部１０６に蓄積する。色補正情報取得手段３０８２は、通常、ＭＰＵやメモリ等から実現され得る。色補正情報取得手段３０８２の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【０１５１】
位置補正情報取得手段３０８３は、対応情報取得部３０６が取得した位置情報を用いて、画像受付部１０４が受け付けた画像の位置の補正に用いられる位置補正情報を取得する。
ここで述べる位置の補正とは、最終的には、第一の画像と、第二の画像内の第二領域画像の位置とを位置あわせする補正である。ただし、ここでは、位置補正情報として、撮影部３０３が撮影した画像を、撮影部３０３が撮影したパターン画像のオリジナルにあわせるための補正に用いられる位置補正情報を用いるものとする。ただし、この場合の位置の補正は、撮影画像とオリジナルのパターン画像との相対的な補正であればよく、撮影画像を、オリジナルのパターン画像にあわせる補正であっても、オリジナルのパターン画像を、撮影画像にあわせる補正であってもよい。
【０１５２】
この位置の補正は、通常は撮影画像の座標と、オリジナルのパターン画像の座標との間の座標変換である。位置補正情報とは、具体的には、表示部３０２が表示する画像を構成する各画素を、撮影部３０３が撮影した画像内の、表示部３０２が表示している画像内の位置に座標変換するための関数や、撮影部３０３が撮影した画像内の、表示部３０２が表示している画像内の画素を、表示部３０２が表示する画像内の位置に座標変換するための関数の係数等の値である。ただし、位置変換関数自身であってもよい。例えば、対応情報が示すパターン画像内の目印画像の位置の座標情報と、対応する撮影された画像内の目印画像の位置の座標情報とを、画像を座標変換する関数に代入することで、位置補正情報を算出することができる。
【０１５３】
座標変換する関数としては、例えば、アフィン変換の関数等がある。この場合、位置補正情報は、アフィン係数である。なお、関数は問わない。また、このような座標変換等を行う関数は、いわゆるモーフィング等の技術として公知である。位置補正情報取得手段３０８３は、取得した位置補正情報を補正パラメータ格納部１０６に蓄積する。位置補正情報取得手段３０８３は、通常、ＭＰＵやメモリ等から実現され得る。位置補正情報取得手段３０８３の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現してもよい。
【０１５４】
次に、画像処理装置３００の動作について説明する。なお、画像処理装置３００の動作のうちの、第一の画像を表示して、当該第一の画像を含む領域を撮影した第二の画像から、第一の画像に一致する領域を削除する動作については、上記実施の形態１と同様であるので、詳細な説明は省略する。
以下、画像処理装置３００の補正パラメータを取得する動作について図１６のフローチャートを用いて説明する。ここでは、２色のいずれかの色を有する目印画像を異なる位置に複数有するパターン画像を、ｐ（ｐ≧２、ｐは整数）枚用意しており、各パターン画像間においては、各目印画像は同じ位置に表示されるとともに、各パターン画像を予め指定された順番で切り替えて配列、あるいは表示した場合に、同じ表示位置に表示される各目印画像の色の出現パターンは、位置毎に互いに異なるよう設定されているものとする。また、各パターン画像において、目印画像が表示される位置、および目印画像として利用される色、および背景の色は予め指定されているものとする。背景の色としては通常は黒等が用いられる。
【０１５５】
（ステップＳ１６０１）表示部３０２は、カウンタｍに１を代入する。
（ステップＳ１６０２）表示部３０２は、ｍ番目のパターン画像を画像格納部３０１から読み出し、ディスプレイ等に表示する。
（ステップＳ１６０３）撮影部３０３は、表示部３０２が表示するｍ番目のパターン画像を撮影する。撮影部３０３は、パターン画像を静止画として撮影しても動画として撮影してもよい。撮影部３０３が撮影した画像は、画像受付部１０４により受け付けられ、撮影画像格納部３０４に蓄積される。なお、撮影部３０３は、撮影した順番を示す情報、あるいは撮影したパターン画像を識別する情報を、撮影した画像に対応付けて、蓄積してもよい。
【０１５６】
（ステップＳ１６０４）表示部３０２は、カウンタｍを１インクリメントする。
（ステップＳ１６０５）表示部３０２は、ｍがｐより大きいか否かを判断する。ｍがｐより大きい場合、ステップＳ１６０６に進み、大きくない場合、ステップＳ１６０２に戻る。
（ステップＳ１６０６）画像処理装置３００は、撮影部３０３が撮影した画像から、すなわち、撮影画像格納部３０４に格納されている各撮影画像から目印画像を検出する。目印画像を検出する処理の詳細については後述する。
（ステップＳ１６０７）画像処理装置３００は、補正パラメータを取得する。補正パラメータを取得する処理については後述する。そして、処理を終了する。
【０１５７】
なお、図１６のフローチャートにおいて、画像処理装置３００が、上記の処理を開始するトリガやタイミング等は問わない。例えば、表示部３０２により、第一の画像の表示が行われる直前や、表示部３０２のディスプレイ等や、撮影部３０３等が設置された時点で行われるようにしてもよい。
なお、図１６のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
【０１５８】
次に、図１７のフローチャートを用いて、ステップＳ１６０６に示した目印画像を検出する処理の詳細について説明する。
（ステップＳ１７０１）目印画像検出部３０５は、カウンタｎに１を代入する。
（ステップＳ１７０２）目印画像検出部３０５は、ｍ番目の撮影画像を撮影画像格納部３０４から読み出して取得する。
【０１５９】
（ステップＳ１７０３）目印画像検出部３０５は、ｍ番目の撮影画像から複数の目印画像の位置の検出処理を行う。例えば、目印画像の各画素の色を、順次予め目印画像として指定されている複数の色と比較していき、比較の結果、目印画像のいずれかの色であると判断された場合、その画素、およびその画素と同様の色と判断される色が隣接している画素の領域を、一つの目印画像の領域であると判断する。隣接していない領域は、異なる目印画像の領域であると判断する。目印画像を検出するための、画素の色の判断等は、例えば、ＲＧＢ値等の色の成分の情報等に閾値を設けて、画素の色成分がこれらの閾値を超えるか否か等で判断することが好ましい。
【０１６０】
パターン画像をディスプレイ等に表示し、他ものを撮影した撮影画像向の目印画像を構成する画素の色と、オリジナルのパターン画像内の目印画像を構成する画素の色とは、色成分自体が欠落したり、反転したりしてしまうことがないまでも、色成分の値が大きく変化することが考えられるため、このように閾値等を用いて色の範囲を設定することで、撮影画像内の画素が、目印画像のオリジナルの色と同じ色とみなすか否かを判断することが好適である。また、このような処理において、閾値により画素の色成分を「０」、「１」等に２値化して、２値化した情報から目印画像内の画素であるか否かを判断してもよい。目印画像を検出する処理は、上記のような処理に限るものではない。例えば、特定の色域や類似する形状等を有する画像を検出するための、パターンマッチング等の技術を利用して、上記のような目印画像と同じであると考えられる位置を検出するようにしてもよい。このような技術は公知技術であるので説明は省略する。
【０１６１】
（ステップＳ１７０４）目印画像検出部３０５は、ステップＳ１７０３で検出した各目印画像の位置の情報と、当該目印画像の色の情報とを取得し、これらを対応付けて出力、例えば、図示しないメモリ等の記憶媒体に蓄積する。また、このとき、各目印画像を識別する識別情報を対応付けて出力することが好ましい。目印画像の位置の情報は、撮影画像内における、目印画像の領域内の中心座標等が用いられる。ただし、目印画像の位置の情報は、目印画像の位置を指定可能な情報であれば、目印画像の輪郭を定義する情報や、目印画像の全てや一部の画素の座標等であってもよい。また、目印画像の色の情報は、目印画像内の特定の画素、例えば、目印画像の領域内の中心の画素の色の情報であってもよいし、目印画像内の全てや一部の画素の色の代表値、例えば平均値や中央値等の情報であってもよい。ここでの色の情報は、色のＲＧＢ成分の色強度の値等である。
【０１６２】
（ステップＳ１７０５）目印画像検出部３０５は、ステップＳ１７０４において出力したｎ番目の撮影画像内の目印画像の色の組み合わせを示す情報、すなわち目印画像として用いられている２つの色の情報を取得する。ここで述べる色の情報は、ＲＧＢ値等の色の成分の値であってもよいし、上述した２値化した色の成分で表された情報であっても良い。なお、目印画像の色が一つだけであった場合、この色の組み合わせの情報は、ある一つの色のみで、他の色がないということを示す情報であってもよい。
【０１６３】
（ステップＳ１７０６）目印画像検出部３０５は、ステップＳ１７０５で取得した色の組み合わせを示す情報と、予めメモリ等に用意された画像格納部３０１に格納されているパターン画像の配列順番と、当該パターン画像内の目印画像に用いられる２つの色との組み合わせを示す情報とを比較して、撮影画像内のパターン画像の配列される順番を示す情報を取得する。目印画像の色が一色のみしかない組み合わせについても、予め配列される順番を設定しておくようにして、目印画像が一色の場合でも配列される順番を示す情報を取得できるようにしてもよい。
【０１６４】
（ステップＳ１７０７）目印画像検出部３０５は、ｍ番目の撮影画像内の各目印画像の色情報を２値化する。目印画像検出部３０５は、例えば、予め用意された目印画像の２つの色の組み合わせと、これらの色を２値化する際にいずれの値を、「１」、「０」等に変換するかを指定する情報とを用いて、各目印画像の色の情報を「１」、「０」の２値のいずれかに変換する。また、撮影画像内のパターン画像の配列される順番を示す情報と、この配列される順番が示すパターン画像に含まれる２つの色を、それぞれ「１」、「０」等に変換するかを指定する情報とを用いて、各目印画像の色の情報を、「１」、「０」の２値のいずれかに変換してもよい。目印画像検出部３０５は、２値化した色の情報を目印画像の位置情報と対応付けてメモリ等の記憶媒体に蓄積する。
【０１６５】
（ステップＳ１７０８）目印画像検出部３０５は、カウンタｍがｐ以上であるか否かを判断する。ｐ以上であれば、上位の関数、すなわち図１６のフローチャートにリターンする。ｐ以上でなければ、ステップＳ１７０９に進む。
（ステップＳ１７０９）目印画像検出部３０５は、カウンタｍを１インクリメントする。
（ステップＳ１７１０）目印画像検出部３０５は、ｍ番目の撮影画像を撮影画像格納部３０４から読み出して取得する。
【０１６６】
（ステップＳ１７１１）目印画像検出部３０５は、ステップＳ１７０３においてｍ＝１番目の撮影画像から検出した複数の目印画像の位置を示す情報を、ｍ番目の撮影画像内の複数の目印画像の位置を示す情報として用いて、ステップＳ１７０４と同様に、ｍ番目の撮影画像内の各目印画像の色の情報を取得して、目印画像の位置の情報と対応付けて出力、例えば、図示しないメモリ等の記憶媒体に蓄積する。そして、ステップＳ１７０５に戻る。
【０１６７】
なお、図１７のフローチャートにおいては、ｍ＝１の撮影画像から取得した目印画像の位置の情報を、ｍ＝１以外の撮影画像の目印画像の位置の情報として利用しているが、これは、撮影部３０３と表示部３０２のディスプレイの位置等が固定されている場合に、限られる。このようにｍ＝１の撮影画像から取得した目印画像の位置の情報を、ｍ＝１以外の撮影画像の目印画像の位置の情報として利用する代わりに、各撮影画像毎にステップＳ１７０３と同様の目印画像の検出処理を行うようにし、最終的に各撮影画像の一致する目印画像同士をパターンマッチング等の技術を用いて検出して対応付けるようにしてもよい。
【０１６８】
なお、目印画像を検出しやすくするために、予め他のパターン画像と目印画像の位置が同じであると共に、検出しやすい色の目印画像を有する位置検出用のパターン画像を用意し、この位置検出用のパターン画像を撮影した撮影画像をｍ＝１番目の撮影画像として用いて、目印画像の位置検出だけを最初に検出するようにしてもよい。検出しやすい色の目印画像を有する位置検出用のパターン画像とは、目印画像の位置を検出するためのみに用いられる画像であり、例えば、黒の背景に白色の目印画像を有する画像のように、背景とのコントラストが強い画像等である。
なお、図１７のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
【０１６９】
次に、図１８のフローチャートを用いて、ステップＳ１６０７に示した補正パラメータを検出する処理の詳細について説明する。
（ステップＳ１８０１）対応情報取得部３０６は、カウンタｉに１を代入する。
【０１７０】
（ステップＳ１８０２）対応情報取得部３０６は、撮影画像内のｉ番目の目印画像が表示された位置について、目印画像の色の出現パターンを取得する。具体的には、図１７のステップＳ１７０６において取得した撮影画像内のパターン画像の配列される順番を示す情報にそって、複数の撮影画像を配列した場合における、撮影画像内のｉ番目の目印画像が表示された位置について、目印画像の色の出現パターン、ここでは例として、各目印画像の色を２値化した値の現れる順列を取得する。例えば、仮に１番目のパターン画像を撮影した撮影画像内のｉ番目の目印画像が表示された位置の色が「０」、２番目のパターン画像を撮影した撮影画像内のｉ番目の目印画像が表示された位置の色が「１」、３番目のパターン画像を撮影した撮影画像内のｉ番目の目印画像が表示された位置の色が「０」であったとすると、１番目から３番目までのパターン画像を撮影した撮影画像について、対応情報取得部３０６が取得するｉ番目の目印画像が表示された位置における色の出現パターンは、「０１０」となる。
【０１７１】
（ステップＳ１８０３）対応情報取得部３０６は、対応管理情報格納部３０７に格納されているオリジナルの複数のパターン画像における目印画像の位置と、目印画像の色の出現パターンとの対応関係を示す対応管理情報を用いて、撮影画像内のｉ番目の目印画像が表示された位置における目印画像の色の出現パターンに対応するパターン画像内の目印画像の位置を取得する。具体的には、対応情報取得部３０６は、撮影画像内のｉ番目の目印画像が表示された位置における目印画像の色の出現パターンと一致する出現パターンを対応管理情報内で検索し、この一致する出現パターンに対応するパターン画像における目印画像の位置の情報を取得する。
【０１７２】
（ステップＳ１８０４）対応情報取得部３０６は、撮影画像内のｉ番目の目印画像が表示された位置、具体的には座標情報等の位置の情報と、ステップＳ１８０３において取得した、画像格納部３０１内に格納されているパターン画像内の目印画像が表示される位置、具体的には座標情報等の位置の情報とを対応付けた対応情報を取得する。
（ステップＳ１８０５）対応情報取得部３０６は、ステップＳ１８０４において取得した対応情報を出力、例えば、メモリ等の記憶媒体に蓄積する。
（ステップＳ１８０６）対応情報取得部３０６は、カウンタｉを１インクリメントする。
（ステップＳ１８０７）対応情報取得部３０６は、撮影画像に対してｉ番目の位置情報があるか否かを判断する。ｉ番目の位置情報がある場合、ステップＳ１８０２に戻り、ｉ番目の位置情報がない場合、ステップＳ１８０８に戻る。
【０１７３】
（ステップＳ１８０８）色情報取得手段３０８１は、画像格納部３０１に格納されているパターン情報の目印情報の色の情報と、当該パターン情報を撮影した撮影情報内のパターン情報の目印情報に対して対応情報で対応付けられた目印情報の色の情報とをそれぞれ取得する。すなわち、配列順番が同じパターン画像と撮影画像からそれぞれ対応する目印画像の色の情報を取得する。ここで取得する色の情報は例えば色の成分の値である。ここでは一対の目印情報の色の情報のみを取得してもよいし、パターン画像内の複数の目印情報の色の情報と、この複数の目印情報に対応する撮影情報内の複数の目印情報の色の情報とをそれぞれ取得してもよい。
【０１７４】
（ステップＳ１８０９）色補正情報取得手段３０８２は、ステップＳ１８０８において取得した色情報を用いて、撮影画像内のパターン画像の色の情報を、パターン画像のオリジナルの色の情報に補正するための関数である色補正関数の係数等の情報である色補正情報を算出する。なお、ステップＳ１８０８において、複数の位置の色の情報を取得した場合、最小二乗法等を用いて色補正情報を算出してもよい。
（ステップＳ１８１０）色補正情報取得手段３０８２は、ステップＳ１８０９において算出した色補正情報を補正パラメータ格納部１０６に蓄積する。
【０１７５】
（ステップＳ１８１１）位置補正情報取得手段３０８３は、ステップＳ１８０４において取得された対応情報を用いて、撮影画像内のパターン画像の位置の情報と、パターン画像のオリジナルの位置の情報との関係を示す関数である位置補正関数の係数等の情報である位置補正情報を算出する。位置補正関数としては、公知の位置補正関数が利用可能である。
（ステップＳ１８１２）位置補正情報取得手段３０８３は、ステップＳ１８１１において算出した位置補正情報を補正パラメータ格納部１０６に蓄積する。そして、処理を終了する。
なお、図１８のフローチャートは、電源オフや処理終了の割り込みにより処理を終了する。
【０１７６】
以下、本実施の形態における画像処理装置の具体的な動作について説明する。画像処理装置３００の概念図を図１９に示す。ここでは、例として、画像処理装置３００が、表示部３０２の表示デバイスであるディスプレイ３０２ａと撮影部３０３以外は、コンピュータ３００ａにより実現されている場合について説明する。ただし、ディスプレイ３０２ａと撮影部３０３以外もハードウェア等で実現されていてもよい。例えば、この画像処理装置３００は、上記実施の形態１の図５と同様にテレビ会議端末を構成しているものとする。
ここでは、各パターン画像内の目印画像が、それぞれ２色のいずれか一方の色を有するものとする。目印画像の形状は円形であるとする。また、ここでは例として、パターン画像のサイズは、表示部３０２に通常表示される他の画像のサイズ、例えばテレビ会議等の画像のサイズと同じサイズであるとする。
【０１７７】
図２０は、パターン画像別の目印画像の色の組み合わせを管理するパターン画像色管理表である。パターン画像色管理表は、「パターンＩＤ」、「０：カラー」、「１：カラー」という属性を有している。「パターンＩＤ」は対応するパターン画像の識別情報である。このパターンＩＤはパターン画像の配列順も示しているものとする。「０：カラー」は、２値化の際に「０」と判断される色を示す。「１：カラー」は２値化の際に「０」と判断される色を示す。「０：カラー」、「１：カラー」がパターン画像の目印画像の２つの色を示す。ここでは例として、目印画像の色はＲＧＢ成分の組み合わせにより表されているとともに、ＲＧＢ成分をそれぞれ２値化した値「０」、または「１」で示している。
【０１７８】
例えば、目印画像のＲ，Ｇ，Ｂの色成分が、それぞれ実際には８ビットで表されていたとすると、Ｒ，Ｇ，Ｂの色成分の値が２５６である場合に、それぞれの成分を「１」で表し、２５６未満である場合、それぞれの成分を「０」で表している。すなわち、「０：カラー」および「１：カラー」は、それぞれ、Ｒ成分とＧ成分とＢ成分と２値の値の配列で表される。例えば、赤色は、（１００）、青色は、（０１０）、緑色は、（００１）で表される。なお、ここでは、各色成分を、「２５６」を閾値として２値化したが、閾値は「２５６」でなくてもよい。
【０１７９】
図２０においては、例えば、「パターンＩＤ」が「１」であるパターン画像には、（００１）と（０１０）の２つの色が目印画像として用いられていることを示している。なお、ここでは、パターン画像の目印画像以外の領域、すなわち背景画像の色は黒色（０００）であるとする。
また、各パターン画像内においては、Ａ（Ａは２以上の整数）個の目印画像が互いに重ならないように配置されており、各パターン画像間においては、Ａ個の目印画像が同じ位置に配置されているものとする。また、パターン画像を予め設定された順番に配列した場合に、パターン画像内の目印画像が配置されている各位置に出現する目印画像の色の出現パターンは、位置毎に互いに異なるものであるとする。
【０１８０】
すなわち、このような条件を満たすためには、パターン画像数をＢ（Ｂは２以上の整数）とした場合、
【０１８１】
２Ｂ≧Ａ
【０１８２】
の関係を満たしているようにする。この具体例においては、Ａ＝６４個の目印画像が配置されたパターン画像がＢ＝６枚用意されている場合について説明する。また、ここでは、各目印画像が例えば１００ピクセル間隔で配置されているものとする。また、各目印画像の直径は例えば１０ピクセルであるとする。
【０１８３】
ここで利用される６枚のパターン画像を図２１に模式的に示す。ここでは、各パターン画像の目印画像の色をそれぞれ図２０に示したパターン画像色管理表を用いて２値化した色で表している。すなわち、例えば、図２１においては、「パターンＩＤ」が「２」のパターン画像については、（００１）の色を「０」、（０１０）の色を「１」に置き換えて示している。図２１に示したパターン画像においては、パターン画像を「パターンＩＤ」の値の昇順に配列した場合、例えば、右上隅の目印画像の配置された位置における色の出現パターンは、「０００１１１」となる。
【０１８４】
各パターン画像の各目印画像が配置される位置は、パターン画像内の座標情報で表される。ここで、図２１に示したようパターン画像を「パターンＩＤ」の値の昇順に配列した場合における、目印画像の配置される位置の情報と、目印画像の色の出現パターンとの関係を示す情報である対応管理情報を図２２に示す。対応管理情報は、「座標」と「出現パターン」という属性を有している。「座標」は、各パターン画像内の目印画像の表示される位置であり、ここでは目印画像の中心の座標情報を示す。また、「出現パターン」は、パターン画像毎に２値化した色の出現パターンを示す。
【０１８５】
まず、補正パラメータを取得する指示を、画像処理装置３００に対して図示しない受付部等を介して与えると、表示部３０２は、パターン画像のうちの１番目に表示するパターン画像を画像格納部３０１から読み出し、ディスプレイ３０２ａに表示する。
図２３は、ディスプレイ３０２ａに表示した１番目のパターン画像の表示例を示す図である。ここでは１番目のパターン画像として、「パターンＩＤ」が「３」であるパターン画像を表示しているものとする。目印画像２３１は、色が「０：カラー」属性に相当する色（００１）である目印画像とし、目印画像２３２は、色が「１：カラー」属性に相当する色（１００）である目印画像であるとする。
【０１８６】
撮影部３０３は、表示部３０２がディスプレイ３０２ａに表示したパターン画像を撮影し、撮影した画像を撮影する。撮影した画像である撮影画像は、画像受付部１０４により受け付けられ撮影画像格納部３０４に蓄積される。ここでは撮影し蓄積した画像は、動画像の１フレームであるとする。各パターン画像の表示時間は、撮影部３０３が撮影を完了できる時間であれば問わない。
【０１８７】
図２４は、撮影部３０３が撮影した図２３に示すようにディスプレイ３０２ａに表示されたパターン画像を撮影した撮影画像を示す図である。
１番目のパターン画像の表示、および撮影が終了すると、さらに残りのパターン画像も順次表示、および撮影が行われる。なお、表示部３０２が表示するパターン画像の表示順番と、上述した「パターンＩＤ」の順番とは一致している必要はない。ここでは、電源の投入をトリガとしてパターン画像の表示を開始したが、表示開始のトリガ等は問わない。
【０１８８】
次に、目印画像検出部３０５は、図２４に示すような撮影画像の一つ、ここでは一番目に表示されたパターン画像を撮影した撮影画像を読み出し、目印画像を検出する処理を行う。ここでは、目印画像に使用される色が、（００１）、（０１１）、（１００）、（１１０）、（１０１）、（１１１）のいずれかであることが分かっているため、撮影画像の各画素について、上記のいずれかの色に相当するか否かを順次判断して、上記のいずれか一つの色に相当する色を有する画素が隣接する領域を検出する。
【０１８９】
なお、ディスプレイ３０２ａの表示領域以外の部分の色に起因する目印画像の誤検出を防ぐためには、予めディスプレイ３０２ａの表示領域を、ディスプレイの枠や背景等を検出することで検出したり、表示領域についての指定を入力デバイス等を介して受け付けることにより、この表示領域内のみについて、目印画像の検出を行うようにしてもよい。ただし、撮影画像は、パターン画像を一旦ディスプレイ３０２ａに表示した画像を撮影部３０３で撮影したものであるため、撮影画像内のパターン画像の目印画像の色は、オリジナルのパターン画像の色とは色成分の値が異なっていることが考えられる。このため、ここでは、このような色の変化を考慮した色成分毎の閾値を指定して、この閾値により、撮影画像内の画素の色成分を２値化して、上記の目印画像の色であるか否かを判断するようにする。
【０１９０】
例えば、Ｒ，Ｇ，Ｂ成分のそれぞれの閾値を「１８０」に設定して、各画素のそれぞれの色成分について、「１８０」以上のものを「１」、「１８０」未満のものを「０」に変換し、画素が、上記のいずれかの色と一致するか否かを判断する。例えば、Ｒ，Ｇ，Ｂ成分がそれぞれ１３，４０，１５０であった場合、その画素の色は（０００）に変換され、上記のいずれの色にも一致しないため、目印画像を構成する画素でないと判断される。また、例えば、Ｒ，Ｇ，Ｂ成分がそれぞれ２３０，８０，１９２であった場合、その画素の色は（１０１）に変換され、上記の色の一つに一致するため、目印画像を構成する画素であると判断される。そして、同じ色に判断される画素が隣接する領域を、それぞれ目印画像の領域と判断して、その領域の中心の画素の座標と目印画像の色の値とを図示しないメモリ等の記憶媒体に蓄積する。なお、目印画像の中心の画素の座標は、ここでは、目印画像のｘ軸方向の長さが最も長い径と、ｙ軸方向の長さが最も長い径との交わる位置の画素の座標に設定される。
【０１９１】
さらに、一の撮影画像について目印画像を検出している際に、目印画像が取り得る２つの色が検出された場合、この２つの色を図２０に示したパターン画像色管理表の管理している色の組み合わせ、すなわち「０：カラー」と「１：カラー」との組み合わせと比較して、一致するレコードの「パターンＩＤ」の属性値を取得する。すなわち、撮影画像は、取得された「パターンＩＤ」の属性値に対応付けられたパターン画像を撮影した画像であると判断されることとなる。例えば、二つの目印画像の色が、（００１）と（１００）であった場合、図２０のパターン画像色管理表から「パターンＩＤ」の値として「３」が取得される。そして、この取得した「パターンＩＤ」の属性値を、同じ撮影画像から検出した全ての目印画像の位置等を示す情報に対応付けて蓄積する。さらに、目印画像検出部３０５は、図２０のパターン画像色管理表を用いて、目印画像の二つの色を、２値化する。
【０１９２】
具体的には、ここでは、二つの目印画像の色が（００１）と（１００）であり、この二つの色の組み合わせを含むレコード、すなわち「パターンＩＤ」の属性値が「３」であるレコードでは、（００１）は「０：カラー」属性であり、（１００）は「１：カラー」属性であることから、（００１）は、「０」に変換され、（１００）は「１」に変換される。そして、この２値化した色の値も、同じ撮影画像から検出した全ての目印画像の位置等を示す情報に対応付けて蓄積する。
【０１９３】
次に、他の５つの撮影画像、ここでは、「パターンＩＤ」が「３」を除くパターン画像を撮影した撮影画像についても、それぞれ上記と同様の処理を繰り返す。ただし、ここでは、パターン画像の撮影の際において、撮影部３０３等の撮影方向や撮影領域等が固定されているため、目印画像を検出する処理は省略し、一番目の撮影画像について検出した目印画像の領域を示す情報を、そのまま他の撮影画像の目印画像の領域を示す情報として利用する。従って、異なる撮影画像の、同じ位置の目印画像の位置を示す座標は同じ値となる。
【０１９４】
図２５は、撮影画像から検出された目印画像の位置や色等を管理する目印画像管理表である。目印画像管理表においては、「パターンＩＤ」、「座標」、「色」、「２値化色」である。「パターンＩＤ」は、一の撮影画像において検出された目印画像に使用されている２つの色の組み合わせを用いて得られた「パターンＩＤ」である。「座標」は、目印画像の位置を目印画像の中心座標で示した値である。ここでは、座標を画像の左上隅を（０，０）として、ピクセル単位のｘｙ座標値で表している。「色」は目印画像の色を二値化した色成分で表した値である。「２値化色」は、目印画像の色を図２０に示したパターン画像色管理表に基づいて、撮影したパターン画像に応じて２値化した値である。なお、「座標」の値は説明のための値であり、実際の値等とは異なるものとする。
【０１９５】
次に、対応情報取得部３０６は、目印画像検出部３０５が検出した目印画像が配置されている位置毎に、目印画像の色を二値化した値、すなわち図２５の「２値化色」の属性値を、対応する「パターンＩＤ」属性の昇順に並べた配列パターンを取得する。この配列パターンが、撮影画像内における各目印画像の配置される位置における色の出現パターンである。対応情報取得部３０６は取得した出現パターンを、目印画像の位置、ここでは座標と対応付けてメモリ等に一時記憶する。例えば、座標（１２０，１４０）の位置において得られる出現パターンは、「０１００１０」となる。
【０１９６】
図２６は、メモリ等に一時記憶された撮影画像における目印画像の位置と色の出現パターンとを管理する出現パターン管理表である。出現パターン管理表は「目印位置ＩＤ」、「座標」、「撮影出現パターン」という属性を有している。「目印位置ＩＤ」は、各目印画像の配置される位置を管理するための識別情報、「座標」は、目印画像の配置される位置の座標、ここでは目印画像の中心の画素の座標、「撮影出現パターン」は、２値化した色の値を「パターンＩＤ」属性の昇順に並べたパターンである。
【０１９７】
ここで、対応管理情報格納部３０７には、図２２に示したような対応管理情報が予め格納されているものとする。この対応管理情報は、ユーザにより設定されたものであってもよいし、パターン画像から、上記のような目印画像検出部３０５および対応情報取得部３０６等を用いて、上記と同様の処理により取得した情報であってもよい。
対応情報取得部３０６は、図２６に示したような出現パターン管理表の各レコードについて、「撮影出現パターン」の属性値と、一致する「出現パターン」属性値を有するレコードを、図２２に示した対応管理情報において検索する。そして、一致するレコードの「座標」属性値と、出現パターン管理表の「座標」属性値とを対応付けていく。そして、対応付けて得られた対応情報を、対応情報取得部３０６が図示しないメモリ等の記憶媒体に蓄積する。
【０１９８】
図２７は、出力部１０９が出力する対応情報を示す図である。対応情報は、「オリジナル座標」と「撮影画像内座標」という属性を有している。「オリジナル座標」は、オリジナル、すなわち画像格納部３０１に格納されているパターン画像内における目印画像が配置される座標である。「撮影画像内座標」は、撮影画像内において、「オリジナル座標」に配置された目印画像が配置されている位置を示す座標である。同じレコードの「オリジナル座標」と「撮影画像内座標」とが互いに対応している座標である。すなわち、撮影画像のパターン画像が表示されている部分は、「オリジナル座標」の示す座標を、「撮影画像内座標」が示す座標に座標変換して得られる画像であると考えることができる。
【０１９９】
次に、色情報取得手段３０８１は、パターン画像の一つと、当該パターン画像を撮影した撮影画像とから、それぞれ、対応情報が示している対応している目印画像の座標の色情報を取得する。具体的には、パターン画像からは対応情報の各レコードの「オリジナル座標」が示す座標の画素の色情報を取得し、撮影画像からは「オリジナル座標」と同一のレコードの「撮影画像内座標」が示す座標の画素の色情報をそれぞれ取得する。ここで取得する色情報は、色の補正のために用いられる情報であるため、Ｒ，Ｇ，Ｂ成分のそれぞれの成分値、色が２４ビットカラーで表される場合、例えば８ビットの値、である必要がある。そして、色情報取得手段３０８１がパターン画像と撮影画像とからそれぞれ取得した対応する座標の色を用いて、色補正情報取得手段３０８２が、撮影画像の色をオリジナルのパターン画像の色に補正するための、色を補正する関数である色補正関数のパラメータである色補正情報を算出する。
【０２００】
例えば、このような色補正関数は、上記実施の形態１において具体例において説明した色補正情報と同じものが用いられるとする。すなわち、撮影画像の画素値を（ｒ，ｇ，ｂ）、オリジナルのパターン画像の対応する画素値を（Ｒ，Ｇ，Ｂ）とすると、
【０２０１】
Ｒ＝ａ１ｒ＋ａ２ｇ＋ａ３ｂ、
Ｇ＝ｂ１ｒ＋ａ２ｇ＋ａ３ｂ、
Ｂ＝ｃ１ｒ＋ａ２ｇ＋ａ３ｂ
【０２０２】
で表される。なお、ａ１〜ａ３、ｂ１〜ｂ、ｃ１〜ｃ３は、色補正関数の係数、すなわち色補正情報である。
【０２０３】
この色補正関数に対して、色情報取得手段３０８１が取得したパターン画像と撮影画像の、対応している画素の色情報を代入して係数の値を求めることで、撮影画像の色をオリジナルのパターン画像の色に補正するための色補正関数を得ることができる。色補正情報取得手段３０８２は、取得した色補正関数の係数を、色補正情報として補正パラメータ格納部１０６に蓄積する。ここでは、４箇所以上の対応する画素の色情報を、色情報取得手段３０８１が取得するための、上記の係数を算出する際に最小二乗法等を用いることが好適である。
【０２０４】
ただし、ここで示した色補正関数を得るためには、通常は色の異なる３箇所の対応する画素の色情報が必要となる。この色補正関数を用いることで、撮影画像全体の色を、オリジナルのパターン画像と同様の色に補正可能となる。すなわち、表示部３０２により表示される画像と、撮影部３０３が撮影した画像内において表示部に表示された画像との色をあわせることが可能となる。なお、ここでは色補正関数として、撮影画像の色をパターン画像の色に補正する関数を用いた場合について説明したが、用途によっては、パターン影画像の色を撮影画像の色に補正する関数を用いるようにしてもよい。
【０２０５】
次に、位置補正情報取得手段３０８３は、対応情報を用いて、位置を補正する関数である位置補正関数のパラメータである位置補正情報を取得する。例えば、ここで用いられる位置補正関数は、上記実施の形態１において具体例において説明した位置補正情報と同じものが用いられるとする。すなわち、撮影画像内の画素の位置を（ｘ、ｙ）、オリジナルのパターン画像内の画素の位置を（Ｘ，Ｙ）とすると、位置補正関数は、
【０２０６】
Ｘ＝ａｘ＋ｂｙ、
Ｙ＝ｃｘ＋ｄｙ
【０２０７】
で表される。なお、ａ、ｂ、ｃ、ｄは、それぞれ位置補正関数の係数、すなわち位置補正情報である。
【０２０８】
この位置補正関数に対して、対応情報の示すパターン画像の座標と、これに対応する撮影画像内の座標の値を代入して係数の値を求めることで、撮影画像を構成する画素の位置を、パターン画像内の画素の位置に座標変換する位置補正関数を得ることができる。位置補正情報取得手段３０８３は、取得した位置補正関数の係数を、位置補正情報として補正パラメータ格納部で１０６に蓄積する。
【０２０９】
なお、ここでは、３箇所以上の対応する画素の座標の情報を、対応情報が有しているため、上記の係数を算出する際に、最小二乗法等を用いることが好適である。ただし、ここで示した位置補正関数を得るためには、通常は異なる２箇所の対応する画素の位置の情報が必要となる。この位置補正関数を用いることで、撮影画像の画素の位置や画像の形状等を、オリジナルのパターン画像と同様の位置や形状等に補正可能となる。
【０２１０】
図２８は、補正パラメータ構成部３０８により構成され、補正パラメータ格納部１０６に格納されている補正パラメータを管理する補正パラメータ管理表を示す図である。補正パラメータ管理表において、「色補正情報」は、色補正情報取得手段３０８２により構成された色補正情報を示し、「位置補正情報」は、位置補正情報取得手段３０８３により構成された位置補正情報を示している。なお、α１〜α３、β１〜β３、γ１〜γ３は、上記に例示した色補正関数の係数ａ１〜ａ３、ｂ１〜ｂ、ｃ１〜ｃ３に対応する値であるとする。また、Ａ、Ｂ、Ｃ、Ｄは、それぞれ上記に例示した位置補正関数の係数ａ、ｂ、ｃ、ｄに対応する値であるとする。
【０２１１】
上記のようにして補正パラメータ格納部１０６に格納された補正パラメータを用いて画像処理装置３００は、上記実施の形態１と同様に、撮影部３０３が撮影した第二の画像から第一の画像に一致する画像の領域を検出して、この領域を透過領域とした第二の画像の出力を行う。この処理については、上記実施の形態１と同様であるので説明は省略する。
なお、ここでは位置補正関数として、撮影画像の画素の位置をパターン画像内の位置に補正する関数を用いた場合について説明したが、必要に応じて、パターン画像の画素の位置を撮影画像内の位置に補正する関数を用いるようにしてもよい。
【０２１２】
なお、この具体例において述べた色補正関数や位置補正関数はあくまでも一例であり、他の色補正関数や位置補正関数等を用いるようにしてもよく、このような場合、これらの関数に応じた補正パラメータを、対応情報等を用いて算出するようにしてもよい。また、
上記具体例においては、目印画像の検出の処理において、目印画像の色と各画素の色とを比較するようにしたが、目印画像は他の方法により検出してもよい。例えば、撮影画像が内のパターン画像の画質が良好である場合等、目印画像の形状が大きく変わらないことが前提となっている場合等には、目印画像とほぼ同じ形状の領域を、一般的なパターンマッチング技術等により検出することで、目印画像を検出してもよい。
【０２１３】
上記具体例においては、各パターン画像の複数の目印画像が、それぞれ２色の色のうちのいずれか１色を有している場合について説明したが、本実施の形態においては、複数の目印画像は、撮影画像においても識別可能な２以上の色のうちのいずれか一色を有しているようにすればよい。この場合において、各パターン画像内の目印画像の色数をＣ（Ｃは２以上の整数）、目印画像数Ａを、パターン画像数をＢ（Ｂは正の整数）とした場合、
【０２１４】
ＣＢ≧Ａ
【０２１５】
の関係を満たしているようにすればよい。
【０２１６】
以上、本実施の形態によれば、パターン画像を表示することで、表示部３０２に表示された画像と、撮影部３０３により撮影された画像内において表示部３０２に表示された画像との間の位置の対応を正確に取ることができる対応情報を算出し、当該対応情報を用いて補正パラメータを得るようにしたことにより、上記実施の形態１において示した第一の画像と、第二の領域の一致する領域を検出する処理において、第一の画像と、第二領域画像との色および位置の補正を適正に行うことが可能となり、第一の画像と、第二の画像の一致する領域を正確に検出することができる。これにより、第二の画像内の第一の画像が写っている領域を正確に透過領域に指定することができる。
【０２１７】
また、本実施の形態においては、目印画像の色の出現パターンによって、撮影画像内から目印画像を識別して検出するようにしているため、撮影部３０３の撮影状況によって表示部３０２の一部しか撮影できず、表示部３０２の表示領域内のどの部分を撮影したか分からない場合や、表示部３０２の撮影された向き等が判別できない場合においても、撮影画像内から、正確に目印画像の配置されている位置を識別することができる。
【０２１８】
また、本実施の形態においては、撮影画像内における目印画像の色の出現パターンにより、目印画像を識別するため、目印画像の色が多少表示や撮影等の処理により変色していても、撮影画像内から正確に目印画像を識別することができる。
また、目印画像の形から目印画像を識別する場合とは異なり、色の出現パターンにより目印画像を識別するため、撮影画像にゆがみ等が生じたり、撮影位置によって、大きなパース等が入って撮影画像がゆがんで目印画像が変形してしまっても、撮影画像内から正確に目印画像を識別することができる。
また、本実施の形態においては、実際に撮影に利用する撮影部３０３により、予め用意されたパターン画像を撮影するだけで、簡単に位置や色の補正のための情報を得ることができ、補正のための専用のデバイス等を設置する必要がなく、コストの上昇を抑えることができる。また、補正のための特別な操作を最小限にできるため、操作性が向上する。
【０２１９】
なお、上記実施の形態において、目印画像の色の出現パターンにより目印画像が検出された位置を識別するようにしたが、複数のパターン画像の少なくとも一つのパターン画像において目印画像が配置された位置における、目印画像の有無のパターンである出現パターンにより、目印画像が配置された位置を識別するようにしてもよい。例えば、第一パターン画像のある座標（ｘ１、ｙ１）において、目印画像が出現し、その同じ座標において異なる第二、第三のパターンにおいては、目印画像が出現せず、背景画像のみが出現した場合、目印画像を「１」、背景画像を「０」に置き換えて、座標（ｘ１、ｙ１）における目印画像の出現パターンを、「０１１」と考えてもよい。ただし、この場合、複数の撮影画像内に目印画像が検出されるまでは、目印画像の位置が検出できないため、一旦、目印画像の位置を検出後、他の撮影画像の同じ位置において背景画像を検出する必要があり、処理に後戻りが発生する可能性がある。
【０２２０】
また、上記実施の形態において、互いに異なる予め設定された所定の位置に、一つの目印画像がそれぞれ配置された複数のパターン画像を表示するようにし、複数の撮影画像内のパターン画像毎に、これらの目印画像の位置をそれぞれ検出することで、撮影したパターン画像と、撮影画像内の目印画像の検出された位置との組み合わせを用いて、撮影された目印画像の検出された位置を識別するようにしてもよい。すなわち、ここでは、パターン画像毎に、目印画像の位置が特定されることとなる。このため、各目印画像が、どのパターン画像を撮影した撮影画像から検出されたか判断することで、撮影画像の目印画像が検出された位置を識別することができる。
【０２２１】
言い換えれば、ここでは、各目印画像が検出されたパターン画像を識別する情報を各目印画像についての出現パターンと考えて、各撮影画像から検出された各目印画像についての出現パターンを取得し、この出現パターンを用いて、各撮影画像内において検出された目印画像の位置と、当該目印画像の出現パターンと一致する出現パターンを有するオリジナルの複数のパターン画像における目印画像の配置されている位置との対応を示す対応情報を取得するようにする。例えば、第一のパターン画像においては、座標（ｘ２、ｙ２）に一つの目印画像のみが配置されている場合、第一のパターン画像を撮影した撮影画像内で目印画像を検出した位置は、この第一のパターン画像の座標（ｘ２、ｙ２）に対応した位置であると判断することができる。
【０２２２】
ただし、このような場合、例えば、撮影画像が撮影したパターン画像が、どのパターン画像であるかを、撮影したパターン画像を識別する情報を撮影情報に対応付けたり、パターン画像の表示順番と撮影順番とを対応付けておくこと等により識別できるようにする必要がある。また、このような場合においては、各パターン画像には、一つの目印画像しか配置することができないため、撮影画像内の複数の位置を識別するためには、パターン画像を、識別したい位置の数と同数だけ用意する必要があるとともに、これらのパターン画像を全て表示して撮影する必要がある。このため、上述したような目印画像の色の出現パターンにより、目印画像が配置されている複数の位置を識別する場合と比べて、処理時間が長くなってしまうことが考えられる。
【０２２３】
なお、上記各実施の形態１、２において、各処理（各機能）は、単一の装置（システム）によって集中処理されることによって実現されてもよく、あるいは、複数の装置によって分散処理されることによって実現されてもよい。
また、上記各実施の形態１、２において、各構成要素は専用のハードウェアにより構成されてもよく、あるいは、ソフトウェアにより実現可能な構成要素については、プログラムを実行することによって実現されてもよい。例えば、ハードディスクや半導体メモリ等の記録媒体に記録されたソフトウェア・プログラムをＣＰＵ等のプログラム実行部が読み出して実行することによって、各構成要素が実現され得る。
【０２２４】
なお、上記各実施の形態１、２における画像処理装置を実現するソフトウェアのプログラムにおいて、情報を送信する送信ステップや、情報を受信する受信ステップなどでは、ハードウェアによって行われる処理、例えば、送信ステップにおけるモデムやインターフェースカードなどで行われる処理（ハードウェアでしか行われない処理）は含まれない。
また、このプログラムは、サーバなどからダウンロードされることによって実行されてもよく、所定の記録媒体（例えば、ＣＤ−ＲＯＭなどの光ディスクや磁気ディスク、半導体メモリなど）に記録されたプログラムが読み出されることによって実行されてもよい。
また、このプログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
また、上記各実施の形態１、２において、一の装置に存在する２以上の通信手段（情報送信部など）は、物理的に一の媒体で実現されてもよいことは言うまでもない。
【０２２５】
本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
また、上記各実施の形態では、画像処理装置がスタンドアロンである場合について説明したが、画像処理装置は、スタンドアロンの装置であってもよく、サーバ・クライアントシステムにおけるサーバ装置であってもよい。後者の場合には、出力部や受付部は、通信回線を介して入力を受け付けたり、画面を出力したりすることになる。
【産業上の利用可能性】
【０２２６】
以上のように、本発明にかかる画像処理装置等は、ディスプレイ等に表示されている画像を撮影した画像を処理する画像処理装置等として適しており、テレビ会議等に用いられる画像処理装置等として有用である。
【図面の簡単な説明】
【０２２７】
【図１】実施の形態１における画像処理装置のブロック図である。
【図２】同実施の形態における画像処理装置の動作について説明するフローチャートである。
【図３】同実施の形態における画像処理装置の動作について説明するフローチャートである。
【図４】同実施の形態における画像処理装置を用いたテレビ会議システムの構成を示すブロック図である。
【図５】同実施の形態における画像処理装置を用いたテレビ会議システムの概念的な構成図である。
【図６】同実施の形態における第二の画像と、第二の画像に撮影された第一の画像との関係を示す模式的な構成図である。
【図７】同実施の形態における第一の画像の表示例を示す構成図である。
【図８】同実施の形態における第二の画像の表示例を示す構成図である。
【図９】同実施の形態における第二の画像内の一致する領域を示す構成図である。
【図１０】同実施の形態におけるアルファチャンネルを説明するための構成図である。
【図１１】同実施の形態におけるクリッピングした第二の画像を示す構成図である。
【図１２】同実施の形態におけるクリッピング画像管理表を示す構成図である。
【図１３】同実施の形態における第二テレビ会議端末における第二の画像の表示例を示す構成図である。
【図１４】同実施の形態における第一テレビ会議端末の変形例を示す構成図である。
【図１５】実施の形態２における画像処理装置のブロック構成図である。
【図１６】同実施の形態における画像処理装置の動作について説明するフローチャートである。
【図１７】同実施の形態における画像処理装置の動作について説明するフローチャートである。
【図１８】同実施の形態における画像処理装置の動作について説明するフローチャートである。
【図１９】同実施の形態における画像処理装置の概念的な構成図である。
【図２０】同実施の形態におけるパターン画像色管理表を示す構成図である。
【図２１】同実施の形態におけるパターン画像の例を示す構成図である。
【図２２】同実施の形態における対応管理情報を示す構成図である。
【図２３】同実施の形態における情報処理装置の表示例を示す構成図である。
【図２４】同実施の形態における情報処理装置の撮影画像の例を示す構成図である。
【図２５】同実施の形態における目印画像管理表を示す構成図である。
【図２６】同実施の形態における出現パターン管理表を示す構成図である。
【図２７】同実施の形態における対応情報を示す構成図である。
【図２８】同実施の形態における補正パラメータ管理表を示す構成図である。
【符号の説明】
【０２２８】
１０  第一テレビ会議端末
２０  第二テレビ会議端末
６１、７０  第一の画像
６２、８０、９１、９２  第二の画像
９０  一致する領域
９５  アルファチャンネル
１００、３００  画像処理装置
１０１  受付部
１０２ａ、３０２ａ  ディスプレイ
１０２、３０２  表示部
１０３、３０３  撮影部
１０４  画像受付部
１０５  遅延バッファ
１０６  補正パラメータ格納部
１０７  比較部
１０８  透過画像構成部
１０９  出力部
２０１  撮影部
２０２  送信部
２０３  受信部
２０４ａ  ディスプレイ
２０４  表示部
２３１、２３２  目印画像
３００ａ  コンピュータ
３０１  画像格納部
３０４  撮影画像格納部
３０５  目印画像検出部
３０６  対応情報取得部
３０７  対応管理情報格納部
３０８  補正パラメータ構成部
１０００、２０００  情報処理装置
３０８１  色情報取得手段
３０８２  色補正情報取得手段
３０８３  位置補正情報取得手段
【図１】
2008306264.tif 000003
【図２】
2008306264.tif 000004
【図３】
2008306264.tif 000005
【図４】
2008306264.tif 000006
【図５】
2008306264.tif 000007
【図６】
2008306264.tif 000008
【図７】
2008306264.tif 000009
【図８】
2008306264.tif 000010
【図９】
2008306264.tif 000011
【図１０】
2008306264.tif 000012
【図１１】
2008306264.tif 000013
【図１２】
2008306264.tif 000014
【図１３】
2008306264.tif 000015
【図１４】
2008306264.tif 000016
【図１５】
2008306264.tif 000017
【図１６】
2008306264.tif 000018
【図１７】
2008306264.tif 000019
【図１８】
2008306264.tif 000020
【図１９】
2008306264.tif 000021
【図２０】
2008306264.tif 000022
【図２１】
2008306264.tif 000023
【図２２】
2008306264.tif 000024
【図２３】
2008306264.tif 000025
【図２４】
2008306264.tif 000026
【図２５】
2008306264.tif 000027
【図２６】
2008306264.tif 000028
【図２７】
2008306264.tif 000029
【図２８】
2008306264.tif 000030