(57)【要約】【課題】マッチング処理に要する計算量を増大させることなく、認識対象パターンの変形や、モデルパターンとは異なるパターンの認識に対応することができる画像処理装置を提供する。【解決手段】画像処理装置１は、画像データ上の画素ごとに特徴量を算出する縦及び横勾配量算出部３ａ、３ｂと、照合領域とモデルパターンとのマッチングの度合いを示す合致度を算出するスコア算出部１０と、照合領域とモデルパターンの一部とがマッチングする部分的なマッチングであることを示す合致度を持つ複数の照合領域が、単一領域として複数の照合領域が互いに結合すべきとしてあらかじめ定められた結合条件を満足する場合には、結合条件を満足する複数の照合領域を単一領域として互いに結合するパターン結合部１５と、画像データ上の部分領域内で合致度が最大である照合領域の位置を特定する位置特定部１１と、を備えている。【選択図】図１
2010055576.tif 000002
【特許請求の範囲】
【請求項１】
撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する機能を備えた画像処理装置であって、
前記画像データ上の画素ごとに、あらかじめ定められたモデルパターンと照合するための特徴量を算出する特徴量算出手段と、
前記特徴量算出手段による特徴量算出結果に基づいて、前記画像データ上の一部の領域に含まれる照合領域と、前記モデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出手段と、
前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大となる複数の照合領域が存在する場合において、前記モデルパターンとのマッチングの度合いが前記照合領域と前記モデルパターンの一部とがマッチングする部分的なマッチングであることを示す合致度を持つ複数の照合領域が、単一領域として複数の照合領域が互いに結合すべきとしてあらかじめ定められた結合条件を満足する場合には、当該結合条件を満足する複数の照合領域を単一領域として互いに結合する領域結合手段と、
前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大となる照合領域の位置を特定する位置特定手段と
を備えていることを特徴とする画像処理装置。
【請求項２】
前記領域結合手段は、前記結合条件を満足する複数の照合領域を単一領域として互いに結合する場合には、当該結合される複数の照合領域の位置を用いて前記複数の照合領域が結合された単一領域の位置を算出することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記モデルパターンとの部分的なマッチングにより前記結合される照合領域の各々に生じる開放方向は、前記照合領域が部分的にマッチングするモデルパターンの一部の位置に応じてあらかじめ定められており、
前記結合条件は、前記結合される複数の照合領域間における位置関係に応じて前記各照合領域に生じるべき開放方向を規定していることを特徴とする請求項１または２に記載の画像処理装置。
【請求項４】
前記モデルパターンの形状は、略円形状であり、
前記結合される照合領域の形状は、略半円形状であり、
前記複数の照合領域が結合される単一領域の形状は、略楕円形状であり、
前記結合条件は、前記結合される照合領域の各々に生じる開放方向が互いに対向すること、及び、前記結合される照合領域の各々の位置を通って開放方向に沿って伸びる直線が略同一直線に一致すること、を規定していることを特徴とする請求項３に記載の画像処理装置。
【請求項５】
前記結合条件はさらに、前記結合される照合領域間の距離が所定の範囲内にあることを規定していることを特徴とする請求項４に記載の画像処理装置。
【請求項６】
前記特徴量は、大きさと方向を持つベクトル量であることを特徴とする請求項１〜５のいずれか１項に記載の画像処理装置。
【請求項７】
前記特徴量は、画素の輝度の勾配量であることを特徴とする請求項１〜６のいずれか１項に記載の画像処理装置。
【請求項８】
請求項１〜７のいずれか１項に記載の画像処理装置における各手段としてコンピュータを動作させるための画像処理プログラム。
【請求項９】
請求項８に記載の画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項１０】
請求項１〜７のいずれか１項に記載の画像処理装置を備えていることを特徴とする電子機器。
【請求項１１】
撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する画像処理方法であって、
前記画像データ上の画素ごとに、あらかじめ定められたモデルパターンと照合するための特徴量を算出する特徴量算出工程と、
前記特徴量算出工程における特徴量算出結果に基づいて、前記画像データ上の一部の領域に含まれる照合領域と、前記モデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出工程と、
前記合致度算出工程において算出された合致度が前記画像データ上の部分領域内で最大となる複数の照合領域が存在する場合において、前記モデルパターンとのマッチングの度合いが前記照合領域と前記モデルパターンの一部とがマッチングする部分的なマッチングであることを示す合致度を持つ複数の照合領域が、単一領域として複数の照合領域が互いに結合すべきとしてあらかじめ定められた結合条件を満足する場合には、当該結合条件を満足する複数の照合領域を単一領域として互いに結合する領域結合工程と、
前記合致度算出工程において算出された合致度が前記画像データ上の部分領域内で最大となる照合領域の位置を特定する位置特定工程と
を備えていることを特徴とする画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する機能を備えた画像処理装置に関する。
【背景技術】
【０００２】
携帯電話やＰＤＡ（Personal Digital Assistants）等の各種機器に、画像表示部として液晶ディスプレイを備えた画像表示装置（以下、「液晶表示装置」と呼ぶ。）が幅広く利用されていることは周知の通りである。特に、ＰＤＡでは、古くからタッチセンサーを備えることにより、直接指等を液晶ディスプレイに接触させることによって情報を入力するタッチ入力が可能となっている。また、携帯電話やその他の機器においても、タッチセンサーを備える液晶表示装置の普及が期待されている。
【０００３】
このタッチセンサーは画面表示を邪魔せずに、指等がディスプレイ上のどこをタッチしたかを検出するセンサーであり、いろいろな方式が考案され、実用化されている。従来、押されると上の導電性基板と下の導電性基板とが接触することによって入力位置を検知する抵抗膜方式、触った場所の容量変化を検知することによって入力位置を検知する静電容量式等が主流であった。
【０００４】
近年、フォトダイオード、フォトトランジスタ等の光センサ素子が画像表示領域内の画素毎に配置された液晶表示装置の開発が進んでいる。このように、画素ごとに光センサ素子を内蔵することで、タッチパネル機能を通常の液晶表示装置で実現することが可能となる。
【０００５】
このようなタッチパネル一体型の表示装置では、画像表示領域内に配置された複数個の光センサ素子を用いてタッチする指等の画像を撮影し、その画像解析結果からタッチの有無及びタッチ位置を判断している。
【０００６】
タッチする指等の画像を解析する際、タッチする指等の画像を認識することが必要となる。従来、このような画像認識に好適な手法として、パターンマッチングによる画像認識を挙げることができる。このパターンマッチングによる画像認識では、撮影される画像より小さいモデルパターンをあらかじめ用意し、撮影画像上のあらゆる位置においてこのモデルパターンの画像とのマッチングを行ない、撮影画像上においてモデルパターンに一致する画像や、モデルパターンに最も近い画像の存在を検出している。
【０００７】
ところで、このパターンマッチングによる画像認識では、モデルパターンの大きさが大きくなった場合、認識対象パターンとのマッチングに多くの時間が必要となり、マッチング処理に要する計算量も大幅に増加してしまう。
【０００８】
また、予想される認識対象パターンごとにモデルパターンを用意しなければならない。例えば、ディスプレイ上での指によるタッチを認識するためには、通常、円形及び楕円形のモデルパターンが必要とされている。特に、楕円形のモデルパターンを用いてマッチングを行なう場合、楕円形のモデルパターンの回転を考慮したマッチングが必要であり、上記と同様、マッチング処理に要する計算量が増加する傾向にある。
【０００９】
さらに、撮影画像にノイズが多く含まれてしまうと、撮影画像上における認識対象パターンが背景画像から分離しにくくなったり、そのパターンの一部が隠蔽されて形状が変化して見えたりしたりする。このため、撮影画像上の認識対象パターンとモデルパターン間のマッチングの精度が大きく低下してしまい、撮影画像上においてモデルパターンに一致するパターンの存在を正確に検出することが困難となってしまう。
【００１０】
このような状況を考慮して、あらかじめ用意するモデルパターンを特徴的な部分である局所パターンとそうでない部分である連結パターンとに分け、認識対象パターンを含む撮影画像から局所パターンに似た部分を検出することにより、上述したような認識対象パターンの変形を推定する方法が提案されている（例えば、特許文献１を参照）。
【００１１】
この特定パターン認識方法では、認識対象パターンの変形の推定結果に基づいてモデルパターンを変形させ、その変形させたモデルパターンと認識対象パターンとの間でマッチングを行なうことにより、認識対象パターンの変形に対応するようにしていた。
【特許文献１】特開２００３−２１６９３１号公報（平成１５年７月３１日公開）
【発明の開示】
【発明が解決しようとする課題】
【００１２】
しかしながら、従来の特定パターン認識方法では、あらかじめ用意される複数の局所パターン各々には方向情報が付与されており、これら各局所パターンの方向情報を用いて認識対象パターンの変形に対応しているため、依然として、各局所パターンの回転を考慮したマッチングは必要となっており、その結果、マッチング処理に要する計算量を低減することはできないという課題があった。
【００１３】
上記課題に鑑み、本発明は、マッチング処理に要する計算量を増大させることなく、認識対象パターンの変形や、モデルパターンとは異なるパターンの認識に対応することができる画像処理装置、画像処理プログラム、コンピュータ読み取り可能な記録媒体、電子機器及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【００１４】
上記目的を達成するために、本発明における画像処理装置は、撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する機能を備えた画像処理装置であって、前記画像データ上の画素ごとに、あらかじめ定められたモデルパターンと照合するための特徴量を算出する特徴量算出手段と、前記特徴量算出手段による特徴量算出結果に基づいて、前記画像データ上の一部の領域に含まれる照合領域と、前記モデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出手段と、前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大となる複数の照合領域が存在する場合において、前記モデルパターンとのマッチングの度合いが前記照合領域と前記モデルパターンの一部とがマッチングする部分的なマッチングであることを示す合致度を持つ複数の照合領域が、単一領域として複数の照合領域が互いに結合すべきとしてあらかじめ定められた結合条件を満足する場合には、当該結合条件を満足する複数の照合領域を単一領域として互いに結合する領域結合手段と、前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大となる照合領域の位置を特定する位置特定手段とを備えている。
【００１５】
上記の画像処理装置では、画像データ上の画素ごとに、あらかじめ定められたモデルパターンと照合するための特徴量を算出し、その特徴量算出結果に基づいて画像データ上の一部の領域に含まれる照合領域とあらかじめ定められたモデルパターンとを照合し、照合領域とモデルパターンとのマッチングの度合いを示す合致度を算出する。
【００１６】
画像データ上の部分領域内で合致度が最大となる複数の照合領域が存在し、それら照合領域がモデルパターンの一部とがマッチングする部分的なマッチングであることを示す合致度を持つ場合に、それら領域があらかじめ定められた結合条件を満足する場合には単一領域として互いに結合する。
【００１７】
そして、画像データ上の部分領域内で算出された合致度が最大となる照合領域の位置を特定する。
【００１８】
すなわち、上記の画像処理装置では、モデルパターンの一部とマッチングする照合領域が存在し、それら照合領域が結合条件を満足する場合には、それら照合領域を単一の領域に結合するので、あらかじめ定められたモデルパターンとは異なるパターンも認識することが可能となる。このため、モデルパターンを多数準備することなく、認識できるパターンを増加させることができるので、マッチング処理に要する計算量を増大させることなく、認識対象パターンの変形や、モデルパターンとは異なるパターンの認識に対応することができる。
【００１９】
前記領域結合手段は、前記結合条件を満足する複数の照合領域を単一領域として互いに結合する場合には、当該結合される複数の照合領域の位置を用いて前記複数の照合領域が結合された単一領域の位置を算出することが好ましい。
【００２０】
この場合、単一領域として結合された領域の位置を新たに算出することが不要となるので、マッチング処理に要する計算量を低減することができる。
【００２１】
前記モデルパターンとの部分的なマッチングにより前記結合される照合領域の各々に生じる開放方向は、前記照合領域が部分的にマッチングするモデルパターンの一部の位置に応じてあらかじめ定められており、前記結合条件は、前記結合される複数の照合領域間における位置関係に応じて前記各照合領域に生じるべき開放方向を規定していることが好ましい。
【００２２】
この場合、照合領域が部分的にマッチングするモデルパターンの一部の位置を特定するだけで、結合条件を満足するか否かを判断することができるので、その判断処理を効率よく行なうことができる。
【００２３】
前記モデルパターンの形状は、略円形状であり、前記結合される照合領域の形状は、略半円形状であり、前記複数の照合領域が結合される単一領域の形状は、略楕円形状であり、前記結合条件は、前記結合される照合領域の各々に生じる開放方向が互いに対向すること、及び、前記結合される照合領域の各々の位置を通って開放方向に沿って伸びる直線が略同一直線に一致すること、を規定していることが好ましく、前記結合条件はさらに、前記結合される照合領域間の距離が所定の範囲内にあることを規定していることが好ましい。
【００２４】
この場合、モデルパターンの形状が略円形状、結合される照合領域の形状が略半円形状、複数の照合領域が結合される単一領域の形状が略楕円形状である場合であれば、結合条件を簡単に規定することができる。
【００２５】
前記特徴量は、大きさと方向を持つベクトル量であることが好ましい。
【００２６】
この場合、スカラー量でパターンマッチングする場合に比べ、情報量が多く、より正確にパターンマッチングを行なうことができる。
【００２７】
前記特徴量は、画素の輝度の勾配量であることが好ましい。
【００２８】
この場合、画素の輝度の勾配量に基づいてパターンマッチングを行なうことによって、位置検出の精度を向上できる。
【００２９】
本発明における電子機器は、上記の画像処理装置を備えている。
【００３０】
上記の電子機器では、上記の画像処理装置を備えている電子機器が実現される。
【００３１】
本発明における画像処理方法は、撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する画像処理方法であって、前記画像データ上の画素ごとに、あらかじめ定められたモデルパターンと照合するための特徴量を算出する特徴量算出工程と、前記特徴量算出工程における特徴量算出結果に基づいて、前記画像データ上の一部の領域に含まれる照合領域と、前記モデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出工程と、前記合致度算出工程において算出された合致度が前記画像データ上の部分領域内で最大となる複数の照合領域が存在する場合において、前記モデルパターンとのマッチングの度合いが前記照合領域と前記モデルパターンの一部とがマッチングする部分的なマッチングであることを示す合致度を持つ複数の照合領域が、単一領域として複数の照合領域が互いに結合すべきとしてあらかじめ定められた結合条件を満足する場合には、当該結合条件を満足する複数の照合領域を単一領域として互いに結合する領域結合工程と、前記合致度算出工程において算出された合致度が前記画像データ上の部分領域内で最大となる照合領域の位置を特定する位置特定工程とを備えている。
【００３２】
上記の画像処理方法では、画像データ上の画素ごとに、あらかじめ定められたモデルパターンと照合するための特徴量を算出し、その特徴量算出結果に基づいて画像データ上の一部の領域に含まれる照合領域とあらかじめ定められたモデルパターンとを照合し、照合領域とモデルパターンとのマッチングの度合いを示す合致度を算出する。
【００３３】
画像データ上の部分領域内で合致度が最大となる複数の照合領域が存在し、それら照合領域がモデルパターンの一部とがマッチングする部分的なマッチングであることを示す合致度を持つ場合に、それら領域があらかじめ定められた結合条件を満足する場合には単一領域として互いに結合する。
【００３４】
そして、画像データ上の部分領域内で算出された合致度が最大となる照合領域の位置を特定する。
【００３５】
すなわち、上記の画像処理方法では、モデルパターンの一部とマッチングする照合領域が存在し、それら照合領域が結合条件を満足する場合には、それら照合領域を単一の領域に結合するので、あらかじめ定められたモデルパターンとは異なるパターンも認識することが可能となる。このため、モデルパターンを多数準備することなく、認識できるパターンを増加させることができるので、マッチング処理に要する計算量を増大させることなく、認識対象パターンの変形や、モデルパターンとは異なるパターンの認識に対応することができる。
【００３６】
なお、上記の画像処理装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記各手段として動作させることにより上記の画像処理装置をコンピュータにて実現させる画像処理プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
【発明の効果】
【００３７】
本発明の画像処理装置は、以上のように、前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大となる複数の照合領域が存在する場合において、前記モデルパターンとのマッチングの度合いが前記照合領域と前記モデルパターンの一部とがマッチングする部分的なマッチングであることを示す合致度を持つ複数の照合領域が、単一領域として複数の照合領域が互いに結合すべきとしてあらかじめ定められた結合条件を満足する場合には、当該結合条件を満足する複数の照合領域を単一領域として互いに結合する領域結合手段を備えている。
【００３８】
それゆえ、マッチング処理に要する計算量を増大させることなく、認識対象パターンの変形や、モデルパターンとは異なるパターンの認識に対応することができるという効果を奏する。
【発明を実施するための最良の形態】
【００３９】
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、同一部分には同一符号を付し、図面で同一の符号が付いたものは、説明を省略する場合もある。なお、本実施の形態では、画像表示部の例として液晶ディスプレイを採用した場合について説明するが、液晶ディスプレイ以外の画像表示部を採用する場合も本発明の適用範囲に含まれる。
【００４０】
（１．画像処理装置の構成）
図１は、本発明の実施の形態における画像処理装置１の構成を示すブロック図である。まず、本発明の実施の形態における画像処理装置１の構成及びその撮像画像の例について説明する。以下では、便宜上、画像処理装置１について説明するが、図１に示すように、本発明の実施の形態における画像処理装置１の機能を必要とする電子機器２０であれば、一般の電子機器に対して適用可能である。
【００４１】
最初に、画像処理装置１の構成の概要及び画像処理装置１の撮像原理について説明する。画像処理装置１は、表示機能を有しており、複数の画素から構成される液晶ディスプレイ（ディスプレイ）及び該液晶ディスプレイに光を照射するバックライトを備えている点は、通常の液晶ディスプレイと同様である。
【００４２】
そして、画像処理装置１における液晶ディスプレイは、各画素内に光センサー（撮像センサー）が内蔵され、該光センサーによって液晶ディスプレイの表示画面に近接してきた外部の物体等（撮像対象）を撮像し、画像データ（撮像センサーによって撮像された画像データ）として取り込むことが可能となっている点が、通常の液晶ディスプレイと異なっている。
【００４３】
なお、液晶ディスプレイは、複数の画素のうち、所定数の画素ごとに光センサーが内蔵されているものであっても良いが、光センサーによる撮像画像の解像度の観点から、光センサーは全画素に内蔵されていることが好ましい。
【００４４】
また、画像処理装置１の液晶ディスプレイは、通常の液晶ディスプレイと同様に、複数の走査線と複数の信号線とが交差するように配線され、この各交差部に画素が配置され、薄膜トランジスタ、及び各種容量を有する画素を備えた表示部と、走査線を駆動する駆動回路と、信号線を駆動する駆動回路とを備えているものである。
【００４５】
さらに、画像処理装置１の液晶ディスプレイは、例えば各画素内に光センサーとしてフォトダイオードを内蔵する構成となっている。このフォトダイオードには、キャパシタが接続され、表示画面から入射された光のフォトダイオードでの受光量の変化に応じてキャパシタの電荷量を変化させる構成となっている。そして、このキャパシタの両端の電圧を検出することにより画像データを生成し、画像の撮像（取り込み）を行なうようになっている。これが画像処理装置１の液晶ディスプレイによる撮像原理である。
【００４６】
なお、光センサーとしては、フォトダイオードに限られず、光電効果を動作原理とし、液晶ディスプレイ等の各画素に内蔵できるものであれば良い。
【００４７】
以上の構成により、画像処理装置１は、液晶ディスプレイ本来の画像を表示する表示機能に加え、表示画面に近接してきた外部の物体の画像（撮像対象）を撮像する撮像機能を備える構成となっている。それゆえ、ディスプレイの表示画面でのタッチ入力が可能な構成とすることができる。
【００４８】
ここで、図２（ａ）〜（ｈ）に基づき、画像処理装置１の液晶ディスプレイの各画素に内蔵されたフォトダイオードによって撮像される撮像対象について説明する。ここでは、「指の腹（以下、「指腹」と呼ぶ場合もある。）」及び「ペン先」の例を挙げ、それぞれの撮像画像（又は画像データ）の特徴の概要について説明する。
【００４９】
図２（ａ）は、周囲が暗い場合における指腹の撮像画像の様子を示す概要図であり、図２（ｂ）は、周囲が暗い場合における指腹の撮像画像の特徴を示す概要図である。図２（ａ）に示すように、ユーザが、暗い部屋で液晶ディスプレイの表示画面６５に、人差し指の腹を接触させた場合について考える。
【００５０】
この場合、図２（ｂ）の撮像画像６１は、バックライトが撮像対象（指腹）に反射して得られる画像であり、白い円形状がぼやけたような画像となる。なお、各画素における勾配方向は、おおよそ、撮像画像におけるエッジ部分からエッジ部分に囲まれた領域の中心付近に向かう傾向を示している（ここでは、勾配方向は暗い部分から明るい部分に向かう向きを正としている。）。
【００５１】
次に、図２（ｃ）は、周囲が明るい場合における指腹の撮像画像の様子を示す概要図であり、図２（ｄ）は、周囲が明るい場合における指腹の撮像画像の特徴を示す概要図である。図２（ｃ）に示すように、ユーザが、明るい部屋で液晶ディスプレイの表示画面６５に、人差し指の腹を接触させた場合について考える。
【００５２】
この場合、図２（ｄ）の撮像画像６２は、外光６６が液晶ディスプレイの表示画面６５に入射することによって得られる画像（接触した場合は、バックライトによる反射光も混じる。）であり、人差し指で外光が遮られることによって生じた指の影と、液晶ディスプレイの表示画面に接触した指の腹にバックライトの光が反射してできた白い円形状がぼやけた部分とからなる。これらのうち白い円形状の部分における勾配方向は、上述した暗い部屋で指の腹を接触させた場合と同様の傾向を示すが、その周囲を囲む影は暗く、周囲が外光６６で明るいので、各画素における勾配方向は、白い円形状の部分における勾配方向と逆向きの傾向を示している。
【００５３】
図２（ｅ）は、周囲が暗い場合におけるペン先の撮像画像の様子を示す概要図であり、図２（ｆ）は、周囲が暗い場合におけるペン先の撮像画像の特徴を示す概要図である。図２（ｅ）に示すように、ユーザが、暗い部屋で液晶ディスプレイの表示画面６５に、ペン先を接触させた場合について考える。
【００５４】
この場合、図２（ｆ）の撮像画像６３は、バックライトが撮像対象（ペン先）に反射して得られる画像であり、小さな白い円形状がぼやけたような画像となる。なお、各画素における勾配方向は、おおよそ、撮像画像におけるエッジ部分からエッジ部分に囲まれた領域の中心付近に向かう傾向を示している。
【００５５】
次に、図２（ｇ）は、周囲が明るい場合におけるペン先の撮像画像の様子を示す概要図であり、図２（ｈ）は、周囲が明るい場合におけるペン先の撮像画像の特徴を示す概要図である。図２（ｇ）に示すように、ユーザが、明るい部屋で液晶ディスプレイの表示画面６５に、ペン先を接触させた場合について考える。
【００５６】
この場合、図２（ｈ）の撮像画像６４は、外光６６が液晶ディスプレイの表示画面６５に入射することによって得られる画像（接触した場合は、バックライトによる反射光も混じる。）であり、ペンで外光が遮られることによって生じたペンの影と、液晶ディスプレイの表示画面６５に接触したペン先にバックライトの光が反射してできた小さな白い円形状がぼやけた部分とからなる。これらのうち小さな白い円形状の部分における勾配方向は、上述した暗い部屋でペン先を接触させた場合と同様の傾向を示すが、その周囲を囲む影は暗く、周囲が外光で明るいので、各画素における勾配方向は、小さな白い円形状の部分における勾配方向と逆向きの傾向を示している。
【００５７】
以上のような、各勾配方向の分布は、例えば、指のように表面が柔らかく、面に接触することにより接触面が円形になる場合、または先が丸いペンのように表面が固くても接触面が円形になるような場合には、撮像画像におけるエッジ部分からエッジ部分に囲まれた領域の中心付近に向かうか、或いは、該中心付近から放射状にエッジ部分に向かうかのいずれかの傾向を示す。
【００５８】
また、接触面がその他の形状であっても、撮像画像におけるエッジ部分からエッジ部分に囲まれた領域の中に向かうか、或いは、エッジ部分に囲まれた領域の中からその領域の外側に向かうかのいずれかの傾向を示す。さらに、これらの傾向は、撮像対象の状況等に応じて、大きく変わることは無い。したがって、勾配方向は、パターンマッチングに適した量である。
【００５９】
次に、図１を用いて、本実施の形態における画像処理装置１の構成の詳細について説明する。
【００６０】
画像処理装置１は、図１に示すように、撮像された撮像画像の画像データを用いて、撮像対象による撮像画像上の指示位置を特定する機能を備えたものであり、低解像度化部２と、縦勾配量算出部（特徴量算出手段）３ａと、横勾配量算出部（特徴量算出手段）３ｂと、エッジ抽出部（特徴量算出手段）４と、方向特定部（特徴量算出手段）５と、効率化部６と、一致画素数算出部７と、モデルパターン・比較用一致パターン格納部８と、パターン合致度算出部（合致度算出手段）９と、スコア算出部（合致度算出手段）１０と、位置特定部（位置特定手段）１１と、パターン結合部（領域結合手段）１５と、パターン情報格納部１６と、結合条件格納部１７と、を備えている。
【００６１】
低解像度化部２は、液晶ディスプレイに内蔵されている光センサーを用いて撮像された撮像画像の画像データを低解像度化する。
【００６２】
縦勾配量算出部３ａ及び横勾配量算出部３ｂは、画像データ上の画素ごとに、注目画素の画素値と複数の隣接画素の画素値とから注目画素の画素値の縦方向勾配量及び横方向勾配量を算出する。具体的には、Ｓｏｂｅｌ（ソベル）オペレータ、Ｐｒｅｗｉｔｔ（プリウイット）オペレータ等の公知のエッジ抽出オペレータを用いれば良い。
【００６３】
例えば、Ｓｏｂｅｌオペレータについて説明すると、各画素の画素位置ｘ（ｉ，ｊ）における局所的な縦方向勾配Ｓｙ及び横方向勾配Ｓｘは、次式（１）のように求められる。
【００６４】
Ｓｘ＝ｘｉ＋１ｊ−１−ｘｉ―１ｊ−１＋２ｘｉ＋１ｊ−２ｘｉ―１ｊ＋ｘｉ＋１ｊ＋１−ｘｉ―１ｊ＋１
Ｓｙ＝ｘｉ−１ｊ＋１−ｘｉ−１ｊ−１＋２ｘｉｊ＋１−２ｘｉｊ−１＋ｘｉ＋１ｊ＋１−ｘｉ＋１ｊ−１
・・・（１）
ここで、ｘｉｊは画素位置ｘ（ｉ，ｊ）における画素値を表し、ｉは水平方向に沿った画素の位置を、ｊは垂直方向に沿った画素の位置をそれぞれ表す。ここに、ｉ及びｊは正の整数である。
【００６５】
ここで、式（１）は、次式（２）及び（３）の３×３のＳｏｂｅｌオペレータ（行列演算子Ｓｘ及びＳｙ）を、画素位置ｘ（ｉ，ｊ）を注目画素とする３×３画素に適用することと等価である。
【００６６】
【数１】
2010055576.tif 000003
【００６７】
ここで、画素位置ｘ（ｉ，ｊ）における勾配の大きさＡＢＳ（Ｓ）及び勾配方向ＡＮＧ（Ｓ）は、縦方向勾配Ｓｙ及び横方向勾配Ｓｘに基づいて、次のように与えられる。なお、以下では、演算子としての縦方向勾配Ｓｙ及び横方向勾配Ｓｘを各画素に適用することによって得られた縦方向勾配量及び横方向勾配量のそれぞれを、便宜上、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘと記載する場合がある。
【００６８】
ＡＢＳ（Ｓ）＝（Ｓｘ2＋Ｓｙ2）1/2        ・・・（４）
ＡＮＧ（Ｓ）＝ｔａｎ-1（Ｓｙ／Ｓｘ）    ・・・（５）
エッジ抽出部４は、縦勾配量算出部３ａ及び横勾配量算出部３ｂが算出した各画素の縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘの算出結果から、撮像画像のエッジ部分の画素であるエッジ画素を抽出（特定）する。
【００６９】
ここで、エッジ画素とは、画像データを構成する各画素のうち、明るさが急激に変化する部分（エッジ）における画素である。具体的には、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘのそれぞれ、又は、勾配の大きさＡＢＳ（Ｓ）が所定のエッジ閾値以上である画素のことである。
【００７０】
なお、このエッジ画素を抽出する目的は、方向特定部５が、抽出された複数のエッジ画素については勾配方向を特定し、エッジ画素以外の画素については一律無方向と看做して特定するようにする点にある。
【００７１】
パターンマッチングにおいて重要な情報は、エッジ部分のエッジ画素における勾配方向である。
【００７２】
したがって、あまり重要でない画素における勾配方向を一律無方向と看做すことで、パターンマッチングの効率化をさらに向上させることができる。また、以下で説明する撮像対象による撮像画像上の指示位置を検出する際のメモリ容量を少量化し、処理時間を短縮化することを可能とし、指示位置の検出処理のコストをさらに削減することができる。
【００７３】
方向特定部５は、上述したように、縦勾配量算出部３ａ及び横勾配量算出部３ｂが算出した縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘから、画素ごとの勾配方向ＡＮＧ（Ｓ）と、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘのそれぞれ、又は、勾配の大きさＡＢＳ（Ｓ）がエッジ閾値未満である無方向とのいずれかを特定するものである。
【００７４】
ここでは、無方向をエッジ閾値未満であると定義しているが、エッジ閾値以下と定義しても良い。
【００７５】
あらかじめ無方向を設定しておくことで、ノイズ等により不要な多数の勾配方向が発生することを抑制することができる。また、エッジ近傍の勾配方向に照合対象を絞りこむことが可能となり、照合の効率化を図ることができる。
【００７６】
なお、方向特定部５は、エッジ抽出部４によって特定された複数のエッジ画素の勾配方向を特定し、エッジ画素以外の画素を無方向と看做して特定することが好ましい。パターンマッチングにおいて重要な情報は、エッジ部分のエッジ画素における勾配方向であると言える。
【００７７】
したがって、パターンマッチングにおいてあまり重要でない画素における勾配方向を一律無方向と看做すことで、パターンマッチングの効率化をさらに向上させることができる。
【００７８】
ここで、勾配方向ＡＮＧ（Ｓ）は、０ｒａｄ〜２πｒａｄの範囲で変化する連続量であるから、本実施の形態においては、これを例えば８方向に量子化したものを勾配方向としてパターンマッチングに使用する特徴的な量（以下、「特徴量」と呼ぶことがある。）とする。
【００７９】
なお、より精度の高いパターンマッチングを行なうために、１６方位等に量子化しても良い。具体的な方向の量子化の詳細な手順については後述する。また、方向の量子化とは、勾配方向ＡＮＧ（Ｓ）が所定の範囲内にある方向を一律にある特定の方向の勾配方向であると看做して取り扱うことを言う。
【００８０】
効率化部６は、注目画素の周囲で所定の画素数を含む領域である照合領域と、あらかじめ定められたモデルパターンとの照合（以下、「パターンマッチング」と呼ぶこともある。）を行なう場合に、照合領域とモデルパターンとの照合の効率化を行なう。
【００８１】
一致画素数算出部７は、例えば、照合領域と、モデルパターンとの照合を行って、照合領域に含まれる勾配方向と、モデルパターンに含まれる勾配方向とが一致する画素数（以下、「一致画素数」と呼ぶ。）を算出する。
【００８２】
モデルパターン・比較用一致パターン格納部８は、モデルパターンと、比較用一致パターンとを格納する。比較用一致パターンは、照合領域に含まれる画素ごとの勾配方向とモデルパターンに含まれる画素ごとの勾配方向との一致パターンを分析することによってあらかじめ定めたパターンである。
【００８３】
具体的には、この比較用一致パターンは、照合領域に含まれる画素ごとの勾配方向と、モデルパターンに含まれる画素ごとの勾配方向との、合致方向の種類数である。そして、この比較用一致パターンは、照合領域の形状がモデルパターン形状に近づくほど照合領域とモデルパターンとの間における一致パターンとの類似度が高くなる比較用完全一致パターンと、照合領域の形状がモデルパターン形状の一部の形状に近づくほど照合領域とモデルパターンとの間における一致パターンとの類似度が高くなる比較用部分的一致パターンと、を含んでいる。
【００８４】
この比較用完全一致パターンと比較用部分的一致パターンとは、照合領域に含まれる画素ごとの勾配方向と、モデルパターンに含まれる画素ごとの勾配方向との、合致方向の種類数に応じて定められている。すなわち、本実施の形態のように、８方向に量子化したものを勾配方向とした場合であれば、この８方向のうちいずれの方向が照合領域とモデルパターンとの間において合致しているかによって、これら２つの比較用一致パターンが定められている。例えば、比較用完全一致パターンを８方向のうち６方向以上合致するパターンと定め、比較用部分的一致パターンを８方向のうち４〜５方向合致するパターンと定めるが如くである。
【００８５】
また、モデルパターン・比較用一致パターン格納部８は、例えば、磁気テープやカセットテープ等のテープ系、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやコンパクトディスク−ＲＯＭ／ＭＯ／ＭＤ／デジタルビデオデイスク／コンパクトディスク−Ｒ等の光ディスクを含むディスク系、ＩＣカード（メモリカードを含む）／光カード等のカード系、あるいはマスクＲＯＭ／ＥＰＲＯＭ／ＥＥＰＲＯＭ／フラッシュＲＯＭ等の半導体メモリ系等を用いることができる。
【００８６】
パターン合致度算出部９は、照合領域に含まれる画素ごとの勾配方向とモデルパターンに含まれる画素ごとの勾配方向との一致パターンと、あらかじめ定められた比較用一致パターンとが類似する度合いを示すパターン合致度を算出する。
【００８７】
そして、パターン合致度算出部９は、照合領域の形状がモデルパターン形状と一致するときには照合領域とモデルパターンとの間における一致パターンと比較用完全一致パターンとが類似する度合いを示す完全パターン合致度を最大とする。また、パターン合致度算出部９は、照合領域の形状がモデルパターン形状の一部の形状に一致するときには照合領域とモデルパターンとの間における一致パターンと比較用部分的一致パターンとが類似する度合いを示す部分的パターン合致度を最大とする。
【００８８】
なお、照合領域と、あらかじめ定められたモデルパターンとの照合（パターンマッチング）に使用される量としては、画素値（濃度値）等のスカラー量も用いることができる。
【００８９】
一方、画素値の勾配はベクトル量であり、大きさ（勾配の大きさＡＢＳ（Ｓ））と向き（勾配方向ＡＮＧ（Ｓ））とを持つものである。ここで、特に、勾配方向（向き）は、例えば８方向に量子化したりすることによって、１つの画素がとり得る状態を８（無方向を含めると９）という極めて少ない状態に離散化することでき、さらにそれぞれの状態には、方向が異なるという識別が容易な特徴を持たせる事ができる。
【００９０】
また、勾配方向は、上述したような傾向がある。また、これらの傾向は、撮像対象の状況等に応じて、大きく変わることは無い。したがって、勾配方向は、パターンマッチングに適した量である。
【００９１】
スコア算出部１０は、一致画素数算出部７が算出した一致画素数、及びパターン合致度算出部９が算出したパターン合致度から、照合領域とモデルパターンとのマッチングの度合いを示す合致度を算出する。
【００９２】
具体的には、スコア算出部１０は、パターン合致度算出部９が算出したパターン合致度が完全パターン合致度であれば、その完全パターン合致度を用いて、照合領域の形状とモデルパターン形状とのマッチングの度合いを示す完全合致度を算出する。また、スコア算出部１０は、パターン合致度算出部９が算出したパターン合致度が部分的パターン合致度であれば、その部分的パターン合致度を用いて、照合領域の形状とモデルパターン形状の一部の形状とのマッチングの度合いを示す部分的合致度を算出する。
【００９３】
位置特定部１１は、スコア算出部１０が算出した合致度が最大となる画素（以下、「ピーク画素」と呼ぶ。）の位置から、撮像対象による撮像画像上の指示位置を特定する。
【００９４】
すなわち、位置特定部１１は、スコア算出部１０が完全合致度を算出した場合であれば、その完全合致度が最大となるピーク画素の位置から、撮像対象による撮像画像上の指示位置を特定する。また、位置特定部１１は、スコア算出部１０が部分的合致度を算出した場合であれば、その部分的合致度が最大となるピーク画素の位置から、撮像対象の一部による撮像画像上の指示位置を特定する。
【００９５】
また、位置特定部１１は、ピーク探索部１２と、座標算出判定部１３と、座標算出部１４と、を有している。
【００９６】
ピーク探索部１２は、注目画素の周囲で所定の画素数を含む探索領域（以下、「第１領域」と呼ぶ場合がある。）内で、スコア算出部１０が算出した合致度が最大値をとる画素であるピーク画素を探索する。
【００９７】
座標算出判定部１３は、探索領域の画素数よりも少ない所定の画素数を有すると共に、探索領域内に完全に包含される小領域（以下、「第２領域」と呼ぶ場合がある。）内に、ピーク探索部１２が発見したピーク画素が存在することを判定した場合に、座標算出部１４に撮像対象による撮像画像上の指示位置を算出させる。
【００９８】
座標算出部１４は、ピーク探索部１２が発見したピーク画素を中心とする所定の画素数を含む領域であるピーク画素領域内の、画素ごとの合致度を用いて、撮像対象による撮像画像上の指示位置を算出するものである。
【００９９】
なお、ピーク探索部１２、座標算出判定部１３及び座標算出部１４が行なう上記の動作は、スコア算出部１０が部分的合致度を算出した場合でも同様である。
【０１００】
パターン結合部１５は、スコア算出部１０が部分的合致度を算出する度に、位置特定部１１が算出した、撮像対象の一部による撮像画像上の指示位置を取得する。そして、パターン結合部１５は、パターン情報格納部１６に格納されているパターン情報と、結合条件格納部１７にあらかじめ格納されている結合条件と、上記のように取得した撮像対象の一部による撮像画像上の指示位置と、を用いて、モデルパターン形状の一部の形状に一致する形状を持つ照合領域のうち、単一領域として互いに結合すべきものがあるか否かを判断し、その結合すべきとの判断に基づいて、それら照合領域を結合する。
【０１０１】
そして、パターン結合部１５は、それら結合する照合領域の各々の指示位置を用いて、単一領域として結合された後の領域の指示位置を算出する。
【０１０２】
パターン情報格納部１６は、パターン合致度算出部９が算出した部分的パターン合致度と、スコア算出部１０が算出した部分的合致度と、を順次格納される。また、パターン情報格納部１６は、パターン合致度算出部９が部分的パターン合致度を算出する際に利用する、照合領域に含まれる画素ごとの勾配方向と、モデルパターンに含まれる画素ごとの勾配方向との、合致方向の種類数も、順次格納する。パターン情報格納部１６は、これら部分的パターン合致度、部分的合致度、合致方向の種類数を、パターン情報として格納する。
【０１０３】
結合条件格納部１７は、パターン結合部１５がモデルパターン形状の一部の形状に一致する形状を持つ照合領域のうち、単一領域として互いに結合すべきものがあるか否かを判断する際、その判断基準となる結合条件をあらかじめ格納している。
【０１０４】
また、パターン情報格納部１６及び結合条件格納部１７は、例えば、磁気テープやカセットテープ等のテープ系、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやコンパクトディスク−ＲＯＭ／ＭＯ／ＭＤ／デジタルビデオデイスク／コンパクトディスク−Ｒ等の光ディスクを含むディスク系、ＩＣカード（メモリカードを含む）／光カード等のカード系、あるいはマスクＲＯＭ／ＥＰＲＯＭ／ＥＥＰＲＯＭ／フラッシュＲＯＭ等の半導体メモリ系等を用いることができる。
【０１０５】
（２．画像処理装置の動作の概要）
次に、画像処理装置１の動作の概要について説明する。
【０１０６】
図３は画像処理装置１の全体的な動作の概要を示すフローチャートである。ステップＳ１０１では、図１の低解像度化部２が画像データを低解像度化し、Ｓ１０２に進む。例えば、３２０×２４０画素の画像データであれば、１６０×１２０画素（低解像度化率１／２）、又は８０×６０画素（低解像度化率１／４）等のようにバイリニア縮小させる。ここで、バイリニア縮小とは、例えば２×２の各画素が持つ画素値の平均値をとり、２×２画素のデータを、該平均値を持った１×１画素のデータに置き換えることにより、全体として１／４の情報圧縮を行なうことを言う。
【０１０７】
なお、高速処理の観点からは、できるだけ低解像度化することが好ましいが、必要なエッジ情報等を得るためには、例えば３２０×２４０画素（１５０ｄｐｉ）の画像データの場合であれば、８０×６０画素（低解像度化率１／４）を低解像度化の限度とすることが好ましい。また、高精度処理の観点からは、低解像度化を全く行なわないか、低解像度化するとしても、１６０×１２０画素（低解像度化率１／２）に留めることが好ましい。
【０１０８】
以上の画像データの低解像度化により、パターンマッチングの処理コストやメモリ容量の少量化、及び処理時間の短縮化を図ることがきる。
【０１０９】
Ｓ１０２では、縦勾配量算出部３ａ及び横勾配量算出部３ｂが、画像データ上の画素ごとに、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘを算出してから、方向特定部５が、画素ごとの勾配方向と無方向とのいずれかを特定するまでの過程（勾配方向・無方向特定過程）を経た上で、Ｓ１０３に進む。
【０１１０】
Ｓ１０３では、効率化部６で、照合領域と、モデルパターンとの照合を行なう場合に、照合領域とモデルパターンとの照合の効率化を図るか否か、つまり、照合効率化の要否を選択する。照合効率化を行なう場合（Ｙｅｓ）には、Ｓ１０４に進み、効率化部６で照合効率化を行った上でＳ１０５に進み、照合効率化を行なわない場合（Ｎｏ）にはＳ１０８に進み、効率化部６は何もせず、そのままの情報（画像データ、但し、低解像度化部２で、低解像度化している場合には、低解像度化後の画像データ）でＳ１０５に進む。
【０１１１】
Ｓ１０５では、一致画素数算出部７が、照合領域とモデルパターンとの照合を行って、一致画素数を算出し、パターン合致度算出部９が、パターン合致度を算出してから、スコア算出部１０が、一致画素数算出部７が算出した一致画素数、及び、パターン合致度算出部９が算出したパターン合致度から、合致度を算出するまでの過程（パターンマッチング過程）を経た上で、Ｓ１０６に進む。
【０１１２】
Ｓ１０６では、位置特定部１１が、スコア算出部１０が算出した合致度が最大となる画素（以下、「ピーク画素」と呼ぶ。）の位置から、撮像対象による撮像画像上の指示位置を特定する過程（ポインティング位置特定過程）を経た上で、Ｓ１０７に進む。
【０１１３】
Ｓ１０７では、パターン結合部１５が、モデルパターン形状の一部の形状に一致する形状を持つ照合領域のうち、単一領域として互いに結合すべきものがあるか否かを判断し、その結合すべきとの判断に基づいて、それら照合領域を結合して「エンド」となる（結合過程）。
【０１１４】
以上が、画像処理装置１の全体の動作概要である。以下では、勾配方向・無方向特定過程、照合効率化、パターンマッチング過程、ポインティング位置特定過程及び結合過程における画像処理装置１の各動作について説明する。
【０１１５】
（３．勾配方向・無方向特定過程）
まず、図１、図４、図５（ａ）及び図５（ｂ）に基づいて、勾配方向・無方向特定過程における画像処理装置１の動作について説明する。
【０１１６】
図４は、画像処理装置１の動作のうち、勾配方向・無方向特定過程の動作を示すフローチャートである。図５（ａ）は、勾配方向・無方向特定過程において参照されるテーブルの一例であり、図５（ｂ）は、勾配方向・無方向特定過程において参照されるテーブルの他の例である。
【０１１７】
図４のフローチャートでは、まず、縦勾配量算出部３ａ及び横勾配量算出部３ｂがそれぞれ、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘを算出してからスタートする。
【０１１８】
Ｓ２０１では、エッジ抽出部４が、各画素における勾配の大きさＡＢＳ（Ｓ）がエッジ閾値以上か否かを判定し、ＡＢＳ（Ｓ）≧エッジ閾値ならば（Ｙｅｓ）、Ｓ２０２に進み、ＡＢＳ（Ｓ）＜エッジ閾値ならば（Ｎｏ）、Ｓ２１０に進む。なお、本実施の形態では、ＡＢＳ（Ｓ）＝Ｓｘ×Ｓｘ＋Ｓｙ×Ｓｙとして計算しているが、この量は、上式（４）における厳密な意味で勾配の大きさと異なる。しかし、実装上はこのように勾配の大きさを定義しても問題は無い。
【０１１９】
Ｓ２１０に進んだ場合には、方向特定部５は、対象となっている画素、つまり、エッジ画素以外の画素を無方向と設定（特定）し、次の画素へ進んで、Ｓ２０１に戻る。なお、Ｓ２０２に進んだ場合には、対象となっている画素は、無論、エッジ画素である。
【０１２０】
Ｓ２０２では、方向特定部５が、横方向勾配量Ｓｘが０であるか否かを判定し、Ｓｘ≠０ならば、Ｓ２０３（Ｙｅｓ）に進み、Ｓｘ＝０ならば、Ｓ２０６（Ｎｏ）に進む。
【０１２１】
Ｓ２０３では、方向特定部５は、横方向勾配量Ｓｘが正の値をとるか否かを判定し、Ｓｘ＞０ならば、Ｓ２０４（Ｙｅｓ）に進み、方向特定部５は、図５（ａ）のテーブルにしたがって、該当画素について、勾配方向ＡＮＧ（Ｓ）に応じて量子化された勾配方向を設定する。
【０１２２】
一方、Ｓｘ＜０ならば、Ｓ２０５に進み、方向特定部５は、図５（ｂ）のテーブルにしたがって、該当画素について、勾配方向ＡＮＧ（Ｓ）に応じて量子化された勾配方向を設定する。
【０１２３】
次に、Ｓ２０６では、方向特定部５は、縦方向勾配量Ｓｙが０か否かを判定し、Ｓｙ≠０ならば、Ｓ２０７（Ｙｅｓ）に進み、Ｓｙ＝０ならば、Ｓ２１０（Ｎｏ）に進み、該当画素を無方向と設定し、次の画素へ進んでＳ２０１に戻る。
【０１２４】
Ｓ２０７では、方向特定部５は、縦方向勾配量Ｓｙが正の値をとるか否かを判定し、Ｓｙ＞０ならば、Ｓ２０８（Ｙｅｓ）に進み、該当画素の勾配方向を上向きに設定して、Ｓ２０１に戻る。
【０１２５】
一方、Ｓｙ＜０ならば、Ｓ２０９（Ｎｏ）に進み、該当画素の勾配方向を下向きに設定して、次の画素へ進んでＳ２０１に戻る。
【０１２６】
以上の工程は、すべての画素の勾配方向・無方向の設定が終わるまで繰り返される。
【０１２７】
パターンマッチングにおいて重要な情報は、エッジ部分の画素であるエッジ画素における勾配方向である。
【０１２８】
したがって、上記の動作により、あまり重要でないエッジ画素以外の画素における勾配方向を一律無方向と看做すことで、パターンマッチングの効率化をさらに向上させることができる。また、撮像対象による撮像画像上の指示位置の検出を可能としてメモリ容量を少量化すること及び処理時間を短縮化することを可能とし、指示位置の検出処理のコストをさらに削減させることができる。
【０１２９】
（４．照合効率化）
次に、画像処理装置１における照合効率化について説明する。
【０１３０】
図１に示す効率化部６は、照合領域を、複数の同一画素数の分割領域に分割すると共に、分割領域ごとに、分割領域に含まれる画素ごとの勾配方向及び無方向の情報を、分割領域に含まれる勾配方向及び前記無方向の情報に置き換えることで、照合領域とモデルパターンとの照合の効率化を図る。
【０１３１】
また、スコア算出部１０は、効率化部６によって照合の効率化が行なわれた照合領域とモデルパターンとの照合を行なって、照合領域内のそれぞれの分割領域に含まれる勾配方向と、モデルパターンにおける勾配方向との一致数を、前記合致度として算出する。
【０１３２】
上述のように、勾配方向は、おおよその傾向がある。また、これらの傾向は、撮像対象の状況等に応じて、大きく変わることは無い。したがって、分割領域の画素数をあまり大きくしなければ、該分割領域内における勾配方向の画素の位置は、勾配方向を用いたパターンマッチングにおいてあまり重要な情報ではない。
【０１３３】
そこで、分割領域ごとに、分割領域に含まれる画素ごとの勾配方向及び無方向の情報を、分割領域に含まれる勾配方向及び無方向の情報に置き換えることにより、パターンマッチングの照合精度を維持しつつ、照合効率化が可能となる。また、この効率化に伴い、撮像対象による前記撮像画像上の指示位置の検出処理に要するコストを削減することもできる。
【０１３４】
以上より、パターンマッチングの照合精度を維持しつつ、照合効率化を可能とし、撮像対象による撮像画像上の指示位置の検出処理に要するコストを削減することができる画像処理装置１を提供することができる。
【０１３５】
ここで、図６（ａ）及び図６（ｂ）に基づき、画像処理装置１における照合効率化の具体例について説明する。
【０１３６】
まず、図６（ａ）に示すように、周囲が暗い場合における画像データの各画素における勾配方向の分布の特徴は、中央にほぼ円形状である、無方向の画素の領域があり、その回りをとり囲むようにして該無方向の領域に向かう向きの勾配方向を持つ画素が多数分布している。
【０１３７】
次に、図６（ｂ）は、図６（ａ）の画像データについて照合効率化を行った後の様子を示す概要図である。
【０１３８】
図６（ａ）に示すように、１４×１４画素の領域（照合領域）を、複数の２×２画素の領域（分割領域）に分割すると共に、２×２画素の領域ごとに、２×２画素の領域に含まれる画素ごとの勾配方向及び無方向の情報を、２×２画素の領域に含まれる勾配方向及び無方向の情報に置き換えることで、１４×１４画素の領域とモデルパターン（モデルパターンの例については後に詳しく説明する。）との照合の効率化が行われる。
【０１３９】
たとえば、図６（ａ）に示す１４×１４画素の領域を分割した複数の２×２画素領域のうち、上から２つめ、左から１つめの２×２画素の領域には、左上の画素が「無方向」、右上の画素が「右下向き（勾配方向）」、左下の画素が「右向き（勾配方向）」、及び右下の画素が「右下向き（勾配方向）」となっている。この２×２画素の領域について各勾配方向の存在位置に関する情報を省略したものが、図６（ｂ）の上から２つめ、左から１つめのブロック（以下、便宜上「画素」と呼ぶ場合がある。）である。他のブロックも同様にして生成することができる。結果として、図６（ａ）に示す１４×１４画素領域は、合計７×７＝４９個の２×２画素領域に分割される。
【０１４０】
次に、図７（ａ）〜図９（ｂ）に基づき、照合領域と照合されるモデルパターンの具体例について説明する。
【０１４１】
図７（ａ）は、周囲が暗い場合における照合効率化前の画像データと照合されるモデルパターンの一例を示す概要図である。また、図７（ａ）のモデルパターンは、図６（ａ）に示す１４×１４画素の領域とパターンマッチングを行なう場合を想定したものである。また、撮像対象としては、指腹を想定している。
【０１４２】
ところで、図７（ａ）のモデルパターンは、１３×１３画素のモデルパターンとなっている。この場合、図６（ａ）に示す１４×１４画素の領域と全画素数が異なっているが、この例のように照合領域とモデルパターンとの画素数は必ずしも一致しなくても良い。
【０１４３】
また、奇数×奇数（１３×１３）としているのは、中心の画素が１つとなるようにするためである。この中心の画素を画像データ上の着目画素にあわせて１画素づつ、ずらせてパターンマッチングを行なう。
【０１４４】
この場合の一致画素数は、１画素ごとに照合されて算出されるので、１３×１３＝１６９画素の照合が必要となる。
【０１４５】
一方、図７（ｂ）は、周囲が明るい場合における照合効率化前の画像データと照合されるモデルパターンの一例を示す概要図である。図７（ａ）のモデルパターンと比較すると各画素の勾配方向が逆向きになっている。図７（ａ）は、バックライトの光の反射光を基礎として撮像された画像データを想定したものであり、中央に向かうほど明るくなっている様子を示している。一方、図７（ｂ）は、外光を基礎として撮像された画像データを想定したものであり、画像のエッジ部分に向けて明るくなっている様子を示している。
【０１４６】
次に、図８（ａ）は、周囲が暗い場合における照合効率化後の画像データと照合されるモデルパターンの一例を示す概要図である。図８（ａ）のモデルパターンは、図６（ｂ）の照合効率化後の照合領域とのパターンマッチングを想定したものである。この例のように、照合領域とモデルパターンとデータ形式は必ずしも同一でなくても良い。この例では、２×２画素の領域を１画素（与えられる勾配方向は１つ）と看做してモデルパターンを簡略化することにより、さらなる照合の効率化を図っている。
【０１４７】
図８（ｂ）は、周囲が明るい場合における照合効率化後の画像データと照合されるモデルパターンの一例を示す概要図である。図８（ａ）は、バックライトの光の反射光を基礎として撮像された画像データを想定したものであり、中央に向かうほど明るくなっている様子を示している。一方、図８（ｂ）は、外光を基礎として撮像された画像データを想定したものであり、画像のエッジ部分に向けて明るくなっている様子を示している。
【０１４８】
図９（ａ）は、周囲が暗い場合における照合効率化後の画像データと照合されるモデルパターンの他の例を示す概要図である。図８（ａ）のモデルパターンとの違いは、２×２画素分が１つの領域に纏められているが、該１つの領域ごとに、２つの勾配方向（又は無方向）の自由度が与えられている点である。このようなモデルパターンを工夫することにより、照合の効率化を図りつつ、照合精度を高めることができる。
【０１４９】
図９（ｂ）は、周囲が明るい場合における照合効率化後の画像データと照合されるモデルパターンの他の例を示す概要図である。図９（ａ）は、バックライトの光の反射光を基礎として撮像された画像データを想定したものであり、中央に向かうほど明るくなっている様子を示している。一方、図９（ｂ）は、外光を基礎として撮像された画像データを想定したものであり、画像のエッジ部分に向けて明るくなっている様子を示している。
【０１５０】
（５．パターンマッチング過程）
次に、画像処理装置１におけるパターンマッチングの過程について説明する。
【０１５１】
図１０は、図１に示す画像処理装置１の動作のうち、パターンマッチング過程の動作を示すフローチャートである。
【０１５２】
Ｓ３０１では、一致画素数算出部７が、照合領域とモデルパターンとの照合を行って、照合領域に含まれる勾配方向と、モデルパターンに含まれる勾配方向とが一致する画素数（一致画素数）を算出してＳ３０２に進む。
【０１５３】
Ｓ３０２では、パターン合致度算出部９が、方向特定部５又は効率化部６からパターン合致度の算出を決定した旨の通知を受けて、パターン合致度を算出し、Ｓ３０３に進む。
【０１５４】
Ｓ３０３では、パターン合致度算出部９が、一致画素数算出部７が算出した一致画素数及びパターン合致度算出部９が算出したパターン合致度を、合算した量を照合領域とモデルパターンとのマッチングの度合いを示す合致度として算出する。
【０１５５】
次に、パターンマッチング過程におけるスコア算出部１０の具体的なスコア（合致度）算出方法について説明する。
【０１５６】
まず、スコア算出部１０が照合領域の形状とモデルパターン形状とのマッチングの度合いを示す完全合致度を算出する場合について説明する。
【０１５７】
図１１（ａ）は、照合効率化前の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングを説明するための概要図であり、図１１（ｂ）は、その合致度算出方法の一例を示す図である。
【０１５８】
図１１（ａ）は、図６（ａ）の照合領域と、図７（ａ）のモデルパターンとのパターンマッチングを行ったものを示している。ここで、図の中央の７行７列（以下では、横方向に並ぶ画素を「列」、縦方向に並ぶ画素を「行」と呼ぶ。また、上から行、左から列を数える。）にある１×１画素はスコアが付与される注目画素の位置である。網掛けされた部分は、照合領域とモデルパターンとで、勾配方向が一致している画素を示している。
【０１５９】
図１１（ｂ）に示す、一致パターンは、一致した方向の種類数を見る場合のテーブルを示している。本例では、８方向のすべてについて一致した画素が存在していることを示している。
【０１６０】
次に、図１１（ｂ）に示す、一致画素数の計算は、上記網掛けの部分を左上の１行１列の画素から、右下の１３行１３列の画素までの一致画素数を算出する方法の一例を示すものである。ここでは、勾配方向が与えられている画素で、モデルパターンの勾配方向と一致した画素を「１」とし、無方向及びモデルパターンの勾配方向と一致していない画素は「０」として計算している。なお、無方向と判定された画素は、最初から計算に含めない構成としても良い。ここでは、網掛けで示された一致画素数は「８５」であるとの算出結果を得ている。なお、この一致画素数をスコア（合致度）として用いても良いが、以下で説明するような正規化一致画素数（合致度）を用いても良い。
【０１６１】
次に、図１１（ｂ）に示す、正規化一致画素数について説明する。この正規化一致画素数は、例えば、照合精度を高めるためモデルパターンを複数種類用意してパターンマッチングを行なう場合（例えば、２１×２１、１３×１３、及び７×７画素の３種類のモデルパターン）に、モデルパターンのサイズに依存しない量として一致画素数を正規化するものである。
【０１６２】
ここでは、正規化一致画素数を、次式（６）で定義する。
【０１６３】
正規化一致画素数＝適当な定数×（一致画素数／モデル中の方向成分が存在する要素数）                      ・・・・（６）
なお、「適当な定数」は、計算の便宜等を考慮して適宜定めれば良い。ここでは、正規化一致画素数が０〜１０の範囲となるように、適当な定数＝１０と設定している。なお、以下で説明するパターンマッチングの例においても正規化一致画素数を使用しているが、説明は省略する。
【０１６４】
（６）式から、図１１（ａ）の場合の正規化一致画素数を求めると以下のようになる。
【０１６５】
正規化一致画素数＝１０×（８５／１３６）＝６．２５≒６
次に、図１２（ａ）は、照合効率化後の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングを説明するための概要図であり、図１２（ｂ）は、その合致度算出方法の一例を示す図である。
【０１６６】
図１２（ａ）は、図６（ｂ）の照合効率化後の照合領域と、図８（ａ）のモデルパターンとのパターンマッチングを行ったものを示している。ここで、図の中央の４行４列にある１×１画素（２×２画素に相当するものであるが、便宜上「画素」と言う。）は、スコアが付与される注目画素の位置である。網掛けされた部分は、照合領域とモデルパターンとで、勾配方向が一致している場合がある画素を示している。
【０１６７】
図１２（ｂ）に示す、一致パターンは、一致した方向の種類数を見る場合のテーブルを示している。本例では、８方向のすべてについて一致した画素が存在していることを示している。
【０１６８】
次に、図１２（ｂ）に示す、一致画素数の計算は、上記網掛けの部分を左上の１行１列の画素から、右下の７行７列の画素までの一致画素数を算出する方法の一例を示すものである。ここでは、例えば、１行２列では、照合領域では、勾配方向が「右下」の画素が「３つ」存在しており、一方、モデルパターンの勾配方向は、１つであるが、「右下」である。従って、この場合の一致画素数は、「３」と計算する。
【０１６９】
他の例では、２行１列では、照合領域では、勾配方向が「右下」の画素が「２つ」と、「右」が「１つ」存在しており、一方、モデルパターンの勾配方向は、１つであるが、「右下」である。勾配方向は、「右下」が「２つ」一致しているが、「右」は一致していない。従って、この場合の一致画素数は、「２」と計算する。なお、ここでは、無方向と判定された画素は、最初から計算に含めない構成としている。
【０１７０】
以上の計算をすべての画素について行なえば、網掛けで示された部分の一致画素数は「９１」であるとの算出結果を得ている。なお、この一致画素数をスコア（合致度）として用いても良いが、以下で説明するような正規化一致画素数を用いても良い。
【０１７１】
ここでは、正規化一致画素数を、次式（７）で定義する。
【０１７２】
正規化一致画素数＝適当な定数×（一致画素数／モデル中の方向成分が存在する要素数を４倍した値）                      ・・・・（７）
適当な定数＝１０と設定している。
【０１７３】
（７）式から、図１１（ａ）の場合の正規化一致画素数を求めると以下のようになる。
【０１７４】
正規化一致画素数＝１０×（９１／１７６）＝５．１７≒５
次に、図１３（ａ）は、照合効率化後の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングを説明するための概要図であり、図１３（ｂ）は、その合致度算出方法の一例を示す図である。
【０１７５】
図１３（ａ）は、図６（ｂ）の照合効率化後の照合領域と、図９（ａ）のモデルパターンとのパターンマッチングを行ったものを示している。ここで、図の中央の４行４列にある１×１画素（２×２画素に相当するものであるが、便宜上「画素」と言う。）は、スコアが付与される注目画素の位置である。網掛けされた部分は、照合領域とモデルパターンとで、勾配方向が一致している場合がある画素を示している。
【０１７６】
図１３（ｂ）に示す、一致パターンは、一致した方向の種類数を見る場合のテーブルを示している。本例では、８方向のすべてについて一致した画素が存在していることを示している。
【０１７７】
次に、図１３（ｂ）に示す、一致画素数の計算は、上記網掛けの部分を左上の１行１列の画素から、右下の７行７列の画素までの一致画素数を算出方法の一例を示すものである。ここでは、例えば、１行２列では、照合領域では、勾配方向が「右下」の画素が「３つ」存在しており、一方、モデルパターンの勾配方向は、２つであり、「右下」が「１つ」に「下」が「１つ」である。従って、「右下」が一致しているので、この場合の一致画素数は、「３」と計算する。
【０１７８】
他の例では、２行１列では、照合領域では、勾配方向が「右下」の画素が「２つ」と、「右」が「１つ」存在しており、一方、モデルパターンの勾配方向は、２つであるが、「右」が「１つ」と「右下」が「１つ」である。勾配方向は、「右」が「１つ」と「右下」が「２つ」一致している。従って、この場合の一致画素数は、「３」と計算する。なお、ここでは、無方向と判定された画素は、最初から計算に含めない構成としている。
【０１７９】
ここで、下線を引いた数字と、引いてない数字とが記載されているが、下線を引いた数字は、図１２（ａ）の場合と比較して、一致画素数が増加しているものを示している。
【０１８０】
この結果は、図８（ａ）のモデルパターンよりも図９（ａ）のモデルパターンを使用した場合の方が、より変形に強い（円形からの歪に対するロバスト性の高い）パターンマッチングが行なえることを示している。
【０１８１】
以上の計算をすべての画素について行なえば、網掛けで示された部分の一致画素数は「１１９」であるとの算出結果を得ている。なお、この一致画素数をスコア（合致度）として用いても良いが、以下で説明するような正規化一致画素数を用いても良い。
【０１８２】
（７）式から、図１３（ａ）の場合の正規化一致画素数を求めると以下のようになる。
【０１８３】
正規化一致画素数＝１０×（１１９／１７６）＝６．７６≒７
次に、図１４〜図１７（ｂ）に基づき、図１のスコア算出部１０が、一致画素数と合致パターンとを併用して、スコア（合致度）を算出する場合について説明する。
【０１８４】
図１４は、画像処理装置１におけるパターンマッチングにおいて一致画素数とパターン合致度とを併用する場合について説明するためのフローチャートである。
【０１８５】
図１４のＳ４０１では、一致画素数算出部７が、一致画素数を初期化して、Ｓ４０２に進む。Ｓ４０２では、パターン合致度算出部９が一致パターンの初期化を行ってＳ４０３に進む。ここでは、勾配方向の種類数を初期化している様子を示している。すべての勾配方向が「無」と表示されているのは、このことを示している。
【０１８６】
Ｓ４０３では、一致画素数算出部７とパターン合致度算出部９とが１画素ごとに（照合効率化後の画素も含む）勾配方向の照合等を行って、Ｓ４０４に進む。
【０１８７】
Ｓ４０４では、方向が一致すれば（Ｙｅｓ）Ｓ４０５に進み、一致画素数算出部７が一致画素数に一致した方向の要素数（効率化処理なしの場合は「１」）を加えてＳ４０６に進み、一方、方向が一致する画素が全くなければ、（Ｎｏ）Ｓ４０１に戻る。
【０１８８】
Ｓ４０６では、パターン合致度算出部９が一致した勾配方向を「有」と更新して、Ｓ４０７に進む。
【０１８９】
Ｓ４０７では、一致画素数算出部７及びパターン合致度算出部９がモデルパターンの全要素（画素）について照合が終了した場合には、（Ｙｅｓ）Ｓ４０８に進み、照合が終了していない場合には、（Ｎｏ）Ｓ４０３に戻る。
【０１９０】
Ｓ４０８では、パターン合致度算出部９が一致パターンのチェックを行ない、Ｓ４０９に進む。この一致パターンのチェックの詳細については、後に説明する。
【０１９１】
Ｓ４０９では、パターン合致度算出部９が、モデルパターン・比較用一致パターン格納部８を参照して、「許可パターン」に該当するか否かを判定し、許可パターンに該当する場合は、（Ｙｅｓ）Ｓ４１０に進む。一方、許可パターンに該当しない場合は、（Ｎｏ）Ｓ４０４に戻る。
【０１９２】
なお、パターン合致度算出部９は、「許可パターン」に該当する場合にはパターン合致度を「１」とし、「許可パターン」に該当しない場合にはパターン合致度を「０」とし、スコア算出部１０は、一致画素数算出部７が算出した一致画素数にこれらの数値を掛ける構成が考えられる。
【０１９３】
Ｓ４１０では、スコア算出部１０が、一致画素数算出部７が算出した一致画素数から正規化一致画素数を算出してパターンマッチングのスコア（合致度）とする。
【０１９４】
次に、図１５に基づき、上記パターンマッチングにおける一致パターンのチェックの一例について説明する。図１５は、パターン合致度算出過程の一例を示すフローチャートである。なお、ここでは、勾配方向の種類は８方向あり、勾配方向種類数の閾値（ＤＮ）を６に設定した場合について説明する。
【０１９５】
図１５に示すように、Ｓ５０１では、パターン合致度算出部９が、一致パターンの「有」の数が６以上の場合には、Ｓ５０２に進み、一致パターンの許可を行なう。
【０１９６】
一方、パターン合致度算出部９は、一致パターンの「有」の数（勾配方向種類数）が５以下の場合には、Ｓ５０３に進み、一致パターンの不許可を行なう。
【０１９７】
次に、図１６（ａ）〜図１６（ｃ）に基づき、一致パターンのチェックにおける第１の例を説明する。
【０１９８】
図１６（ａ）は、パターン合致度算出過程の一例を示す概要図であり、図１６（ｂ）は、パターン合致度算出過程の他の例を示す概要図であり、図１６（ｃ）は、パターン合致度算出過程のさらに他の例を示す概要図である。
【０１９９】
図１６（ａ）では、一致画素数は「２４」と算出している。また、勾配方向の一致パターンは、「８」方向がすべて存在しているので、閾値の６以上であり、図１５のフローでは、「許可パターン」と判定される。したがって、図１６（ａ）の場合には、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。
【０２００】
図１６（ｂ）では、一致画素数は「２４」と算出している。また、勾配方向の一致パターンは、「６」方向が存在しているので、閾値の６以上であり、図１５のフローでは、「許可パターン」と判定される。したがって、図１６（ｂ）の場合には、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。
【０２０１】
図１６（ｃ）では、一致画素数は「２４」と算出している。また、勾配方向の一致パターンは、「６」方向が存在しているので、閾値の６以上であり、図１５のフローでは、「許可パターン」と判定される。
【０２０２】
以上の結果、図１６（ｃ）の場合には、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。
【０２０３】
次に、図１７（ａ）〜図１７（ｃ）に基づき、一致パターンのチェックにおける第２の例を説明する。
【０２０４】
図１７（ａ）は、パターン合致度算出過程のさらに他の例を示す概要図であり、図１７（ｂ）は、パターン合致度算出過程のさらに他の例を示す概要図であり、図１７（ｃ）は、パターン合致度算出過程のさらに他の例を示す概要図である。
【０２０５】
図１７（ａ）では、一致画素数は「２４」と算出している。また、勾配方向の一致パターンは、「６」方向が存在しているので、閾値の６以上であり、図１５のフローでは、「許可パターン」と判定される。したがって、図１７（ａ）の場合には、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。
【０２０６】
図１７（ｂ）では、一致画素数は「２２」と算出している。また、勾配方向の一致パターンは、「４」方向が存在しているので、閾値の６未満であり、図１５のフローでは、「不許可パターン」と判定される。したがって、図１７（ｂ）の場合には、パターン合致度算出部９は、パターン合致度として「０」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２２」と「０」とを掛け算して「０」をスコアとする。
【０２０７】
図１７（ｃ）では、一致画素数は「２２」と算出している。また、勾配方向の一致パターンは、「４」方向が存在しているので、閾値の６未満であり、図１５のフローでは、「不許可パターン」と判定される。
【０２０８】
以上の結果、図１７（ｃ）の場合には、パターン合致度算出部９は、パターン合致度として「０」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２２」と「０」とを掛け算して「０」をスコアとする。
【０２０９】
以上のように、スコア算出部１０は、照合領域と、モデルパターンとの照合を行って、照合領域に含まれる勾配方向と、モデルパターンに含まれる勾配方向とが一致する画素数（一致画素数）、及び、照合領域に含まれる画素ごとの勾配方向とモデルパターンに含まれる画素ごとの勾配方向との一致パターンと、あらかじめ定められた比較用一致パターンとが類似する度合いを示すパターン合致度から、スコア（合致度）を算出する。
【０２１０】
次に、スコア算出部１０が照合領域の形状とモデルパターン形状の一部の形状とのマッチングの度合いを示す部分的合致度を算出する場合について説明する。ここでは、スコア算出部１０が、一致画素数と合致パターンとを併用して、部分的合致度を算出する場合について説明する。なお、ここでは、スコア算出部１０が完全合致度を算出する場合と異なる点について説明するものとし、同じ点については説明を繰り返さない。
【０２１１】
上述したように、図１７（ｂ）及び（ｃ）の場合、照合領域は「不許可パターン」と判定されており、この場合にはスコア算出部１０が完全合致度を算出することはない。
【０２１２】
このような場合、パターン合致度算出部９は、図１４に示したフローに従って、今度は、モデルパターン・比較用一致パターン格納部８に格納されている比較用部分的一致パターンを用いてパターン照合を実行する。
【０２１３】
すなわち、図１４のＳ４０８において、パターン合致度算出部９がモデルパターン・比較用一致パターン格納部８を参照して、比較用部分一致パターンに対応する「許可パターン」を用いて、チェックを行なうことになる。
【０２１４】
具体的には、図１５のＳ５０１において、パターン合致度算出部９が、一致パターンの「有」の数に基づいて、一致パターンの許可／不許可を行なう。勾配方向の種類が８方向あり、勾配方向種類数の閾値（ＤＮ）が４である場合、比較用部分一致パターンの「有」の数が４であれば、Ｓ５０２に進み、一致パターンの許可を行なう。一方、パターン合致度算出部９は、一致パターンの「有」の数が４未満の場合には、Ｓ５０３に進み、一致パターンの不許可を行なう。
【０２１５】
図２１は、部分的パターン合致度算出過程の一例を示す概要図である。図２１では、一致画素数は「２０」と算出している。また、勾配方向の一致パターンは、「４」方向が存在しているので、閾値の４以上であり、図１５のフローでは、「許可パターン」と判定される。したがって、図２１の場合には、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２０」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。
【０２１６】
（６．ポインティング位置特定過程）
次に、画像処理装置１におけるポインティング位置特定過程について説明する。
【０２１７】
図１８は、画像処理装置１の動作のうち、ポインティング位置座標算出過程の動作を示すフローチャートである。
【０２１８】
Ｓ６０１では、ピーク探索部１２が、注目画素の周囲で所定の画素数を含む第１領域（探索領域）内で、スコア算出部１０が算出した合致度が最大値をとる画素であるピーク画素を探索して、ピーク画素を発見したらＳ６０２に進む。なお、図示していないが、ピーク探索部１２が、ピーク画素を発見できない場合には、注目画素を所定数（例えば、第１領域の注目画素から端の画素までの最短コース（第２領域の一辺のサイズ））ずらしてＳ６０１に戻る。
【０２１９】
Ｓ６０２では、座標算出判定部１３が、第１領域と共通の注目画素をもち、第１領域の画素数よりも少ない所定の画素数を有すると共に、第１領域に完全に包含される第２領域（小領域）内に、ピーク探索部１２が発見したピーク画素が存在することを判定した場合には、Ｓ６０３に進み、座標算出判定部１３は、「ピーク画素あり」と判定し、Ｓ６０４に進む。一方、座標算出判定部１３が、第２領域（小領域）内に、ピーク探索部１２が発見したピーク画素が存在しなかった場合には、Ｓ６０５に進み、座標算出判定部１３は、「ピーク画素なし」と判定し、注目画素を所定数（例えば、第１領域の注目画素から端の画素までの最短コース（第２領域の一辺のサイズ））ずらしてＳ６０１に戻る。
【０２２０】
以上の手順は、座標算出部１４がポインティング（補間）位置を算出するまで繰り返される。
【０２２１】
Ｓ６０４では、座標算出部１４が、ピーク探索部１２が発見したピーク画素を中心とする所定の画素数を含む領域であるピーク画素領域内の、画素ごとのスコアを用いて、撮像対象による撮像画像上の指示位置を算出して「ＥＮＤ」となる。
【０２２２】
なお、上述の説明では、座標算出部１４がポインティング（補間）位置を算出するまで処理を繰り返す場合について説明したが、複数のポインティング（補間）位置を算出可能な構成としてもよく、この場合、画像全体に対して処理を終了するまで、第１・第２領域を移動して、図１８に示すフローチャートの処理を実行すればよい。
【０２２３】
次に、図１９（ａ）及び図１９（ｂ）を用いて、ピーク画素の有無の判定について説明する。
【０２２４】
図１９（ａ）は、画像処理装置１における座標算出判定部１３が、ピーク画素が無いと判定する場合を説明するための概要図であり、（ｂ）は、座標算出判定部１３が、ピーク画素が有ると判定する場合を説明するための概要図である。
【０２２５】
図１９（ａ）に示す実線が第１領域であり、破線が第２領域である。第１領域の画素数は、９×９画素であり、第２領域の画素数は、５×５画素である。それぞれ、奇数×奇数としているのは、中央の注目画素が１画素となるようにするためである。
【０２２６】
図１９（ａ）の例では、第１領域内にピーク画素である「９」が存在しているが、該ピーク画素は、第２領域内には存在していない。したがって、この場合は、座標算出判定部１３は、「ピーク画素なし」と判定する。
【０２２７】
一方、図１９（ｂ）の例では、第１領域内にピーク画素である「９」が存在しており、かつ、第２領域内にも存在している。したがって、この場合は、座標算出判定部１３は、「ピーク画素あり」と判定する。
【０２２８】
なお、上述の例では、第１領域にピーク画素が存在している場合において、第２領域内にピーク画素が無い場合には、第１領域の注目画素から端の画素までの最短コース（第２領域の一辺のサイズ）である「５画素」だけ、第１領域及び第２領域を動かせば、必ず、ピーク画素が第２領域内に入ってくるように、第１領域と第２領域との画素数との差が設定されている。
【０２２９】
次に、図２０（ａ）及び図２０（ｂ）に基づき、座標算出部１４のポインティング（補間）座標（撮像対象による撮像画像上の指示位置）算出方法について説明する。
【０２３０】
図２０（ａ）は、画像処理装置１における撮像対象による撮像画像上における指示位置の算出のために使用されるピーク画素領域について説明するための概要図であり、図２０（ｂ）は、画像処理装置１におけるポインティング（補間）座標の座標算出方法を説明するための概要図である。
【０２３１】
図２０（ａ）は、座標算出判定部１３が「ピーク座標あり」と判定した場合であり、図１９（ｂ）の場合と同じである。
【０２３２】
なお、図２０（ａ）は第１領域及び第２領域とも破線の領域で示されている。一方、実線で示した５×５画素の領域が、ピーク画素を中心とする所定の画素数を含む領域であるピーク画素領域である。
【０２３３】
図２０（ａ）に示す例では、このピーク画素領域も第２領域と同様に、第１領域に完全に包含されている。この場合は、ピーク画素領域内のスコアをあらためて調べる必要が無い。このように、第２領域の端にピーク画素が存在する場合でも、ピーク画素領域が第１領域内に包含されるように構成することが好ましい。
【０２３４】
次に、図２０（ｂ）に基づき、座標算出部１４のポインティング座標算出方法について説明する。
【０２３５】
本例では、画像データの画素数が、３２０×２４０画素である場合に、図１の低解像度化部２が、バイリニア縮小を２回行ない、さらに、効率化部６が、２×２画素について照合効率化を行ない、スコア画像（スコアのデータを画素ごとに付与したもの）のサイズが４０×３０画素になっている場合を想定している。
【０２３６】
したがって、スコア画像の全領域を８倍に拡大したものが、画像データの全領域に相当する。したがって、補間量（スケール拡大量）＝８となっている。
【０２３７】
具体的な計算方法は、以下のとおりである。まず、ピーク画素領域における行ごとのスコアの和を計算する（図２０（ｂ）の１９、２８、３３、２４、及び１１）。
【０２３８】
次に、ピーク画素領域における列ごとのスコアの和を計算する（図２０（ｂ）の１６、２４、２８、２６、及び２１）。また、ピーク画素領域内（５×５画素）のスコアの総和を求める（図２０（ｂ）の１１５）。
【０２３９】
次に、ピーク画素領域内のスコアの値が質量分布に相当するものとして、スコア画像の全領域における重心座標を求め、スケールを８倍に拡大すると、次式（８）及び（９）の座標を得る。
【０２４０】
【数２】
2010055576.tif 000004
【０２４１】
【数３】
2010055576.tif 000005
【０２４２】
次に、画素のサイズを考慮して目盛り位置の調整を行なうと、ポインティング座標（Ｘ，Ｙ）は、次式（１０）となる。
【０２４３】
【数４】
2010055576.tif 000006
【０２４４】
以上によれば、ピーク探索部１２は、第１領域（探索領域）内で探索するので、全画素数を含む画像データ領域において、ピーク画素を探索するよりも処理コストを低減、及びメモリ容量を少量化させることができる。
【０２４５】
例えば、第１領域の画素数が小さいということは、データ画像（スコア画像）全体（＝全画素）のスコアをバッファに保存しておく必要がなく、ピーク探索を実行する第１領域に必要なメモリ容量（例えば９×９画素の第１領域の場合、９ライン分のラインバッファ）があればよい、ということになる。
【０２４６】
このように、ラインバッファで実装することにより、メモリ容量を少量化できる効果は、ピーク探索に限らず、縦横の各勾配量の一時保存や、勾配方向の一時保存等、後段処理に受け渡す際にバッファメモリが介在するような実装を行なう場合には、全て共通して言えることである。
【０２４７】
さらに、座標算出部１４は、ピーク探索部１２が発見したピーク画素を中心とする所定の画素数を含む領域であるピーク画素領域内の、画素ごとのスコアを用いて、ポインティング位置を算出する。例えば、エッジ画像を用いてその重心位置からポインティング位置を求める場合、撮像画像が歪な形に変形するほど算出が困難になると考えられる。
【０２４８】
しかし、画像処理装置１では、ピーク画素領域内の、画素ごとのパターンマッチングによるスコアを用いて、ポインティング位置を算出する。このパターンマッチングにおけるスコアの最大値近傍は、撮像画像が歪な形に変形したとしても、該最大値近傍を中心として、放射状に合致度が減少していくという、ほぼ変形前と同様の分布傾向を示すものと考えられる。
【０２４９】
したがって、撮像画像が歪な形に変形するか否かに関係なく、所定の手順（例えば、ピーク画素領域内でスコアの重心を算出する等）で、ポインティング位置を算出することができる。それゆえ、座標位置の検出精度の維持との両立を図りつつ、ポインティング位置を算出するための画像処理量の軽減、処理コストの低減、及びメモリ容量の少量化が可能となる。
【０２５０】
以上より、撮像対象の撮像画像へのタッチ・非タッチの検出に関係なく、１フレームの画像データのみを用いたパターンマッチングを行なうことで、ポインティング位置の検出を可能としてメモリ容量を少量化し、及び処理時間を短縮化しつつ、ポインティング位置の算出において、画像処理量の軽減とポインティング位置の検出精度の維持との両立、及びメモリ容量の少量化を実現することができる画像処理装置１を提供することができる。
【０２５１】
また、座標算出判定部１３は、第１領域と共通の注目画素をもち、第１領域の画素数よりも少ない所定の画素数を有すると共に、第１領域内に完全に包含される第２領域（小領域）内に、ピーク探索部１２が発見したピーク画素が存在することを判定した場合に、座標算出部１４にポインティング位置を算出させることが好ましい。
【０２５２】
ピーク画素領域は、第２領域内に存在するピーク画素を注目画素としてその周囲に広がる領域であるので、第１領域と共通する画素が多数存在することになる。また、ピーク画素領域と第１領域との共通の画素のスコアは既に算出されているので、非共通の画素のスコアを調べれば、座標算出部１４にポインティング位置を算出させることができる。
【０２５３】
また、ピーク画素領域と第１領域とのそれぞれの画素数を調整すれば、ピーク画素領域を第１領域に包含させることも可能である。この場合、ピーク画素領域の各画素のスコアは既に判明しているので、ポインティング位置算出のためにあらためて判明していない各画素のスコアを調べる必要が無い。
【０２５４】
以上より、ポインティング位置の算出において、さらに画像処理量の軽減及びメモリ容量の少量化を実現することができる。また、ピーク座標判定時に第１領域の外側に向けてスコアの上昇が連接している場合への対応と、ハードウェア実装等において各処理モジュールをパイプライン処理する際等に、参照すべきスコアの保持バッファ容量を少量化（例えば画像全体ではなく９ラインのみ）できる。
【０２５５】
（７．結合過程）
次に、画像処理装置１における結合過程について説明する。
【０２５６】
上述したように、図１に示すパターン合致度算出部９は、照合領域とモデルパターンとの間における画素ごとの勾配方向の一致パターンと比較用一致パターンとが類似する度合いを示すパターン合致度を算出している。このパターン合致度のうち、比較用部分的一致パターンとの類似の度合いを示す部分的パターン合致度は、パターン合致度算出部９からパターン情報格納部１６に出力されており、パターン情報格納部１６は、部分的パターン合致度の算出ごとに、それらを順次格納している。
【０２５７】
また、この部分的パターン合致度がパターン情報格納部１６に格納される際、その照合領域とモデルパターンとの間における勾配方向の一致パターンの「有」の数（勾配方向種類数）も、同時にパターン情報格納部１６に格納されている。
【０２５８】
そして、パターン結合部１５が、このようにしてパターン情報格納部１６に格納された一致パターンの「有」の種類を用いて、モデルパターン形状の一部の形状に一致する形状を持つ照合領域においてモデルパターン形状と一致しない部分（以下、「開放部分」と呼ぶ。）における照合領域内部から外部へ向かう方向（以下、「開放方向」と呼ぶ。）を特定する。
【０２５９】
図２２に、照合領域とモデルパターンとの間における勾配方向の一致パターンの「有」の種類と開放方向との対応関係の一例を示す。図２２においては、４つの例が示されており、例えば第１番目の例では、開放方向が図上、下方向に向いている。無論、開放方向は８方向に限られるものではなく、例えば１６方向等、より細かく設定してもよい。
【０２６０】
また、図２２に示した例は、一例に過ぎず、例えば図２３に示すように、図２２の第１番目の例における一致パターンの「有」の方向を４５度ずつ回転させていったものも含まれる。図２３には、８つの例が示されており、例えば第２番目の例では、図２２の第１番目の例に対して、４５度左回転したものとなっており、第３番目の例では、図２２の第１番目の例に対して、９０度左回転したものとなっている。同様に、図２２の第２〜４番目の各例における一致パターンの「有」の方向を４５度ずつ回転させていったものも含まれる。
【０２６１】
なお、本実施の形態においては、上述したように、勾配方向の一致パターンの「有」の種類を用いて開放方向を特定しているが、本発明はこれに限られるものではない。要は、照合領域がモデルパターンと一致する部分の位置に基づいて照合領域の開放方向を特定すればよい。すなわち、照合領域内部から、照合領域がモデルパターンと一致しない部分に向かう方向を開放方向とすればよい。
【０２６２】
このようなパターン情報を用いて、パターン結合部１５は、モデルパターン形状の一部の形状に一致する形状を持つ照合領域の各々の開放方向を特定する。
【０２６３】
次に、図２４〜図２７を用いて、結合条件格納部１７にあらかじめ格納されている結合条件について説明する。
【０２６４】
上述したように、パターン結合部１５は、結合条件格納部１７にあらかじめ格納されている結合条件を用いて、モデルパターン形状の一部の形状に一致する形状を持つ照合領域のうち、単一領域として互いに結合すべきものがあるか否かを判断し、その結合すべきとの判断に基づいて、それら照合領域を結合する。なお、ここでは、モデルパターン形状が円形状、モデルパターン形状の一部の形状に一致する形状を持つ照合領域の形状が半円形状、単一領域として結合されるべき領域の形状が楕円形状である場合を例として説明する。
【０２６５】
このような場合においては、パターン結合部１５は、以下の結合条件を用いることになる。もちろん、以下の述べる条件は単なる一例に過ぎず、モデルパターン形状等によって異なるものである。無論、本発明はこのような例に限定されるものではない。モデルパターンの形状及びその結合条件を適切に設定することにより、あらかじめ用意されたモデルパターンとは異なるパターンの認識を実現することができる。
【０２６６】
（ａ）距離条件
（ｂ）開放方向条件
まず、（ａ）距離条件について説明する。図２４及び図２５は、この距離条件を説明するための図である。第１に、図２４に示すように、２つの照合領域同士の距離をｄ、モデルパターンの半径をｒとした場合、ｄがｒ／２以上であることが必要である。
【０２６７】
第２に、図２５に示すように、ｄが所定の距離（ここでは、３ｃｍ）以下であることが必要である。なお、この所定の距離は、例えば、撮像対象が利用者の指腹である場合、表示画面上における指腹の広がり具合から定められたものである。利用者の指腹の大きさとしてはこの程度を見れば十分と思われるからである。また、所定の距離を用いるのに代えて、表示画面上においてこの所定の距離に相当する画素数を用いて結合条件を設定してもよい。例えば、３．５インチのＨＶＧＡ（３２０×４８０画素）の場合、１ｃｍが約６５ピクセルであり、３ｃｍであれば約１９５ピクセルに相当する。したがって、この場合であれば、ｄが１９５ピクセル以下であることを結合条件とすることができる。
【０２６８】
次に、（ｂ）開放方向条件について説明する。図２６及び図２７は、この開放方向条件を説明するための図である。第１に、図２６に示すように、２つの照合領域の開放方向が互いに向かい合っていることが必要である。この向かい合っているか否かの判定は、例えば、一方の開放方向を１８０度回転させて、２つの開放方向が一致するか否かによって行なえばよい。２つの開放方向が互いに向かい合っていれば、２つの開放方向が一致する筈だからである。
【０２６９】
第２に、図２７に示すように、２つの照合領域の開放方向が同一の直線上に載ることが必要である。この同一直線上に載るか否かの判定は、例えば、２つの照合領域の各々中心座標同士を結ぶ直線の方向を求めて、この方向が図２６を用いて説明した２つの開放方向が一致した方向に一致するか否かによって行なえばよい。なお、２つの照合領域の各々中心座標同士を結ぶ直線を１８０度回転させたものに対して、図２６の２つの開放方向が一致した方向と一致するか否かを判定しても無論構わない。
【０２７０】
パターン結合部１５は、このような結合条件が満たされているか否かを判定し、結合条件を満たしているとの判定結果に基づいて、半円形状である２つの照合領域を結合させ、楕円形状の領域とする。
【０２７１】
また、パターン結合部１５は、このような結合を行なった場合、２つの照合領域の位置から結合された領域の位置を算出し、撮像対象による撮像画像上の指示位置を特定する。
【０２７２】
なお、以上では、単一領域として結合されるべき領域の形状が楕円形状である場合を例として説明したが、本発明はこれに限られるものではない。例えば、後述する「黒色背景画像内に存在する白色Ｌ字型形状」、「黒色背景画像内に存在する星型形状」である場合であっても、本発明は適用可能である。なお、上記のいずれの場合でも、モデルパターン形状は円形状とする。
【０２７３】
まず、「黒色背景画像内に存在する白色Ｌ字型形状」の場合について説明する。例えば、図２８及び図２９に示すような、モデルパターン形状の一部の形状に一致する形状を持つ照合領域が存在したとする。具体的には、図２８は、モデルパターン形状の端部形状を持つ照合領域を表わしており、図２９は、略Ｌ字型形状を持つ照合領域を表わしている。なお、モデルパターンの白黒反転を行なうことによって、図２９の形状の白黒をちょうど反転させた形状を持つ照合領域も無論存在する。
【０２７４】
このような場合においては、パターン結合部１５は、以下の結合条件を用いることになる。
【０２７５】
図３０に示すように、（ａ）距離条件としては、各照合領域ａ〜ｄが互いに所定の距離だけ離れていることが必要とされる。この所定の距離は、複数の照合領域が結合されるＬ字型形状の領域の大きさに基づいてあらかじめ定められている。
【０２７６】
また、（ｂ）開放方向条件としては、照合領域ａの開放方向に照合領域ｂ、ｄが存在し、照合領域ｃの開放方向に照合領域ｂ、ｄが存在し、照合領域ｂの開放方向に照合領域ｄが存在することが必要となる。
【０２７７】
次に、「黒色背景画像内に存在する星型形状」である場合について説明する。この場合においては、パターン結合部１５は、以下の結合条件を用いることになる。
【０２７８】
すなわち、図３１に示すように、（ａ）距離条件としては、各照合領域ａ〜ｄが互いに所定の距離だけ離れていることが必要とされる。この所定の距離は、複数の照合領域が結合される星型形状の領域の大きさに基づいてあらかじめ定められている。
【０２７９】
また、（ｂ）開放方向条件としては、照合領域ａと照合領域ｄ間の距離と照合領域ａと照合領域ｅ間の距離とが略同一であり、照合領域ｂの開放方向に照合領域ｃが存在し、照合領域ｂと照合領域ｃとを結ぶ直線が照合領域ｄと照合領域ｅとを結ぶ直線と略並行であり、照合領域ｂと照合領域ｃとを結ぶ直線が照合領域ａと照合領域ｄとを結ぶ直線及び照合領域ａと照合領域ｅとを結ぶ直線と交差することが必要となる。
【０２８０】
なお、画像処理装置１の各ブロック、特に低解像度化部２、縦勾配量算出部３ａ、横勾配量算出部３ｂ、エッジ抽出部４、方向特定部５、効率化部６、一致画素数算出部７、パターン合致度算出部９、スコア算出部１０、位置特定部１１、及び、パターン結合部１５は、ハードウェアロジックによって構成してもよいし、次のようにＣＰＵを用いてソフトウェアによって実現してもよい。
【０２８１】
すなわち、画像処理装置１は、各機能を実現する制御プログラムの命令を実行するＣＰＵ（central processing unit）、上記プログラムを格納したＲＯＭ（read only memory）、上記プログラムを展開するＲＡＭ（random access memory）、上記プログラムおよび各種データを格納するメモリ等の記憶装置（記録媒体）等を備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである画像処理装置１の制御プログラムのプログラムコード（実行形式プログラム、中間コードプログラム、ソースプログラム）をコンピュータで読み取り可能に記録した記録媒体を、上記画像処理装置１に供給し、そのコンピュータ（またはＣＰＵやＭＰＵ）が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
【０２８２】
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやコンパクトディスク−ＲＯＭ／ＭＯ／ＭＤ／デジタルビデオデイスク／コンパクトディスク−Ｒ等の光ディスクを含むディスク系、ＩＣカード（メモリカードを含む）／光カード等のカード系、あるいはマスクＲＯＭ／ＥＰＲＯＭ／ＥＥＰＲＯＭ／フラッシュＲＯＭ等の半導体メモリ系等を用いることができる。
【０２８３】
また、画像処理装置１を通信ネットワークと接続可能に構成し、その通信ネットワークを介して上記プログラムコードを画像処理装置１に供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、ＬＡＮ、ＩＳＤＮ、ＶＡＮ、ＣＡＴＶ通信網、仮想専用網（virtual private network）、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、ＩＥＥＥ１３９４、ＵＳＢ、電力線搬送、ケーブルＴＶ回線、電話線、ＡＤＳＬ回線等の有線でも、ＩｒＤＡやリモコンのような赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）、８０２．１１無線、ＨＤＲ、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
【０２８４】
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【産業上の利用可能性】
【０２８５】
本発明の画像処理装置は、例えば携帯電話やＰＤＡ等のように、液晶等の表示装置のディスプレイにタッチすることにより、操作や指示を行なうような装置に適用することができる。具体的には、表示装置として、例えば、アクティブマトリクス型の液晶表示装置に用いることができると共に、電気泳動型ディスプレイ、ツイストボール型ディスプレイ、微細なプリズムフィルムを用いた反射型ディスプレイ、デジタルミラーデバイス等の光変調素子を用いたディスプレイの他、発光素子として、有機ＥＬ発光素子、無機ＥＬ発光素子、ＬＥＤ（Light Emitting Diode）等の発光輝度が可変の素子を用いたディスプレイ、フィールドエミッションディスプレイ（ＦＥＤ）、プラズマディスプレイにも利用することができる。
【図面の簡単な説明】
【０２８６】
【図１】本発明の実施の形態における画像処理装置の構成を示すブロック図である。
【図２】（ａ）は、周囲が暗い場合における指腹の撮像画像の様子を示す概要図、（ｂ）は、周囲が暗い場合における指腹の撮像画像の特徴を示す概要図、（ｃ）は、周囲が明るい場合における指腹の撮像画像の様子を示す概要図、（ｄ）は、周囲が明るい場合における指腹の撮像画像の特徴を示す概要図、（ｅ）は、周囲が暗い場合におけるペン先の撮像画像の様子を示す概要図、（ｆ）は、周囲が暗い場合におけるペン先の撮像画像の特徴を示す概要図、（ｇ）は、周囲が明るい場合におけるペン先の撮像画像の様子を示す概要図、（ｈ）は、周囲が明るい場合におけるペン先の撮像画像の特徴を示す概要図である。
【図３】画像処理装置の全体的な動作の概要を示すフローチャートである。
【図４】画像処理装置の動作のうち、勾配方向・無方向特定過程の動作を示すフローチャートである。
【図５】（ａ）は、勾配方向・無方向特定過程において参照されるテーブルの一例であり、（ｂ）は、勾配方向・無方向特定過程において参照されるテーブルの他の例である。
【図６】（ａ）は、周囲が暗い場合における画像データの勾配方向の特徴を示す概要図であり、（ｂ）は、同図について照合効率化を行った後の様子を示す概要図である。
【図７】（ａ）は、周囲が暗い場合における照合効率化前のモデルパターンの一例を示す概要図であり、（ｂ）は、周囲が明るい場合における照合効率化前のモデルパターンの一例を示す概要図である。
【図８】（ａ）は、周囲が暗い場合における照合効率化後のモデルパターンの一例を示す概要図であり、（ｂ）は、周囲が明るい場合における照合効率化後のモデルパターンの一例を示す概要図である。
【図９】（ａ）は、周囲が暗い場合における照合効率化後のモデルパターンの他の例を示す概要図であり、（ｂ）は、周囲が明るい場合における照合効率化後のモデルパターンの他の例を示す概要図である。
【図１０】画像処理装置の動作のうち、パターンマッチング過程の動作を示すフローチャートである。
【図１１】（ａ）は、照合効率化前の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングを説明するための概要図であり、（ｂ）は、その合致度算出方法の一例を示す図である。
【図１２】（ａ）は、照合効率化後の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングの一例を説明するための概要図であり、（ｂ）は、その合致度算出方法の一例を示す図である。
【図１３】（ａ）は、照合効率化後の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングの他の例を説明するための概要図であり、（ｂ）は、その合致度算出方法の一例を示す図である。
【図１４】画像処理装置におけるパターンマッチングにおいて一致画素数とパターン合致度とを併用する場合について説明するためのフローチャートである。
【図１５】パターン合致度算出過程の一例を示すフローチャートである。
【図１６】（ａ）は、パターン合致度算出過程の一例を示す概要図であり、（ｂ）は、パターン合致度算出過程の他の例を示す概要図であり、（ｃ）は、パターン合致度算出過程のさらに他の例を示す概要図である。
【図１７】（ａ）は、パターン合致度算出過程のさらに他の例を示す概要図であり、（ｂ）は、パターン合致度算出過程のさらに他の例を示す概要図であり、（ｃ）は、パターン合致度算出過程のさらに他の例を示す概要図である。
【図１８】画像処理装置の動作のうち、ポインティング位置座標算出過程の動作を示すフローチャートである。
【図１９】（ａ）は、画像処理装置における座標算出判定部のピーク画素が無いと判定する場合を説明するための概要図であり、（ｂ）は、画像処理装置における座標算出判定部のピーク画素が有ると判定する場合を説明するための概要図である。
【図２０】（ａ）は、画像処理装置における撮像対象による撮像画像上の指示位置を算出するために使用されるピーク画素領域について説明するための概要図であり、（ｂ）は、画像処理装置における前記指示位置の座標算出方法を説明するための概要図である。
【図２１】部分的パターン合致度算出過程の一例を示す概要図である。
【図２２】照合領域とモデルパターンとの間における勾配方向の一致パターンの「有」の種類と開放方向との対応関係を示す図である。
【図２３】照合領域とモデルパターンとの間における勾配方向の一致パターンの「有」の種類と開放方向との他の対応関係を示す図である。
【図２４】結合条件を説明するための図である。
【図２５】結合条件を説明するための図である。
【図２６】結合条件を説明するための図である。
【図２７】結合条件を説明するための図である。
【図２８】モデルパターンの一部に一致する形状を持つ照合領域を説明するための図である。
【図２９】モデルパターンの一部に一致する形状を持つ他の照合領域を説明するための図である。
【図３０】結合条件を説明するための図である。
【図３１】結合条件を説明するための図である。
【符号の説明】
【０２８７】
１    画像処理装置
２    低解像度化部
３ａ    縦勾配量算出部（特徴量算出手段）
３ｂ    横勾配量算出部（特徴量算出手段）
４    エッジ抽出部（特徴量算出手段）
５    方向特定部（特徴量算出手段）
６    効率化部
７    一致画素数算出部
８    モデルパターン・比較用一致パターン格納部
９    パターン合致度算出部（合致度算出手段）
１０    スコア算出部（合致度算出手段）
１１    位置特定部（位置特定手段）
１２    ピーク探索部
１３    座標算出判定部
１４    座標算出部
１５    パターン結合部（領域結合手段）
１６    パターン情報格納部
１７    結合条件格納部
２０    電子機器
６１、６２、６３、６４  撮像画像
６５    表示画面
６６    外光
【図１】
2010055576.tif 000007
【図２】
2010055576.tif 000008
【図３】
2010055576.tif 000009
【図４】
2010055576.tif 000010
【図５】
2010055576.tif 000011
【図６】
2010055576.tif 000012
【図７】
2010055576.tif 000013
【図８】
2010055576.tif 000014
【図９】
2010055576.tif 000015
【図１０】
2010055576.tif 000016
【図１１】
2010055576.tif 000017
【図１２】
2010055576.tif 000018
【図１３】
2010055576.tif 000019
【図１４】
2010055576.tif 000020
【図１５】
2010055576.tif 000021
【図１６】
2010055576.tif 000022
【図１７】
2010055576.tif 000023
【図１８】
2010055576.tif 000024
【図１９】
2010055576.tif 000025
【図２０】
2010055576.tif 000026
【図２１】
2010055576.tif 000027
【図２２】
2010055576.tif 000028
【図２３】
2010055576.tif 000029
【図２４】
2010055576.tif 000030
【図２５】
2010055576.tif 000031
【図２６】
2010055576.tif 000032
【図２７】
2010055576.tif 000033
【図２８】
2010055576.tif 000034
【図２９】
2010055576.tif 000035
【図３０】
2010055576.tif 000036
【図３１】
2010055576.tif 000037