(57)【要約】【課題】多数の交点を用いながら完全なモデルマッチングを必要せずに、カメラ画像からホモグラフィ行列を精度良く算出する。【解決手段】特徴ベクトル要素生成部５２は、検知された交点ごとに特徴ベクトル要素を生成する。交点ごとに各方向へ延びるフィールドラインの存否が、4ビットのバイナリデータで構成される特徴ベクトル要素の各ビットに割り当てられ、「UP」方向への存否が最上位ビット（MSB1）に割り当てられる。「RIGHT」方向への存否がMSB2に割り当てられ、「DOWN」方向への存否がMSB3に割り当てられ、「LEFT」方向への存否が最下位ビット（MSB4）に割り当てられる。各ビットに対して、フィールドラインが存在していれば「１」、存在していなければ「０」がセットされる。「UP」方向の垂直フィールドラインと「LEFT」方向の垂直フィールドラインとが検知されている交点の特徴ベクトル要素は"1001"となる。【選択図】図７
2018137667.tif 000002
【特許請求の範囲】
【請求項１】
フィールドモデルとカメラ画像との間のホモグラフィ行列に基づいてカメラキャリブレーションを行う装置において、
カメラ画像からフィールドラインを抽出する手段と、
フィールドラインの交点を計算する手段と、
前記交点ごとに当該交点を通るフィールドラインの数および向きに基づいてカメラ交点特徴ベクトル要素を生成する手段と、
各カメラ交点特徴ベクトル要素を所定の順序で配列してカメラ交点特徴ベクトルVcを生成する手段と、
フィールドモデルの各フィールドラインの交点ごとにモデル交点特徴ベクトル要素を生成する手段と、
カメラ交点特徴ベクトルVcの各カメラ交点特徴ベクトル要素と交点の配列が類似するモデル交点特徴ベクトル要素の組み合わせごとに当該各モデル交点特徴ベクトル要素を前記所定の順序で配列して複数のモデル交点特徴ベクトルVmを生成する手段と、
前記カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとを比較して類似度の高いモデル交点特徴ベクトルVmを抽出する手段と、
前記類似度の高いモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応関係に基づいて対応点を設定する手段と、
前記対応点に基づいてホモグラフィ行列を計算する手段とを具備したことを特徴とするカメラキャリブレーション装置。
【請求項２】
前記モデル交点特徴ベクトルVmを生成する手段は、類似度の高い上位Nベストのモデル交点特徴ベクトルVmを抽出し、
前記Nベストのモデル交点特徴ベクトルVmを評価する手段を具備し、
最も評価の高いモデル交点特徴ベクトルVmにおける対応点に基づいてホモグラフィ行列を計算することを特徴とする請求項１に記載のカメラキャリブレーション装置。
【請求項３】
前記評価する手段は、
フレーム画像の左右の境界線を各ホモグラフィ行列でフィールドモデルに投影して各対応する線分を求める手段と、
前記各対応する線分の交点をカメラポイントとして登録する手段と、
n番目のフレーム画像に基づいて登録されたカメラポイントとm番目のフレーム画像に基づいて登録されたカメラポイントとの変位を計算する手段とを具備し、
前記変位が最小値を示すホモグラフィ行列の評価を最も高くすることを特徴とする請求項２に記載のカメラキャリブレーション装置。
【請求項４】
前記モデル交点特徴ベクトルVmを生成する手段は、カメラ画像の各交点を計算する各フィールドラインに対応するフィールドモデル上の各フィールドラインの組み合わせ候補ごとに計算されるモデル交点特徴ベクトル要素に基づいてモデル交点特徴ベクトルVmを生成することを特徴とする請求項１ないし３のいずれかに記載のカメラキャリブレーション装置。
【請求項５】
前記各特徴ベクトル要素が、各交点から延びるフィールドラインの向きの数をビット長とするバイナリデータであり、各方向に延びるフィールドラインが抽出されたか否かに応じて各ビット値が2値のいずれかに設定されることを特徴とする請求項１ないし４のいずれかに記載のカメラキャリブレーション装置。
【請求項６】
前記各特徴ベクトル要素が4ビットのバイナリデータであり、各ビット位置には各交点から延びる相互に直行する4方向のそれぞれが対応付けられたことを特徴とする請求項５に記載のカメラキャリブレーション装置。
【請求項７】
前記カメラ交点特徴ベクトル要素を生成する手段は、カメラ画像上で各交点から各方向に所定範囲内でフィールドライン画素の探索を繰り返して発見数を積算し、積算値が所定の閾値を超えると当該方向にフィールドラインが延びている判別することを特徴とする請求項５または６に記載のカメラキャリブレーション装置。
【請求項８】
前記カメラ交点特徴ベクトル要素を生成する手段は、フィールドライン画素の発見率の少ない向きの探索を途中で中断することを特徴とする請求項７に記載のカメラキャリブレーション装置。
【請求項９】
前記フィールドラインを抽出する手段が、抽出された各フィールドラインを垂直フィールドラインおよび水平フィールドラインのいずれかに分類する手段を具備し、
前記交点を計算する手段は、各垂直フィールドラインと各水平フィールドラインとの交点を計算することを特徴とする請求項１ないし８のいずれかに記載のカメラキャリブレーション装置。
【請求項１０】
前記カメラ交点特徴ベクトルVcを生成する手段は、各交点のカメラ交点特徴ベクトル要素を当該各交点がラスタスキャンされる順序で配列してカメラ交点特徴ベクトルVcとすることを特徴とする請求項１ないし９のいずれかに記載のカメラキャリブレーション装置。
【請求項１１】
前記モデル交点特徴ベクトルVmを抽出する手段は、前記カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとのハミング距離Dを求め、当該ハミング距離Dが最小となるモデル交点特徴ベクトルVmを抽出することを特徴とする請求項１ないし１０のいずれかに記載のカメラキャリブレーション装置。
【請求項１２】
前記モデル交点特徴ベクトルVmを抽出する手段は、カメラ画像から抽出されたフィールドラインの交点にカメラ画像上で見えない交点が含まれていると、前記カメラ交点特徴ベクトルVcの当該見えない交点の特徴ベクトル要素の部分に、比較するモデル交点特徴ベクトルVmの対応する交点の特徴ベクトル要素をコピーすることを特徴とする請求項１ないし１１のいずれかに記載のカメラキャリブレーション装置。
【請求項１３】
フィールドのモデルとカメラ画像との間のホモグラフィ行列に基づいてカメラキャリブレーションを行う方法において、
カメラ画像からフィールドラインを抽出し、
フィールドラインの交点を計算し、
前記交点ごとに当該交点を通るフィールドラインの数および向きに基づいて特徴ベクトル要素を生成し、
前記各特徴点の特徴ベクトル要素を所定の順序で配列してカメラ交点特徴ベクトルVcを生成し、
フィールドモデルの各フィールドラインの交点ごとにモデル交点特徴ベクトル要素を生成し、
カメラ交点特徴ベクトルVcの各カメラ交点特徴ベクトル要素と交点の配列が類似するモデル交点特徴ベクトル要素の組み合わせごとに当該各モデル交点特徴ベクトル要素を前記所定の順序で配列して複数のモデル交点特徴ベクトルVmを生成し、
前記カメラ交点特徴ベクトルVcとの類似度の高いモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応関係に基づいて対応点を設定し、
前記対応点に基づいてホモグラフィ行列を計算することを特徴とするカメラキャリブレーション方法。
【請求項１４】
フィールドのモデルとカメラ画像との間のホモグラフィ行列に基づいてカメラキャリブレーションを行う方法において、
カメラ画像からフィールドラインを抽出する手順と、
フィールドラインの交点を計算する手順と、
前記交点ごとに当該交点を通るフィールドラインの数および向きに基づいて特徴ベクトル要素を生成する手順と、
前記各特徴点の特徴ベクトル要素を所定の順序で配列してカメラ交点特徴ベクトルVcを生成する手順と、
フィールドモデルの各フィールドラインの交点ごとにモデル交点特徴ベクトル要素を生成する手順と、
カメラ交点特徴ベクトルVcの各カメラ交点特徴ベクトル要素と交点の配列が類似するモデル交点特徴ベクトル要素の組み合わせごとに当該各モデル交点特徴ベクトル要素を前記所定の順序で配列して複数のモデル交点特徴ベクトルVmを生成する手順と、
前記カメラ交点特徴ベクトルVcとの類似度の高いモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応関係に基づいて対応点を設定する手順ち、
前記対応点に基づいてホモグラフィ行列を計算する手順とを、コンピュータに実行させるカメラキャリブレーションプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、カメラキャリブレーション方法および装置に係り、特に、野球、サッカーまたはテニスのように、フィールドラインを含むカメラ画像を用いてカメラキャリブレーションを行う方法、プログラムおよび装置に関する。
【背景技術】
【０００２】
カメラキャリブレーションは、3Dコンピュータビジョンにおいて非常に重要な技術であり、現実シーンのワールド座標系とカメラ画像のピクセル座標系との関係は、カメラに固有の内部および外部パラメータ（あるいはホモグラフィ行列）に基づいて求められる。
【０００３】
特に、スポーツ系の映像における自由視点でのナビゲーションでは、実際のフィールド上での各選手の位置が重要であり、カメラ画像における各選手の座標をホモグラフィ行列で射影変換することで求められる。したがって、正確なカメラキャリブレーションを自動で行える技術が、自由視点ナビゲーションやビデオ分析のリアルタイムアプリケーションにおいて必要とされる。
【０００４】
非特許文献１には、スポーツイベントにおける自由視点ナビゲーションのためのフィールドモデルに基づくカメラの自動キャリブレーション方法が開示されている。非特許文献１では、カメラ画像内の線分のヒストグラムを使用して頑健なフィールド線を抽出し、２本の水平線と２本の垂直線との4つの交点を抽出して、ホモグラフィ行列を推定している。
【０００５】
特許文献１には、カメラ画像からフィールドライン画像を抽出し、フィールドライン画像からラインセグメントを抽出してフィールドラインを認識し、各フィールドラインを垂直および水平フィールドライン群に分類し、フィールドライン群ごとに各フィールドラインを評価し、評価の高いフィールドライン同士の交点に基づいて対応点を設定し、設定された対応点に基づいてホモグラフィ行列を決定する技術が開示されている。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開2016-220129号公報
【非特許文献】
【０００７】
【非特許文献１】Qiang Yao, Hiroshi Sankoh, Keisuke Nonaka, Sei Naito, "Automatic Camera Self-Calibration for Immersive Navigation of Free Viewpoint Sports Video", Multimedia Signal Processing (MMSP), 2016 IEEE International Workshop on. Montreal, Canada, IEEE, 2016. 09.
【発明の概要】
【発明が解決しようとする課題】
【０００８】
非特許文献１では、カメラ画像から4つの交点しか抽出できないので完全なモデルマッチングが必要であり、マッチングに長時間を要するのみならず、４つの交点がカメラ画像の広い領域をカバーしない限りはホモグラフィ行列の精度が低下するという技術課題があった。
【０００９】
特許文献１では、正しいホモグラフィ行列を計算するためには完全なモデルマッチングが必要であり、カメラ画像から認識できない交点があるとホモグラフィ行列の精度が低下するという技術課題があった。
【００１０】
本発明の目的は、上記の技術課題を解決し、多数の交点を用いながら完全なモデルマッチングを必要とせずに、カメラ画像からホモグラフィ行列を精度良く算出できるカメラキャリブレーション方法、プログラムおよび装置を提供することにある。
【課題を解決するための手段】
【００１１】
上記の目的を達成するために、本発明は、フィールドモデルとカメラ画像との間のホモグラフィ行列に基づいてカメラキャリブレーションを行う装置において、以下の構成を具備した点に特徴がある。
【００１２】
(1) カメラ画像からフィールドラインを抽出する手段と、フィールドラインの交点を計算する手段と、交点ごとに当該交点を通るフィールドラインの数および向きに基づいてカメラ交点特徴ベクトル要素を生成する手段と、各カメラ交点特徴ベクトル要素を所定の順序で配列してカメラ交点特徴ベクトルVcを生成する手段と、フィールドモデルの各フィールドラインの交点ごとにモデル交点特徴ベクトル要素を生成する手段と、カメラ交点特徴ベクトルVcの各カメラ交点特徴ベクトル要素と交点の配列が類似するモデル交点特徴ベクトル要素の組み合わせごとに当該各モデル交点特徴ベクトル要素を前記所定の順序で配列して複数のモデル交点特徴ベクトルVmを生成する手段と、カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとを比較して類似度の高いモデル交点特徴ベクトルVmを抽出する手段と、類似度の高いモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応関係に基づいて対応点を設定し、ホモグラフィ行列を計算する手段とを具備した。
【００１３】
(2) 前記類似度の高いモデル交点特徴ベクトルVmを抽出する手段が、類似度の高い上位Nベストのモデル交点特徴ベクトルVmを抽出し、前記Nベストのモデル交点特徴ベクトルVmを評価する手段を具備し、前記評価する手段は、フレーム画像の左右の境界線を各ホモグラフィ行列でフィールドモデルに投影して各対応する線分を求める手段と、前記各対応する線分の交点をカメラポイントとして登録する手段と、n番目のフレーム画像に基づいて登録されたカメラポイントとm番目のフレーム画像に基づいて登録されたカメラポイントとの変位を計算する手段とを具備し、変位が最小値を示すホモグラフィ行列の評価を最も高くするようにした。
【００１４】
(3) 前記特徴ベクトル要素が、各交点から延びるフィールドラインの向きの数をビット長とするバイナリデータであり、各方向に延びるフィールドラインが抽出されたか否かに応じて各ビット値が2値のいずれかに設定されるようにした。
【００１５】
(4) 前記類似度の高いモデル交点特徴ベクトルVmを抽出する手段は、各交点の特徴ベクトル要素を当該各交点がラスタスキャンされる順序で配列してカメラ交点特徴ベクトルVcとするようにした。
【００１６】
(5) 前記類似度の高いモデル交点特徴ベクトルVmを抽出する手段は、カメラ画像から抽出されたフィールドラインの交点にカメラ画像上で見えない交点が含まれていると、前記カメラ交点特徴ベクトルVcの当該見えない交点の特徴ベクトル要素の部分に、モデル交点特徴ベクトルVmのマッチング範囲内の対応する交点の特徴ベクトル要素をコピーするようにした。
【発明の効果】
【００１７】
本発明によれば、以下のような効果が達成される。
【００１８】
(1) ホモグラフィ行列を計算するための対応点が4点に限定されず、かつ全ての対応点での完全なマッチングが不要となるので、ホモグラフィ行列を短時間で精度良く算出できるようになる。
【００１９】
(2) 各交点の特徴量として、当該交点から延びるラインの方向及び数に基づくバイナリデータ（特徴ベクトル要素）を採用するので、各交点の特徴量のデータサイズが小さくなり、マッチング処理が簡単化されて処理速度が向上する。
【００２０】
(3) カメラ画像から抽出した各交点の特徴量（特徴ベクトル要素）を所定の規則、例えば、ラスタスキャンの順序で一次元に配列することでカメラ交点特徴ベクトルVcを生成する一方、当該各交点と配列が類似するフィールドモデルの各交点の組み合わせのみを抽出し、当該組み合わせごとに各交点の特徴量を同じ規則で一次元に配列することでモデル交点特徴ベクトルVmを生成するので、マッチング対象のモデル交点特徴ベクトル数が減ぜられ、高速なマッチング処理が可能になる。
【００２１】
(4) カメラ画像で見えない交点が検知されると、その特徴量（特徴ベクトル要素）がフィールドモデルの対応する交点の特徴量で補間されるので、見えない交点が存在してもマッチング精度の低下が防止される。
【図面の簡単な説明】
【００２２】
【図１】本発明の第１実施形態に係るカメラキャリブレーション装置の主要部の構成を示した機能ブロック図である。
【図２】カメラ画像IRGBの一例を示した図である。
【図３】フィールドグラウンド画像Gの一例を示した図である。
【図４】フィールドライン画像Fの一例を示した図である。
【図５】ルックアップテーブル（LUT）の一例を示した図である。
【図６】各交点から延びるフィールドラインの方向を示した図である。
【図７】特徴ベクトル要素の設定方法を示した図である。
【図８】特徴ベクトル要素の設定例を示した図である。
【図９】カメラ交点特徴ベクトルの生成方法を示した図である。
【図１０】特徴ベクトルVc，Vmのマッチング方法を示した図である。
【図１１】見えない交点の特徴ベクトル要素を補間する方法を説明する図である。
【図１２】見えない交点の例を示した図である。
【図１３】本発明の第２実施形態に係るカメラキャリブレーション装置の主要部の構成を示した機能ブロック図である。
【図１４】ホモグラフィ行列の評価方法を説明するための図である。
【図１５】ホモグラフィ行列の評価手順を示したフローチャートである。
【図１６】２つのカメラcam1，cam2のホモグラフィ行列を較正する方法を示した図である。
【発明を実施するための形態】
【００２３】
以下、図面を参照して本発明の実施の形態について詳細に説明する。図１は、本発明の一実施形態に係るカメラキャリブレーション装置の主要部の構成を示した機能ブロック図であり、ここでは、本発明の説明に不要な構成は図示が省略されている。
【００２４】
フィールドグラウンド画像抽出部１０は、図２に示したようなフィールドグラウンドの写ったカメラ画像IRGBからフィールドグラウンド領域以外のバックグラウンド領域を除去してフィールドグラウンド画像Gを取得する。
【００２５】
本実施形態では、初めにカメラ画像IRGBをRBG色空間からHSV色空間の画像IHSVに変換する。次いで、いくつかの統計的閾値σminH, σmaxH、σminVを推定し、次式(1)のラベリングプロセスを用いてフィールドグラウンドを抽出する。本実施形態では、ラベルされたマスク画像Bにより、図３に示したフィールドグラウンド画像Gが抽出される。
【００２６】
【数１】
2018137667.tif 000003
【００２７】
フィールドライン画像抽出部２０は、前記フィールドグラウンド画像Gに基づいて、画素強度（グレースケール）および画素勾配を次式(2)で閾値化することにより、図４に一例を示したフィールドライン画像Fを抽出する。
【００２８】
【数２】
2018137667.tif 000004
【００２９】
ここでは、初めにフィールドグラウンド画像Gがグレー画像に変換されている。符号thwおよびthgradは、それぞれ白色およびピクセル勾配の閾値である。符号Δは次式(3)で表される。τはフィールドグラウンド画像Gの各ピクセルG(x,y)の勾配を計算するために使用される距離である。
【００３０】
【数３】
2018137667.tif 000005
【００３１】
フィールドライン解析部３０において、セグメント検知部３１は、フィールドライン画像Fに周知のハフ変換を適用して、フィールドラインの構成要素であるセグメント（線分）を検出する。各セグメントは始点座標P1(x1，y1)および終点座標P2 (x2，y2)によって定義されてセグメントリストに登録される。
【００３２】
セグメントパラメータ計算部３２は、検出された各セグメントの傾きkおよびオフセット（切片）bの２つのパラメータを、それぞれ次式(4)，(5)で算出する。これら２つのパラメータは、後述するラインプルーニング部３３、ライン分類部３４およびソート部３５で使用される。
【００３３】
【数４】
2018137667.tif 000006
【００３４】
【数５】
2018137667.tif 000007
【００３５】
前記ハフ変換により検出されたセグメント群には同一のフィールドラインを構成するセグメントが含まれることから、ラインプルーニング部３３は、冗長線を除去するためにラインプルーニングを実行する。このとき、前記傾きkおよびオフセットbは２つの線分を比較するために使用され、次式(6)，(7)がいずれも成立すると、２つのセグメントli，ljは同一のフィールドラインを構成すると判断されてセグメントljがセグメントリストから除去され、セグメントリストに残ったセグメントに基づいて各フィールドラインが判別される。
【００３６】
ここで、ki，kjはそれぞれセグメントli，ljの傾きであり、bi，bjはそれぞれセグメントli，ljのオフセットである。閾値Δαは傾きki，kjの同一性を判断する閾値であり、閾値Δβはオフセットbi，bjの同一性を判断する閾値である。
【００３７】
【数６】
2018137667.tif 000008
【００３８】
【数７】
2018137667.tif 000009
【００３９】
ライン分類部３4は、判別されたフィールドラインから交点を計算するために、各フィールドラインを、その傾きkに基づいて水平フィールドラインLHおよび垂直フィールドラインLVのいずれかに分類する。
【００４０】
本実施形態では、ライン分類閾値γを予め定義しておき、|ki|＞γならば垂直フィールドラインLVに分類し、|ki|≦γならば水平フィールドラインLHに分類する。また、ライン分類閾値はカメラの位置および撮影方向によって異なることがある。したがって、ライン分類処理の後、水平フィールドラインLHおよび垂直フィールドラインLVは２つのサブセットになっている。
【００４１】
ソート部３５は、水平フィールドラインLHを上から下にソートし、垂直フィールドラインLVを左から右にソートする。水平フィールドラインLHをソートする際はオフセットbiを使用して、対応するラインを上から下にソートする。垂直フィールドラインLVのソートでは、一番上の水平フィールドラインLHに注目して当該水平フィールドラインLHと各垂直フィールドラインLVとの交点を算出し、当該交点のx座標値に従って各垂直フィールドラインLVをソートする。
【００４２】
なお、前記傾き閾値Δα、オフセット閾値Δβおよびライン分類閾値γは、カメラの位置および向きに依存する。そこで、本実施形態では図５に示したように、各カメラの位置に固有の閾値群を登録したルックアップテーブル（LUT）１００を予め構築していき、カメラごとに当該カメラに対応した閾値群を採用するようにしている。
【００４３】
図１へ戻り、交点検出部４０は、垂直フィールドラインLVと水平フィールドラインLHとの交点を周知の手法で検出し、その座標を計算する。
【００４４】
ベクトル情報生成部５０は、検知された交点の特徴量として特徴ベクトル要素を生成する。ライン方向分析部５１は、交点ごとに当該交点から延びるフィールドラインの数および向きに基づいて特徴ベクトル要素を生成するために、検知された交点ごとに当該交点から延びるフィールドラインの有無を検知する。
【００４５】
本実施形態では、各交点P(x,y)で直交する4方向に関してフィールドラインの探索を実施するが、図６に示したように、垂直フィールドラインLvに沿った各方向が「UP（上）」「DOWN（下）」、水平フィールドラインLHに沿った各方向が「RIGHT（右）」「LEFT（左）」と定義される。
【００４６】
また、本実施形態ではロバスト性を維持するために、各方向に画素値を積算するアキュムレータを定義する。diUは「UP」方向のアキュムレータであり、交点P(x,y)の「UP」方向に沿って白いピクセルが発見されるごとに、対応するアキュムレータdiUに「１」が加算される。さらに、累積範囲をNと定義する（Nは妥当な探索範囲）。したがって、次式(8)で表される累積数は0とNとの間の値をとる。
【００４７】
【数８】
2018137667.tif 000010
【００４８】
また、本実施形態では存否閾値μ(0＜μ＜1)が定義され、diU＞μNであれば「UP」方向へのフィールドラインの存在が認定され、diU≦μNであればフィールドラインの存在が否定される。さらに、本実施形態では別の閾値μrejを高速アルゴリズムとして定義し、連続して次式(9)が成立すると、当該方向へのフィールドラインの存在が否定される。
【００４９】
【数９】
2018137667.tif 000011
【００５０】
このような分析は、交点P(x、y)を起点として、各フィールドラインの傾きに基づく方向ごとに行われ、UP方向のアキュムレータdiU、DOWN方向のアキュムレータdiD、RIGHT方向のアキュムレータdiR、LEFT方向のアキュムレータdiLの解析は、それぞれ次式(10)〜(13)に基づいて行われる。
【００５１】
【数１０】
2018137667.tif 000012
【００５２】
【数１１】
2018137667.tif 000013
【００５３】
【数１２】
2018137667.tif 000014
【００５４】
【数１３】
2018137667.tif 000015
【００５５】
各式は、それぞれの方向に白色の画素（画素地＝255）が見つかれば「1」となし、見つからなければ「0」となる。
【００５６】
特徴ベクトル要素生成部５２は、検知された交点ごとに当該交点から各方向へ延びるフィールドラインの存否に基づいて特徴ベクトル要素を生成する。
【００５７】
本実施形態では、図７に示したように、交点ごとに各方向へ延びるフィールドラインの存否が、4ビットのバイナリデータで構成される特徴ベクトル要素の各ビットに割り当てられ、例えば、「UP」方向への存否が最上位ビット（MSB1）に割り当てられる。
【００５８】
同様に、「RIGHT」方向への存否がMSB2に割り当てられ、「DOWN」方向への存否がMSB3に割り当てられ、「LEFT」方向への存否が最下位ビット（MSB4）に割り当てられる。そして、各ビットに対して、フィールドラインが存在していれば「１」、存在していなければ「０」がセットされる。したがって、図７，８に示したように、「UP」方向へ延びる垂直フィールドラインと「LEFT」方向へ延びる垂直フィールドラインとが検知されている交点の特徴ベクトル要素は"1001"となる。
【００５９】
カメラ交点特徴ベクトル生成部５３は、各交点の特徴ベクトル要素を所定の順序、例えば図９に示したようなラスタスキャンの順序で一次元に配列してカメラ交点特徴ベクトルVcを生成する。したがって、図９の例ではカメラ交点特徴ベクトルVcは次式(14)のようになる。
【００６０】
【数１４】
2018137667.tif 000016
【００６１】
図１へ戻り、モデル交点特徴ベクトル要素記憶部６０には、フィールドモデルの各フィールドラインの交点ごとに当該交点を通るフィールドラインの数および方向に基づいて予め上記と同様の手順で生成された特徴ベクトル要素が記憶されている。
【００６２】
対応点設定部７０において、マッチング候補抽出部７１は、カメラ交点特徴ベクトルVcの各特徴ベクトル要素に係る交点を定義した水平フィールドラインLHおよび垂直フィールドラインLVの各本数に応じて、カメラ交点特徴ベクトルVcの各特徴ベクトル要素と交点の配列が類似するモデル交点特徴ベクトル要素の組み合わせを抽出する。そして、当該特徴ベクトル要素の組み合わせごとに各特徴ベクトル要素を配列して複数のモデル交点特徴ベクトルVmを生成する。
【００６３】
マッチング部７２は、カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとの間でマッチングを実行し、類似度が最も高いモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応関係に基づいて対応点を設定する。
【００６４】
図１０は、カメラ交点特徴ベクトルVcとモデル交点特徴ベクトルVmとのマッチング方法を模式的に示した図である。
【００６５】
カメラ交点特徴ベクトルVcが、例えば3本の水平フィールドラインLHと2本の垂直フィールドラインLVとの交点に関する６つの特徴ベクトル要素をラスタスキャン順に連結して構成されていると、マッチング候補抽出部７１は、Vm要素記憶部６０から、フィールドモデルの3本の水平フィールドラインと2本の垂直フィールドラインとの交点、すなわちカメラ画像の交点と配列（水平及び垂直位置）が類似する交点に係る６つの特徴ベクトル要素のセットを全て抽出し、それぞれをラスタスキャン順に連結してモデル交点特徴ベクトルVmを生成する。
【００６６】
すなわち、図９に示したように、フィールドモデルが６本の水平フィールドラインLHと７本の垂直フィールドラインLVとから構成されていると、６本の水平フィールドラインLHから任意に選択した３本（6C3=２０通り）と、７本の垂直フィールドラインLVから任意に選択した２本（7C2=２１通り）との各交点に関する６つの特徴ベクトル要素の組み合わせを前記Vm要素記憶部６０から取得し、組み合わせごとに６つの特徴ベクトル要素を連結して４２０個のモデル交点特徴ベクトルVmを生成する。
【００６７】
マッチング部７２は、カメラ交点特徴ベクトルVcと各モデル交点特徴ベクトルVmとのハミング距離Dをそれぞれ求める。そして、全ての組み合わせについてハミング距離Dが求まると、その中で最小のハミング距離Dを与えるモデル交点特徴ベクトルVmとカメラ交点特徴ベクトルVcとの対応する交点が対応点として登録される。
【００６８】
なお、図１２に示したように、検出された交点Pに、カメラ画像の範囲から外れて見えない（インビジブル）交点が含まれていると、カメラ交点特徴ベクトルVcの対応する交点部分には特徴ベクトル要素が生成されない。
【００６９】
本実施形態では、このような場合も想定し、カメラ交点特徴ベクトルVcがインビジブルな交点（符号？で代表）を含み、4ビットの特徴ベクトル要素vが設定されていない場合には、モデル交点特徴ベクトルVmにおいて対応する交点の4ビット値をコピーすることでカメラ交点特徴ベクトルVcを補間する。そして、補間後のカメラ交点特徴ベクトルVcとモデル交点特徴ベクトルVmとに基づいてハミング距離Dを計算する。
【００７０】
図１へ戻り、ホモグラフィ行列決定部８０は、少なくとも４つの対応点に基づいてホモグラフィ行列を決定する。カメラパラメータ計算部９０は、前記決定されたホモグラフィ行列とカメラの内部パラメータとに基づいてカメラキャリブレーション行列を計算する。
【００７１】
図１３は、本発明の第２実施形態の構成を示した機能ブロック図であり、上記と同一の符号は同一又は同等部分を表している。本実施形態は、複数のホモグラフィ行列を評価して、いずれか一のホモグラフィ行列を選択するホモグラフィ行列評価部１１０を設けた点に特徴がある。
【００７２】
上記の第１実施形態では、カメラ交点特徴ベクトルVcと複数のモデル交点特徴ベクトルVmとのマッチング結果に基づいて最尤のモデル交点特徴ベクトルVmを一つだけ求め、その対応点に基づいてホモグラフィ行列を求めるものとして説明したが、本実施形態では、前記対応点設定部７０がハミング距離Dの小さい上位Nベストのモデル交点特徴ベクトルVmを抽出する。
【００７３】
前記ホモグラフィ行列決定部８０は、上位Nベストのモデル交点特徴ベクトルVmに関する対応点セットごとにホモグラフィ行列を計算することでN個のホモグラフィ行列を生成し、モグラフィ行列評価部１１０は、N個のホモグラフィ行列の中から最尤のモグラフィ行列を選択する。
【００７４】
ホモグラフィ行列の評価、検証に関しては逆投影が効果的な方法として知られている。しかしながら、特に固定されていないカメラ（パンチルトズーム）の場合には評価に相応の時間が必要となる。そこで、本実施形態では、逆投影手法よりもはるかに簡単で高速な新しい検証方法を新規に採用している
図１４は、前記ホモグラフィ行列評価部１１０によるホモグラフィ行列の評価方法を示した図である。
【００７５】
本実施形態では、初めにn番目のフレーム画像にホモグラフィ行列を適用してカメラポイント(M,N)が推定される。次いで、m番目のフレーム画像にホモグラフィ行列を適用してカメラポイント(M',N')が推定される。そして、カメラポイント(M,N)，(M',N')を比較することで当該ホモグラフィ行列が評価される。
【００７６】
図１５は、ホモグラフィ行列の評価手順を示したフローチャートであり、ステップＳ１では、n番目のフレーム画像上で2つの境界線が選択される。ここでは、左側境界線W1Lおよび右側境界線W1Rが選択されたものとして説明する。
【００７７】
ステップＳ２では、前記抽出されているホモグラフィ行列を用いて各境界線W1L，W1Rがフィールドモデルに投影される。ステップＳ３では、投影された2つの線分W1l，W1rの交点座標を求め、これが基準カメラポイント(M,N)として登録される。
【００７８】
ステップＳ４では、m番目のフレーム画像上で選択された2つの境界線W2Lおよび右側境界線W2Rを対象に上記と同様の処理が実行されてカメラポイント(M',N')が登録される。ステップＳ５では、次式に基づいて各カメラポイント(M,N)，(M',N')の変位θが計算される。
【００７９】
【数１５】
2018137667.tif 000017
【００８０】
ステップＳ６では、前記Nベストの各ホモグラフィ行列を用いて計算された各変位θが比較され、最小の変位θを与えるホモグラフィ行列が最尤のホモグラフィ行列として選択される。
【００８１】
本実施形態によれば、全体として、固定されていないカメラは、上記の方法を使用することによって、自動的、堅牢かつ迅速に評価することができる。
また、上記のようにして計算された最尤のホモグラフィ行列は、図１６に示したように、互いに遠く離れた２つのカメラcam1，cam2を較正するためにも使用することができる。通常、2つのカメラ間の較正は、特徴点の検出およびマッチングを使用することで実現される。しかしながら、２つのカメラcam1，cam2間のベースラインが大きいと較正精度が低くなり、あるいは較正できない場合もある。
【００８２】
そこで、本発明ではフィールドモデルベースの較正方法として、cam1とcam2をリンクするブリッジを提供する。具体的には、各カメラcam1，cam2についてフィールドモデルに関するホモグラフィ行列H(1)，H(2)を計算し、次式(16)でカメラCam1，Cam2間のホモグラフィ行列を計算する。
【００８３】
【数１６】
2018137667.tif 000018
【００８４】
なお、上記の各実施形態では、予めフィールド画像からフィールドラインを抽出して水平フィールドラインLHおよび垂直フィールドラインLVを抽出し、各水平フィールドラインLHと各垂直フィールドラインLVとの交点を検出したが、本発明はこれのみに限定されるものではなく、フィールド線画像とフィールドモデルの特徴点をそれぞれSIFTなどの周知の特徴検出法を用いて検出し、検出した特徴点をフィールド線の交点とみなすようにしても良い。
【符号の説明】
【００８５】
１０…フィールドグラウンド画像抽出部，２０…フィールドライン画像抽出部，３０…フィールドライン解析部，３１…セグメント検知部，３２…セグメントパラメータ計算部，３３…ラインプルーニング部，３４…ライン分類部，３５…ソート部，４０…交点検出部，５０…ベクトル情報生成部，５１…ライン方向分析部，５２…特徴ベクトル要素生成部，５３…カメラ交点特徴ベクトル（Vc）生成部，６０…Vm要素記憶部，７０…対応点設定部，７１…マッチング候補抽出部，７２…マッチング部，８０…ホモグラフィ行列決定部，９０…カメラパラメータ計算部，１００…ルックアップテーブル（LUT），１１０…ホモグラフィ行列評価部
【図１】
2018137667.tif 000019
【図２】
2018137667.tif 000020
【図３】
2018137667.tif 000021
【図４】
2018137667.tif 000022
【図５】
2018137667.tif 000023
【図６】
2018137667.tif 000024
【図７】
2018137667.tif 000025
【図８】
2018137667.tif 000026
【図９】
2018137667.tif 000027
【図１０】
2018137667.tif 000028
【図１１】
2018137667.tif 000029
【図１２】
2018137667.tif 000030
【図１３】
2018137667.tif 000031
【図１４】
2018137667.tif 000032
【図１５】
2018137667.tif 000033
【図１６】
2018137667.tif 000034