(57)【特許請求の範囲】
【請求項１】
ビデオ画像内のビルボードの自動的な置換のための装置であって、
前記装置は、
第１の参照位置に関するTVカメラの視界（FOV）を測定するように作動する動作測定手段を含む自動カメラ方向測定装置と、
TVカメラによって生成されたビデオ信号を処理する画像処理手段と
を具備し、
前記処理手段は、動作測定手段を定期的に自動的に較正するキャリブレーション手段を具備し、
キャリブレーション手段は、推定された変換モデルを提供するために現在のビデオ画像を透視変換する微調節画像処理手段と、ビルボード画像の複製を記憶する手段と、残留ビデオフィールドを提供するために透視変換されたビデオ画像と記憶された複製とを比較する手段と、変換されたモデルと残留ビデオフィールドとの間の残留歪みを解決する手段と、キャリブレーション補正因子を提供するために残留歪みによって推定された変換を更新する手段と具備し、
動作測定値および前記第１の参照位置のリキャリブレーションのための異なる信号を較正し、前記カメラの視界内の現実のビルボードを仮想的な置換ビルボードに、前記リキャリブレーションされた第１の参照位置に従って置換する手段を具備する
ことを特徴とする装置。
【請求項２】
動作測定手段が、第１の参照位置に関するカメラのパン、チルト、ズームまたはフォーカスを測定するための手段を具備する
ことを特徴とする請求項１記載の装置。
【請求項３】
前記現実のビルボードがクロマキーパネルを具備する
ことを特徴とする請求項１記載の装置。
【請求項４】
パネルが、模様付クロマキーパネルを具備する
ことを特徴とする請求項３記載の装置。
【請求項５】
模様が、２つの異なる色または同じ色の２つの異なる色調を具備する
ことを特徴とする請求項４記載の装置。
【請求項６】
模様が、ビルボードの大きさおよび形状に従って使用のために最適化されるように設計されている
ことを特徴とする請求項５記載の装置。
【請求項７】
前記残留歪みを解決する手段が、変換されたモデルの現在の画像の空間的微分に基づく解析手段のみならず、変換されたモデルと現在の画像との画像の相違を画素ごとに解析する手段を含んでいる
ことを特徴とする請求項１記載の装置。
【請求項８】
遮るものが存在しないときにセットアップ期間中に得られるキャリブレーションデータを記録する手段をさらに具備する
ことを特徴とする請求項１記載の装置。
【請求項９】
カメラがパンまたはチルトするときにビルボードの測定された位置における任意の変化を記録するための動的ビルボード記憶部をさらに具備する
ことを特徴とする請求項１記載の装置。
【請求項１０】
ビデオ画像内のビルボードの自動置換の方法であって、
前記方法は、
第１の参照位置においてTVカメラの視界（FOV）パラメータを記録するステップと、
前記第１の参照位置においてTVカメラによって見られる画像を記憶するステップと、
第１の参照位置に関するカメラの動作を測定し、該測定値を記録し、かつ、前記TVカメラによって生成された現在のビデオ画像と前記参照位置における記憶されたビデオ画像との比較によって定期的に自動的に動作測定値を較正するステップと
を具備し、
該比較は、推測された変換モデルを提供するために現在のビデオ画像を透視変換し、ビルボード画像の複製を記憶し、残留ビデオフィールドを提供するために透視変換されたビデオ画像と記憶された複製とを比較し、変換されたモデルと残留ビデオフィールドとの間の残留歪みを解決し、キャリブレーション補正因子を供給するために推測された変換を残留歪みによって更新することを含む微調節画像処理ステップを具備し、
前記方法は、
動作測定値および前記第１の参照位置のリキャリブレーションのための異なる信号を較正し、前記カメラの視界内の現実のビルボードを仮想的な置換ビルボードに、前記リキャリブレーションされた第１の参照位置に従って置換するステップを具備する
ことを特徴とする方法。
【発明の詳細な説明】
この発明は、ビデオ画像におけるビルモードを自動的に置換するための方法および装置に関する。
この発明は、スタジアムまたは他の開催場所内でのビルボードの電子式置換における特別な用途を有しているが、他の目的としては、カメラの方向に関連する正確なデータを提供するために使用され得る。
従来のシステムにおいて、テレビの視聴者により見られるスタジアム内のビルボードを電子式に置換することが提案されてきた。スタジアム内のビルボードは、TVカメラによりテレビ放送され、家にいるTV視聴者が、スタジアムまたは他の開催場所にいる観客とは異なるボードをみるように、ボードは電子式に変更された。
米国特許第5266933号明細書に開示されたような公知のシステム、ビデオ画像を電子式に変更する装置および方法が開示されている。この米国特許および米国特許第5353392号に開示された装置および方法は、理論的にビルボードの置換を許容しているけれども、実際の環境において遭遇する多くの実際の問題を解決するものではない。これらの問題の多くは、認識および置換処理に関連している。
置換のためにビルボードを認識しかつ突きとめるためのビデオ信号のみを利用するパターン認識技術に完全に依存することは、そのようなシステムの実際の価値に影響する大きな問題点を導くことになる。
明らかに、米国特許第5264933号明細書および米国特許第5353392号明細書に開示されているようないくつかのパターン認識方法は、予め定められた描写と比較され得る画像における有用な目に見える特徴に依存しなければならない。そのような特徴は、ビルボード内またはその近傍に配置されなければならない。
現実的な状況において、これらの特徴の視覚可能性は、連続的に、またはそうでなければゼロからパターン認識方法が適正に作動することを許容する一定のしきい値の視覚可能性まで変化する。これらの変化は、視覚可能性の成長または現象の方向に生じ得る。
そのような状況は、
・巨大な量のぼけを導く、カメラ動作の加速、減速、
・ビルボードの過度のズームインまたはズームアウト、
・プレーヤによる過度の閉鎖、
・パン、チルト、ズーム操作のどれかの結合によりカメラの視界内への出入り、
・上述した機構のどれかの組み合わせ
である。
したがって、実際の状況では、ビルボードの連続的な置換は不可能である。たとえ、割り込まれた置換が許容されたとしても、結果として生ずる置換間隔が受容可能か否かを判断するために少なくとも数秒の遅延が必要とされる。そのような遅延は、スポーツの試合の生放送においては、通常は許されない。
任意のビルボードを置換することは、他の問題を導く。継ぎ目のない置換には、遮断（occlusion）位置における置換を禁止するために、ビルボードを遮る前景の物体を識別することが必要である。前景の物体は、主としてプレーヤであるが、ボールまたは他の物体であることもある。今、赤いシャツを着たプレーヤを想定すると、ビルボードの同様に赤い部分の一部を遮る。色のコントラストは遮断を識別するために、ロバストに使用することはできない。さらに、プレーヤは、硬質な物体ではなく、動作または形状情報は、完全な置換を保証するのに十分に正確には使用することができない。
実際の状況において生ずることがある他の問題は、ビルボード識別の分解能である。２つの同一のビルボードがアリーナの異なる位置に配置されることを考える。異なる置換ビルボードが、これらの物理的なビルボードの各々に対して割り当てられることを想定すると、どちらがどちらであるかを見分けなければならない。このことは、特に、曖昧でない特徴を全く見ることができない場合には、きわめて困難であることがわかる。
この発明は、ビルボード置換のためのロバストシステムを、以下のキー要素のいくつかまたは全てに基づいて説明している。
・カメラに取り付けられたパン、チルト、ズームおよびフォーカスセンサ。これらは、適正なセットアップ手続の後に、任意の所定のビデオフィールドにおけるビルボードの存在および位置を推測することを可能とする。
・センサの推測を洗練することを可能とする、画像処理方法およびそれらの環境。
・クロマキー技術により遮断の効率的な検知を可能とするように適正に色づけされた物理的なビルボード。
・画像処理方法の性能をさらに向上するための物理的ビルボード内の色の変化または模様。
本願発明は、ビデオ画像内のビルボードの自動的な置換のための装置であって、前記装置は、第１の参照位置に関するTVカメラの視界（FOV）を測定するように作動する動作測定手段を含む自動カメラ方向測定装置と、TVカメラによって生成されたビデオ信号を処理する画像処理手段とを具備し、前記処理手段は、動作測定手段を定期的に自動的に較正するキャリブレーション手段を具備し、キャリブレーション手段は、推定された変換モデルを提供するために現在のビデオ画像を透視変換する微調節画像処理手段と、ビルボード画像の複製を記憶する手段と、残留ビデオフィールドを提供するために透視変換されたビデオ画像と記憶された複製とを比較する手段と、変換されたモデルと残留ビデオフィールドとの間の残留歪みを解決する手段と、キャリブレーション補正因子を提供するために残留歪みによって推定された変換を更新する手段と具備し、動作測定値および前記第１の参照位置のリキャリブレーションのための異なる信号を較正し、前記カメラの視界内の現実のビルボードを仮想的な置換ビルボードに、前記リキャリブレーションされた第１の参照位置に従って置換する手段を具備することを特徴とする装置を提供する。
最初のセットアップ手続において、補正には、例えば視界の中心にないビルボードのためのキャリブレーションが組み込まれ、例えばスクリーンの左上隅に配されるビルボードが、例えば、カメラ内の収差を考慮に入れるように、３画素によって調節され得る。
従来のシステムにおいて生ずる問題点は、第１に、ビルボードが実質的に全体的に遮断されているか、第２に、ビルボードの実際の掲示と同じ色のプレーヤのような物体により遮られているときに生じる。
このことは、第１に、上述したように、ビルボードの不認識につながり、第２に、ビルボードの満足のいく置換の困難性にもつながる。
第１の場合において、現実のビルボードは、ビデオ画像において既に置き換えられ得るが、カメラがクローズアップ内にズームする場合、または、異なるカメラがクローズアップのために使用される場合には、視界におけるビルボードの非常に小さい部分だけによってロックが失われる。第２の場合において、プレーヤは、ビルボードと同じ色のストリップ（strip）上に配される。従来のシステムは、色が同じ場合には、動作に基づいてプレーヤからビルボードを識別すること、および遮断を決定するために「移動している」画素を解析することを提案している。このことは理論的には筋が通っているが、全てのプレーヤが全ての時間において移動している訳ではないので、実際には役に立たない。したがって、多くのプレーヤがビルボードの前で移動し、一プレーヤが他が移動した後に残る場合には、電子技術は、移動基盤を識別することができないであろう。投光照明、陰、反射率の相違、および前景のプレーヤおよび背景ビルボードのための異なる照明条件によって色が歪められるので、システムが働かなくなる場合も実際にはあるであろう。そのような場合には、元のビルボードがビデオ画像上に再現するか、または、置換ビルボードが適正に遮断されないかのいずれかである。
電子式信号処理をより正確にすることを可能にするためにビデオ送信に遅延を導入することも可能であるが、多くのプレーヤがビルボードを遮るように異なる方向に移動する場合の実際の問題を解決するものではない。必要な遅延は、受け入れられないと考えられ、全ての場合において上述した問題の全てを解決するものではない。
この発明の好適な実施形態によれば、実際のビルボードをクロマキーパネルまたはクロマキーパネルを形成する輪郭を描かれた領域で置換することが提案されている。
クロマキーは、本質的には、例えば、通常、青または他の適当な色に色づけられたクロマキーボードの前でニュースの読み手が起立し移動することを可能とする遮断技術である。ニュースの読み手（前景）は、色分化によりクロマキーボード（背景）から区別され、これにより、前景および背景の通常の遮断とともに置換背景の前で移動することができる。この技術は、テレビスタジオシステムに周知の技術であり、米国特許第2974190号明細書および同第4200980号明細書を含む多くの米国特許に開示されている。
近年、グラフィック背景の動作とカメラの動作を調和させるために、カメラセンサとクロマキーとを結合する複数のシステムが説明されかつ論証されてきている。
［Ref.K.Haseba et al.,Real−timing compositing system of a real camera image and computer graphic image,International Broadcasting Convention,16−20 Sep.1994,Conference publication No.397,IEE 1994,pp656−660］。
原則として、そのような装置は、センサが認識問題を曖昧に解決し、かつ、クロマキービルボードが遮断を適正に手助けするビルボード置換のために使用され得る。
仮想的に設定されたアプリケーションにおいては、カメラは典型的には前景から２〜10m離れており、全視界が通常置き換えられる。これと比較すると、ビルボードはカメラから数100m離れることもあり、したがって、センサを用いた置換システムがより一層センサ誤差に影響されやすい。
・  大きな焦点距離によって、同じセンサ精度は大きな幾何学的レジストレーション誤差に変換される。81000パルス／回転のロータリエンコーダを想定すると、角度精度は、0.0044゜または75マイクロラジアンである。繰り返し精度は２倍悪い。4mの視界の100mの撮影範囲を想定すると、FOVは40ミリラジアンである。誤差は768＊150/20000＝2.88画素に変換される。
・  視界には、置換されない多くの静止物体（ビルボードを含む）を含むので、人間の監視者が、レジストレーション誤差に、より一層敏感になる。追加の誤差がレンズの歪み、焦点を通らない回転軸、非ゼロロール角度等から生ずる。
クロマキーは、基本的には、証明が注意深く設計されかつ制御され、クロマキー装置の制御が、青色スクリーンの色および証明の特別な配置のために注意深く調節されたスタジオのための技術である。
スポーツ競技において、条件は、非常に非理想的であり、クロマキーアルゴリズムに対する何らかの調整が必要である。特に、キー装置のパラメータは、アリーナを横切る照明における変化によって、置換される特定のビルボードに適合されるべきである。
したがって、この発明においては、クロマキーパネルを使用すること、および置換ビルボードによってビデオ画像においてこれらを置換することを提案している。
プレーヤまたは他の遮断物体がクロマキーパネルと異なる色であるということが完全な遮断のために必要であるので、さらなる好適な実施形態においては、パネルの色が、例えば、当業者に公知の回転式ビルボード構造を用いることにより、変更され得るクロマキーパネルを提供することを提案している。一側は、例えば、青色であり、他側は緑色である。プレーヤは運動面の背景に対して目立たないために緑色を着ない傾向にあるので、緑色はスポーツ環境において好ましい色である。
さらなる好ましい実施形態において、特に、複数のビルボードの置換が要求される実施形態においては、模様づけされたクロマキーボードが使用される。この模様は、任意の好適な形状でよいが、ビルボードまたは一連のビルボードの大きさおよび形状に対して、そして前もって処理されたビデオ条件に対しても適合されるように選択されることが好ましい。このように、ビルボードが、単に、遠い距離から見られ得る場合には、クローズアップして見られるビルボードに対しては、異なる模様が選択されることになる。
模様は、異なる色からなっていてもよく、また、同じ色の異なる色調であってもよい。模様は、垂直および水平線からなっていてもよく、または、装飾的模様、識別できる広告、会社のロゴまたはより審美的に受容可能な他の好適な言葉遣いからなっていてもよい。
模様の使用は、カメラの位置のより一層の識別を可能とし、固定位置からのカメラの移動をも許容する。
カメラの方向データは、ビデオ信号とともに送信され、いかなる天候、照明または遮断条件においてもビルボードの位置を識別することになる。ビルボードの位置を識別するために、スポーツ開催場所内のいかなる特徴に対しても参照は必要とされない。
カメラセンサは、数画素に対して、または約100mの範囲における約1cmに対する物理的な項において正確であることができ、任意のビルボードの正確な置換が可能である。リキャリブレーションは、連続してまたは周期的のみに、特に、FOVの中心にないビルボードのキャリブレーションの最初の調節がセットアップに記録される場合に、実施することができる。
クロマキー技術の使用により、受信器および通常の方法で挿入された遮断において容易に挿入され得るので、いかなる遮断データの送信も必要ではない。
スタジアムまたは他のスポーツ開催場所内の好適な配置において、通常の広告材料を伴う現実のビルボードは、第１の複数のカメラにより見られるようにスタジアムの位置側に配置され、クロマキービルボードは、第２の複数のカメラにより見られるべき他側または反対側に配置される。これにより、例えば、自国の国民は、通常のビルボードを見ることになり、国際的なTV視聴者は、置換されたボードのみを見ることになる。
この発明の実施形態を、添付図面を参照した例として、以下に説明する。
図１は、この発明に係る装置を図解するスタジアムまたは他の開催場所を示している。
図２は、第１に位置においてカメラにより見られるようなスタジアムのビデオ画像を示している。
図３は、複数の異なる位置にビルボードを有するスタジアムを示している。
図４は、従来技術のシステムにおける問題点を示す、ビルボードのズームされたカメラ撮影を示している。
図５は、この発明で使用される模様を付けたクロマキービルボードを示している。
図６は、ビデオデータおよびカメラ方向データを送信するための図１のカメラ配置に関連する回路を、ブロック図の形態で示した図である。
図７は、図６の送信回路と協動する受信回路をブロック図の形態で示した図である。
図８は、図７の回路の動作のための流れ図を示している。
図９は、ビルボードセットアップデータ記憶部のための配置を示している。
図10は、ビルボードセットアップデータのための配置を示している。
図11は、透視変換の計算のための流れ図を示している。
図12は、カメラ固有パラメータ記憶部のための配置を示している。
図13は、動的リキャリブレーションのための式を示している。
図14は、動的リキャリブレーションのための流れ図を示している。
図15は、リキャリブレーションの処理を示している。
図16は、照明条件を異ならせたスタジアム内の異なる位置におけるビルボードの敷地に関連する問題を示している。
図17は、クロマキー装置の動作を示すＵとＶに対する最小および最大値レベルのグラフを示している。
図18は、ビルボードに対するクロマキー色の調節の原理を示す遮断物体を伴うビルボードを示す図である。
図19は、ビルボード座標データおよび完全なクロマキー色、クロマキー技術により達成される遮断を受信するための例示的な遠隔受信器を示している。
図20は、他の実施形態を示すビルボードセットアップデータ記憶部のための他の配置を示している。
図21は、図20のビルボードセットアップデータ記憶部とともに使用するためのカメラのパンのための動的セットアップ手続の流れ図を示している。
図22は、図20のビルボードセットアップデータ記憶部とともに使用するためのカメラのチルトのための動的セットアップ手続の流れ図を示している。
図１から図４を参照して、以下にこの発明の原理を説明する。
スタジアムまたは他の開催場所10には、マーキング12により表されるピッチ側に、ビルボード14,16,18が据え付けられている。これらのビルボードは、カメラ20により見ることができる。ビルボード15,17,19は、他のカメラ21により見るためにスタジアムの反対側に配置されている。スタジアムの立見席／座席は線11により模式的に示されている。
カメラ21は、好ましい実施形態では、通常のTVビデオカメラであり、その出力ビデオ信号を第１のフィードに直接送信し、該第１のフィードはローカルな住民に配送する。カメラ20,21に言及しているけれども、異なる視界を提供するためにスタジアムの各側に複数のカメラが配置され得ることは明確に理解できる。
好ましい実施形態において、カメラ21は、ボード15,17,19をテレビ放送し、それらは変更しない方法でローカルな住民に発送される。
この好ましい実施形態において、カメラ20は、フィードを国際的な視聴者に発送する。カメラ20には、好ましくは以下の１つ以上のものを具備する方向感知手段が備えられている。
パン測定手段24;
チルト測定手段25;
ズーム測定手段26;および
フォーカス測定手段28である。
好適なセンサは、RADAMEC  EPO,Bridge Road,Chertsey,Surrey KT16,8LJ,Englandから供給されるバーチャルリアリティエンコーダを具備していてもよい。カメラの許容された可動性に依存して、ただ１つ、複数またはこれらの全てが必要とされる。例えば、遠隔制御された無人カメラの場合のように、カメラ20がパン、チルトおよびフォーカスにおいて固定され、ズームだけが可能である場合には、ズームパラメータのみを測定する必要がある。
スポーツスタジアムにおける多くのカメラは、ズーム、チルトおよびパンをすることができ、これらのパラメータは各カメラに対して、以下に説明されるように測定されると仮定されている。フォーカスは固定されていると仮定されているが、必要であれば、同様の方法で、パラメータが加えられ得る。
図２は、観察者、特に装置のオペレータにより見られるようなビデオ画像を示している。カメラ20は、好適な位置および妥当な大きさにおいてビルボード14を「中心合わせ」するために、ズームされ、パンされかつ／またはチルトされる。図７を参照すると、各ビルボードは、その後受信者により見られ、その位置が、タッチスクリーン700またはキーボードマウス702の使用および４隅のマーキングにより完全にマークされる。位置は記憶部704に記憶される。
符号30（図３）のようなスタジアムのより高いビルボードに対して、カメラのための補正因子がカメラのチルト位置に依存して記憶され得る。
各ビルボード位置は、ビルボード位置が記憶された時刻において正確なカメラパラメータ情報から得られるカメラ20のための参照位置におけるカメラパラメータ情報とともに記憶部704内に記憶される。
以下の手続は、好ましくは、ターゲットビルボードの各々に対して各カメラごとに繰り返される。
1.  ターゲットの安定した遮られていない視界を得るためにターゲットにおいてカメラを指定する。視界内に全ターゲットを保持しながら、ターゲットの広い視界を得るためにズームを調節する。
2.  カメラを移動しないで、ターゲットの画像および対応するセンサの読みを捕らえるために取得装置を起動する。
3.  ビデオ画像上において、ターゲットの隅をマークする。
１画素以下の精度でターゲットの隅を指摘するために隅検知器が使用されることが好ましい。
このカメラパラメータ情報は、カメラに備えられたセンサから得られ（図６）、カメラの動作は、各パラメータごとに、第１のまたは固定した参照位置を参照する。カメラの動作は感知されかつ信号が結合器（combiner）回路24に供給され、その後、そこから結合されたビデオおよび位置データ信号が発信される送信バッファ36に供給される。
セットアップ中に、受信器（図７）において、受信器バッファ706は信号を受信して、これらをスプリッタ708に供給する。ビデオ信号は、好適な記憶部710に記憶されかつ遅延され、カメラパラメータデータは抽出されて、記憶部712に記憶される。
セットアップにおいて、VDU700が、置換が必要となる各ビルボードをマークするために使用される。カメラ20は、各ビルボードをスクリーン上の適当な位置に移動するためにパン等され、その位置が、プロセッサ714を介して記憶部712から得られるカメラパラメータとともにビルボード記憶部704内に記憶される。
置換ビルボード記憶部716は、多くの置換ビルボードを記憶し、これらは、元のビルボードを置換することができるように選択可能である。
置換ビルボードは、動作時に、調節された出力ビデオ信号720を提供するために、結合器718内のビデオ信号内に挿入される。
セットアップ手続は、ビルボード位置および多くのカメラに対するカメラパラメータを、ソース30（図６）からのカメラIDを記憶することにより識別することもできる。このように、ビルボード位置記憶部704は、各カメラごとに別々のビルボードデータのリストを記憶することになる。
システムの動作を、単一のビルボードおよび単一のカメラ20を参照して以下に説明する。
図４を参照すると、カメラ20が図３の位置からのズーム後にパンするとき、ビルボードが、スクリーンの左側に拡大した形態で視界に入っている。
カメラ方向データは、絶えず、受信器により受信され、プロセッサ714は絶えず画素ごとに、ビデオ画像と、記憶部704内に記憶されている既知のビルボード位置とを整合させる。ビルボードがビデオ画像内に現れるとすぐに、ビルボードを表す画素が識別されかつこれらの画素に関連する置換ビルボード画素が結合器718内に置換される。画素の識別は、実質的に瞬間的なアドレス相関処理によるために、遅延は最小となる。
一定時間後、カメラセンサはドリフトし、かつこの場合には、置換ビルボードは元のビルボードとは正確には整列されない。このことは、単に１画素または２画素によるものであり、見る人に認識されることはない。これを補正するために、２つの解決策が可能である。第１に、ビルボード位置を適当な時間に、例えば、カメラが動作していないときに定期的に手動で記憶する。これには、オペレータの協力が必要である。
第２に、元の記憶されたビルボードに対するビルボードの比較が画素ごとに行われ、参照カメラパラメータの調節がビルボード位置記憶部704において行われる。この処理は、設定間隔またはプロセッサ714が適当な時間スロットを有するときのいずれかにおいて自動的に行われる。
好ましいキャリブレーション処理の本質的なステップは、推定された変換後のモデルを供給するために、カメラデータを用いて現在のビデオ画像を透視変換することである。ビルボードの記憶された画像は、その後、残留ビデオフィールドを提供するために、変換されたモデルと比較される。変換されたモデルと残留ビデオフィールドとの間の残留歪みは、推定された変換を更新する更新情報を供給し、それによって、カメラ感知情報に従い記憶部内の各ビルボードの位置をリキャリブレーションするためのキャリブレーション補正因子を供給するために決定される。
各ビルボードの置換は、以下により詳細に説明されるような適当なソフトウェアプログラムを使用する、プロセッサ714（図７）、種々のパラメータおよびビルボード記憶部の使用により達成される。
図８は、カメラの視界内の各ビルボードの位置を決定することができ、ビルボードの対応する部分をフレームバッファ内に渡す完全な処理を開示している。引き渡しおよびクロマキーによる画像バッファのビデオバッファとの合成は、公知であるので、我々は、図６および図７をも参照したビルボードの位置決定に集中することにする。
各ビデオフィールドの初めにおいて、パン、チルト、ズームおよびフォーカスセンサ（24,25,26）が読み出される（800）。これらの値は、ビルボードセットアップデータ記憶部704からのビルボードデータおよびカメラ固有パラメータ記憶部712からのカメラデータと結合され、ビデオ信号とは独立に、カメラの視界内の全てのビルボードを検知しかつ認識することができる。図８の処理は、全てのビルボードにおけるループ（ｍ）（802,804）から構成されている。各ビルボードに対して、そのセットアップデータはビルボードセットアップデータ記憶部704から引き出され（806）、ビルボードｍから現在のフィールドへの透視変換（810）を計算するために、カメラ固有パラメータとともに使用される（808）。置換ビルボード情報は、その後、フレームバッファ内に記憶される（812）。
図９は、アリーナ内の各ビルボードごとに別々のレコード902…904からなるビルボードセットアップデータ記憶部900を開示している。そのようなレコードは、好ましい条件において捕獲された静止画像906と、対応する静的セットアップデータ908からなっている。また、レコードは、動的セットアップデータ910を具備している。これは、上記に簡潔に説明され、かつ、図11を参照してさらに開示される動的リキャリブレーションとして知られる処理において、画像処理手段を使用して計算される。静的および動的キャリブレーションを提供する、これに代えた手続が図20〜図22を参照して説明される。
図10は、単一のビルボードについてのセットアップデータ（静的または動的のいずれか）1000を開示している。これは、セットアップの瞬間におけるセンサの読み1002、ビルボード四辺形頂点座標1004およびセットアップの瞬間の時間コード1006からなっている。
動的リキャリブレーションの方法は、以下のように説明される。
センサのドリフトおよび不正確さ、最後のキャリブレーションテーブルおよび他の実際の理由により、所定の瞬間において見ることのできる全てのビルボードの正確な位置を予測することは不可能である。しかしながら、多くのビデオフィールドにおいて、ビルボードの可視性は、正確な幾何学的位置補正が実施され得るようなものでよい。位置が、時間的および空間的に後続のビデオフィールドに近いので、センサの読みおよび正確な四辺形の座標に対するビルボードの位置を予測することにより「ラックショット」に頼ることが好ましい。カメラのパンにより視界に存在するビルボードを想定する。それがなおも非常に明らかなものであるときにラックショットを有することは、その可視性がいかなる画像処理手段も適用されることが許されないときに、センサのみによるビルボードのスムーズな追跡を可能とする。
図11は、透視変換の計算のための流れ図1100を表している。セットアップデータ選択ロジック1102は静的1103または動的1105なセットアップデータのいずれかをセットアップデータ記憶部806から上述したように選択する。このセットアップデータは、カメラ固有パラメータとともに、ビデオ信号とは関わりなく、透視変換1104のセンサに基づく予測を計算するために使用される。
画像処理手段に基づく動的リキャリブレーション1106は、その後予測に適用される。それは、ビデオ1108およびクロマキー1110信号のみならず、セットアップデータ記憶部806（図８）からのビルボードモデル画像1112を利用する。画像処理手段から得られる品質因子に基づいて、センサに基づく変換（1118）または補正された変換（1116）のいずれかが出力される。推測された幾何学的補正の品質が高い場合には、動的セットアップデータが更新される（1114）。
図12,13,14は、ビデオフィールドにおけるセンサに基づくビルボード座標の推測を説明している。そのような推測は、センサの読みのみならず、カメラ固有パラメータをも利用する。これらのパラメータは、図12に示されており、（ズーム、フォーカス）空間の密度の濃いサンプリングについて作表されなければならない。これらのパラメータの意味は、以下に参照する図13から明白である。
パン、チルト、ズームおよびフォーカスセンサにより得られる測定値の組をベクトル（P,T,Z,F）により表すことにする。チルト角度は、水平線に対するものと仮定する。
いずれかのセットアップ瞬間における画像の目的点が、フレームバッファ座標（xS,yS）であると想定する。また、その瞬間におけるセンサ測定値ベクトルは（PS,TS,ZS,FS）とする。
他の瞬間、すなわち、推測瞬間において、センサ測定値ベクトルは（PP,TP,ZP,FP）とする。フレームバッファ座標（あるいは、実際のフレームバッファの外側）（xP,yP）における目的点の位置を予測する必要がある。
この手続を可能とするために、我々は、符号600において示されるようなセットアップ回転マトリクスを定義し、かつ、予測回転マトリクスが符号602において示されるように定義される。
その後、２つの画像平面座標系の間の透視変換マトリクスが符号604,1402（図14）に示されるように与えられる。
RSPは、０〜２の範囲を示す行および列を有する３＊３マトリクスである。RSP［ｉ］［ｊ］は、マトリクス内の行ｉ、列ｊの項を表している。このように、目的点（uS,vS）のセットアップ画像平面座標が与えら得ると、画像平面座標における目的点の予測位置（uP,vP）が、符号606,1404において示されるように与えられる。
画像平面からフレームバッファ座標への変換は、符号608,1406に示されるように達成される。収差補償は、予測されたフレームバッファビルボード座標および透視変換データを供給するために、符号608,1406（図14）に示されるように達成される。
特定の対（ズーム、フォーカス）のためのこれらのパラメータの引出における効率的な方法が、［J.Weng et al.,Calibration of stereo cameras using a non−linear distortion model,IEEE 10th Intl.Conf.Pattern Recognition（1990）,pp.246−253］に開示されている。リキャリブレーションの処理をも可能とする幾何学的補正のための画像処理手段が図15を参照して以下に説明される。
センサに基づく予測の幾何学的補正のための画像処理手段は、動作推測のための異なる方法に基づいている［C.Cafforio and F.Roca,The differential method for motion estimation,in:T.S.Huang,eg.,Image sequence processing and dynamic scene analysus,Spring,Berlin,1983,PP.104−124］。Ｃを現在のビデオフィールドとし、Ｍを、センサに基づく予測に従って透視的に変換された静的ビルボードセットアップ画像とする。ここで、我々は、輝度画像のみを考慮する。理想的には、ＭおよびＣは、ビルボード四辺形のサポート（support）の中で同一である。実際の相違は、
・  Ｃに存在しＭに存在しない遮断、
・  センサおよび固有のカメラパラメータ誤差による幾何学的誤差、
・  輝度の変化
である。
幾何学的誤差によらない全ての相違を、さしあたり無視して、ビルボード四辺形のサポート内の点（x,y）を考える。（p,q）を局所的な幾何学的誤差とすると、各像の輝度信号を、
0003644688.tif 000002
と記述することができる。
誤差が小さいと仮定すると、テーラー展開を以下のように記述することができる。
0003644688.tif 000003
２次項を無視して空間微分を以下のように表すことにより、
0003644688.tif 000004
以下の式を得ることができる。
0003644688.tif 000005
また、差分Ｃ（x,y）−Ｍ（x,y）をＤと表すことにより、以下の式を得る。
0003644688.tif 000006
上記式は局所的に保持される。全体的なビルボードの解のために、そして、誤差が小さいと過程して、我々は透視モデルを使用することができる［G.Adiv,Determining Three−Dimensional Motion and Structure from Optical Flow Generated by several moving objects,IEEE Trans.Pattern Analysis and Machine intelligence,7,pp.384−401,1985］。
0003644688.tif 000007
係数a1,…a8は、以下の式を最小化することにより計算される。
0003644688.tif 000008
ここで、（センサの予測に基づく）透視変換マトリクスは、
0003644688.tif 000009
を掛けられる。
得られたマトリクスは、ビルボード透視の更新された予測であると考えられ得る。
実際の環境においては、以下の考慮が適用されてもよい。
・  遮断および移動物体からの画素が上記式の最小化に関係する場合に、その解をかなり偏らせなければならないので、遮断はこの定式化に大きな問題を生ずることになる。そのような画素はクロマキーパネルを使用することにより処理から捨てられることが好ましい。クロマキー装置によるキー信号出力は、これらの画素を放棄するために利用されることが好ましい。
・  輝度の変化は、現在のビデオフィールドをヒストグラム整合技術を用いて前処理することにより最小化され得る。
・  予測補正処理は、収束させるために２〜３回の繰り返しが必要である。
・  ノイズ免除および収束は、両方とも、画像の予備平滑化（pre−smoothing）により向上される。
このように、ビルボード14等は、この発明に従ってクロマキーボードであり、遮断は通常のクロマキー技術を使用した色識別による。これらの技術は、プレーヤがボードと同じ任意の色を身につけていない場合には、完全な遮断を可能とすることになる。このことは、必ずしも可能なことではなく、この発明の特定の実施形態に従って、回転するボード、または、第２または第３の色に変化するボードを使用することが提案されている。例えば、３つの色は、青色、緑色および赤色であり、プレーヤのストリップ（strip）の色が既知であるときには選択され得る。
これに代えて、ピッチの領域または周辺領域のビルボードを表示する必要がある場合には、そのような領域は、クロマキー装置にクロマキー色として記録され得る既知の色のものであるように選択されなければならない。
好ましい実施形態において、クロマキー装置は、ULTIMATTE Corp.,20554 Plummer St.,Chatsworth,CA91311,USAから供給されるULTIMATTE−７デジタルビデオ画像構成装置を具備している。
背景色は、青色、緑色および赤色の中から選択され得る。クロマキー装置が適正な画像構成を実施するために必要な全てのパラメータを計算するために、システムは、参照として、背景色のサンプルを必要とする。このステップは、画像を走査して最も純粋かつ最も明るい色を検知することにより自動的に実施される。先進のクロマキー装置は、ユーザが手動でサンプルされるべき領域を選択することを可能としている。
特定の実施形態において、模様を付けられたクロマキーパネルを使用することが提案されている。カメラセンサのキャリブレーションは、その模様を画素ごとに基づいて比較することにより容易に達成され得る。ビルボードパネル上の模様は、（ワールド座標に投影される）予想されたセンサ誤差より小さい臨界寸法を有していることが好ましい。
要約すると、上述したシステムは、電子式処理回路が各ビルボードがどこに配置されているかを正確に知っており、ビルボードを検知するためにビデオ画像のいかなる解析にも頼っていないので、極めてひどい気候条件においてさえも作動することができる。ビデオ画像が非常に歪んでいるためにリキャリブレーションが妥当な確実性をもって実施できない場合には、視聴されるようなビデオ画像は低品質のものであり、したがって低品質のビデオ画像に整合する等価な品質で表示されることが必要とされる置換ビルボードの位置決めにおいて、見る人が１画素または２画素の誤差を発見することはないので、元のカメラパラメータ設定が使用し続けられ得る。
この発明の他の好ましい実施形態において、注意を向けられる問題は、図16に示されるようにスタジアム内の異なる位置に配置された複数のビルボードを有することの問題である。
そのような条件下において、ビルボード1,3,5の照明は、光源7,9,13の位置のために異なっている。また、この照明は、試合の間中変化することもある。
そのようなビルボードが全て同じ色のクロマキーボードである場合には、該キーボードは異なる照明条件によって、全てが微妙に異なる色となって現れる。
全体的な背景色の固定した調節は、クロマキー装置により部分的な物体背景分離に帰結することになる。
この発明では、クロマキー装置が正確に各ビルボードを認識することができるように、背景色マップの空間的適合を供給することを提案している。このことは、記憶部704（図７）内に、各クロマキーボードの色に関連する情報を提供する空間的マップを記憶することにより提供される。
このように、クロマキー装置は、各ビデオ位置における色と、その位置におけるビルボードに関連する特定の色とを比較することになる。
好ましい実施形態において、ビルボードの位置は、位置を識別するためにビルボードを取り囲む若干拡大された箱を「ペインティング」することにより識別されてもよい。そのような箱は、図16における破線により符号１′,3′,5′として識別される。
システムは、常に背景色を追跡し、したがって、正確な識別が、一旦正確にセットアップされることを確実にするために、連続的に更新される。
システムの動作は以下の通りである。
第１に、図17を参照すると、最小レベルおよび最大レベルがU,Vについて設定される。これらは、適度に照らされた全てのビルボードを取り囲むのに十分に広くあるべきである。
その後、各ビルボードについて、照明条件が変化するときに、図18に示されるように、物体13によるビルボード１の遮断を想定するその記憶された値が調節され得る。内側の箱１″は、１の範囲内からの画素のみが確実に考慮されるように画定されている。多くの遮断画素は、これらが異なる色であるために放棄され得る。その後、FOV内の全ての画素（YuV）およびビルボードの四辺形１″が測定され、かつ、以下の場合、すなわち、
Umim≦Ｕ≧Umax
または  Vmin≦Ｖ≧Vmax
である場合に、（ビルボード全体にわたる背景色の平均値UVである）平均値への追加がなされる。
スタジアム内のクロマキービルボードを使用することにより生ずる他の問題を発明者は認識している。上述したように変化する照明によって、各ビルボードは、微妙に異なる色としてビデオ画像上に現れることになる。正確な遮断情報を送信するために、各ビルボードに対する遮断マップを送信することが必要である。
この発明の好ましい実施形態によれば、各ビルボードに対して完全な背景色を送信し、かつ、その後、各受信局におけるクロマキー装置が通常のクロマキー処理によって遮断された部分を導入することを可能にすることを提案している。
ここで、図16に示されたようなビルボード配置を考える。各ビルボード1,3,5は、異なる照明条件のために、たとえ、この色が、図17において打ち立てられた最小値制限と最大値制限との間にあるとしても、異なる色のものとして現れる。
この発明の好ましい実施形態によれば、送信装置（図６参照）は、ビルボードの領域内の完全なクロマキー色を送信し、ビルボードにより形成された四辺形の座標をも送信する。
この方法においては、受信局は、ビルボードの四辺形の座標を復号／抽出しなければならないだけであり、その後、その四辺形の範囲内において、完全なクロマキー色であるそれらの画素を置換ビルボードに置き換える。完全なクロマキー色でない画素は、置換されない。
このシステムによれば、遠隔の受信局におけるクロマキー装置が、異なるビルボードを認識することができかつ各ビルボードに対して異なるクロマキー値を記憶しなければならないということは必要ではない。また、クロマキー装置による遮断が各遠隔位置において比較的簡易なものとなるために、何らかの遮断状況を送信することも必要ではない。
図７を参照すると、ビルボード位置および背景色記憶部704は、各ビルボードの位置を知り、かつ、記憶部からの制御出力7042が、記憶部704により提供される座標内でビルボードの色を変更することができる背景色プロセッサ7044への入力を供給するためにビデオ出力7102とともに使用される。プロセッサ7044の出力は、要求された座標内でビルボードの色を変更し、遠隔受信者のためのビデオ出力720への座標をも提供することができる背景色記憶部7046を制御するために使用される。これらは、標準的なビデオデータ送信システムによって送信される。
例としての遠隔受信器は、図19に示されている。ビデオデータは、受信器バッファ1900において受信され、分割され（1902）、遅延される（1904）。ビルボード座標記憶部1906は、送信されたビルボード座標を記憶し、図形発生器1908および置換ビルボード画像記憶部1910とともに、所望の遮断されたビルボードをスクリーン上に生成するために、結合器／クロマキー装置1912に出力信号を供給する。
ここで、図20〜図22を参照すると、さらなる実施形態において、記憶部704に記憶されたセットアップデータは、何らかの競技がテレビ放送される前に修正される。
修正は、動的セットアップデータのみならず図９に示された静的画像および静的セットアップデータの追加を含んでいる。
追加のデータは、図９に示される動的リキャリブレーションセットアップデータ910の代わりに使用されてもよく、これに加えて使用されてもよい。
好ましい実施形態においては、追加のデータは動的リキャリブレーション手続の代わりに用いられ、これについて、以下に説明する。
序文として、ビルボードを仮想的なビルボードに置換することに関連する問題が議論された。この問題は、元のビルボードの位置、大きさ、遠近関係を識別することおよびその後にこれを仮想的なまたは置換ビルボードと置換することと同じである。
静止したカメラ条件においては、現実的な問題はなく、カメラセンサが常に実質的にドリフトしない場合には、一旦元の座標が記録される。
しかしながら、発明者は、カメラの急速なパンまたはチルトの間に、記憶部900に記録されたような置換ビルボードの座標908がスタジアムまたは他の開催場所におけるビルボードの現実の位置と一致しないことを見いだした。これは、カメラセンサが、ある程度のヒステリシスを示しているからである。これは、既に述べた動的リキャリブレーション処理により補償され得るが、目標ビルボードの実質的な遮断を伴う急速なパンの間のような状況においては現実的ではない。
ヒステリシスは、あるいは、カメラの動作に組み込まれた低い割合の誤差により取り消されるかも知れないが、各ビルボードに関するカメラ角度を考慮に入れていないのみならず、角度によるカメラパラメータセンサにおける変化性をも考慮していないのであまりよい結果を生み出すものではない。
したがって、この発明においては、他の実施形態において、静的ビルボードセットアップデータに加えて、ビルボードセットアップデータ記憶部900が各ビルボードに対するデータを各カメラごとに、少なくとも、左から右（Ｌ−Ｒ）のパン2002、右から左（Ｒ−Ｌ）のパン2004、上から下へのチルト2008、下から上へのチルト2006に関して記憶している。データは、この明細書において図20〜図22を参照して以下に説明されるように、得られかつ記憶される。
図20は、記憶部900は、ビルボード１〜Ｍに対する静的画像データおよびビルボード１〜Ｍに対する静的セットアップデータに加えて、各ビルボード１〜Ｍに対するさらに４組のデータを供給するように修正して示しており、各カメラに対してこのデータを提供するために掛けられる。
各カメラに対して、各ビルボードの位置が、左から右へのカメラのパン2002と右から左へのカメラのパン2004とともに記録される。パンの速度は、テレビ放送される試合のための通常の速度として選択され得る。このように、例えば、競馬に対してはそれは低いけれども、自動車レースに対してはそれはより高くされ得る。各ビルボードの位置は、その後、各ビルボードを横切る上方に向かうカメラのチルト2006および下方に向かうカメラのチルト2008とともに記録される。
各測定値に対して、カメラのズームおよびフォーカスは、解析されたビルボードが適当な視野に適当な大きさで配される既知のレベルに設定されることが好ましい。ズームおよびフォーカスは、例えば、静的セットアップデータとの直接比較することができるように、各ビルボードについての静的セットアップデータの取得中と同じとすることができる。この場合、誤差補正画像のみが記録されることが必要である。
非常に高い速度では、どんな場合でもビルボードがぼけてしまい、従って、置換の精度を得ることができないため、あまりに高いパンまたはチルト速度を選択することは好ましくない。この手続は、各ビルボードごとに、各カメラに対して行われ、データはその後、試合中に、カメラがパンまたはチルトするときに各ビルボードの位置を補正するために使用される。
各ビルボードが各カメラによって異なる角度で見られ、かつ、各カメラ上の各センサの出力はカメラがビルボードを見るために回らなければならない角度に依存して変化し得るということがわかる。静的データおよび両方向におけるパンおよびチルトに関連するデータの記録によって、置換ビルボードは、静止撮影およびカメラが移動しているときの両方に対する元のまたは現実のビルボードの正確な位置に正確に位置決めされることになる。
上述したように、試合中の動的リキャリブレーションは、大きな遮断を伴う非常に速いカメラの動作を除き、置換ビルボードが正確に位置決めされることを保証するが、静的および動的セットアップデータの使用も、このことを、カメラセンサが試合中に実質的にドリフトしない限り確実にする。このように、カメラセンサが、設計の観点から妥当な品質のものである場合には、それらは、パンおよびチルトの間の精度に関して種々の品質のものとなり得る。カメラの動作に関する全ての変化が記憶された動的セットアップデータにより補償されるので、カメラセンサの注意深い選択により、したがって、極めて正確なセンサは必要でない。
データは、図21および図22を参照して以下に説明されるように得られる。
各ビルボード画像に関する静的データ及びその静的セットアップデータ（906,908,図９）が一旦得られると、シーケンス2100が開始され、カメラは、通常のパン速度に対する所望の速度で、オペレータによりパンされる（2102）。
センサがパンの方向を示しており（2106）、その方向に依存して、動的データが記憶部2002,2004内にステップ2106またはステップ2108においてその記憶部の選択により記憶される。両Ｌ−ＲおよびＲ−Ｌ記憶部2002,2004は同様のものであり、両記憶部の参照番号を用いているが、説明はＬ−Ｒ記憶部について行うことにする。
カメラが左から右にパンすると、各ビルボードが、ステップ2110,2112において記憶部906に記憶されたデータから識別される。システムは、ステップ2114,2116において、ビルボードが以前に動的に記録されたものであるかを尋ね、そうである場合には、シーケンスの開始ステップに戻り、動的に走査されたことのないビルボードを見つけるまでステップ2104〜2110を繰り返す。新しいビルボードが一旦見つかると、パンの間のビルボードの位置（座標）が記録され、以前に記憶された（908）静的ビルボードパラメータと、ステップ2118,2120において比較される。何らかの誤差が計算され（ステップ2122,2124）、ステップ2126,2128において、その誤差がビルボードごとにＬ−Ｒ記憶部およびＲ−Ｌ記憶部に記憶される。システムは記憶部908に記録された全てのビルボードが、Ｌ−ＲおよびＲ−Ｌの両方に対して動的に走査されたかを尋ねる（ステップ2130,2132）。そうでない場合には、シーケンスは最後のビルボードが動的に走査されるまで継続され、その後プログラムは終了する（ステップ2134,2136）。
図22に示された同様のプログラムシーケンスが、各カメラのチルトのために提供される。明らかに、カメラがチルトすることを許容されないか、ある程度傾けられることが望まれないかのいずれかの場合には、このシーケンスおよび記憶部2006,2008内へのデータの記録は必要ではない。
シーケンスは、ステップ2200において開始され、各カメラは、今度は、ステップ2202においてチルトされ、チルトの方向がカメラセンサによって、ステップ2204において決定される。カメラが上方にチルトされるか下方にチルトされるかのいずれかによって、動的セットアップデータは、ステップ2206,2208において記憶部2006,2008内に記憶される。両シーケンスは同様であり、かつ、カメラを下方にチルトするシーケンスのみが、両シーケンスを参照して以下に説明される。
各ビルボードは、ステップ2210,2212において、静的画像データから、そしてカメラパラメータからも識別され、特に、そこでは、全ての現実のビルボードは同一である。プログラムは、ステップ2214,2216において、ビルボードデータが、既に記録されたかどうかを見るためにビルボードデータを尋ねる。もしそれが既に記録されていた場合には、プログラムは再スタートされるが、記録されていない場合には、チルト中のビルボードの座標データが、ステップ2218,2220において、静的データと比較される。誤差は、それがある場合には、ステップ2122,2124において計算され、ステップ2226,2228において、記憶部2006,2008（図20）内に記憶される。
プログラムはその後、上昇（ステップ2230）、下降（ステップ2232）の両方において、チルト誤差に対して、全てのビルボードが動的に記録されたか尋ねられ（2006,2008）、その場合、ステップ2234,2236にてプログラムが終了する。そうでない場合には、全てのボードが記録されるまでシーケンスの開始ステップから開始することにより、プログラムが継続される。
通常、カメラズームおよびフォーカスは同じ形式の動的セットアップデータが記録されることを必要としない。しかしながら、もし特定のカメラ収差が既知であるならば、これらは同様の動的セットアップデータの使用により補償され得る。
記憶部2002〜2008に記憶された動的データは、図９を参照して説明されたように得られた動的リキャリブレーションデータに代えて、またはこれとともに使用され得る。通常は、しかしながら、動的セットアップデータは、多くの形式の競技の間におけるリキャリブレーションの必要性を回避することになる。
使用中に、システムはカメラセンサを読み取ることにより、ビルボードがどこに静止した状態で見えるか、または、過去にＬ−ＲまたはＲ−Ｌパンされたかまたは過去に上昇または下降チルトされたかを知る。そのような場合、ビルボードの位置は、静的データ記憶部から採取され、その後、パンまたはチルトが生じる場合には、必要な誤差補正が適用される。一旦カメラの動作が終了すると、静的ビルボードパラメータが復旧される。
【図２】
0003644688.tif 000010
【図３】
0003644688.tif 000011
【図５】
0003644688.tif 000012
【図１】
0003644688.tif 000013
【図４】
0003644688.tif 000014
【図６】
0003644688.tif 000015
【図７】
0003644688.tif 000016
【図８】
0003644688.tif 000017
【図９】
0003644688.tif 000018
【図１７】
0003644688.tif 000019
【図１０】
0003644688.tif 000020
【図１６】
0003644688.tif 000021
【図１１】
0003644688.tif 000022
【図１２】
0003644688.tif 000023
【図１３】
0003644688.tif 000024
【図１４】
0003644688.tif 000025
【図１５】
0003644688.tif 000026
【図１８】
0003644688.tif 000027
【図１９】
0003644688.tif 000028
【図２０】
0003644688.tif 000029
【図２１】
0003644688.tif 000030
【図２２】
0003644688.tif 000031