(57)【要約】  一実施形態による立体ストライクゾーンの表示方法は、多チャネル映像でのストライクゾーンを表示するか、またはストライクゾーンを立体的に表現することにより、投手の投げたボールが多様な角度でのストライクゾーンを通るか否かを判断することができる。
2022501748.tif 000002
【特許請求の範囲】
【請求項１】
立体ストライクゾーンの表示方法であって、
ホームプレートを含むバッターボックスの少なくとも４個の基準点座標に基づいて、三次元座標系を設定するステップと、
前記設定された三次元座標系に相応するように、前記立体ストライクゾーンの座標値を設定するステップと、
多チャネル映像を生成するための複数のカメラそれぞれに投影された二次元映像平面での前記バッターボックスの二次元座標値を獲得するステップと、
前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、回転（rotation）情報及び移動（translation）情報を推定するステップと、
前記回転情報及び移動情報に基づいて、前記複数のカメラそれぞれに投影された二次元映像平面に、前記立体ストライクゾーンを表示するステップと、を含む立体ストライクゾーンの表示方法。
【請求項２】
前記回転情報及び移動情報は、
前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、Levenberg-Marquardt optimization、Perspective-Three-Point、または最小自乗法により推定されることを特徴とする請求項１に記載の立体ストライクゾーンの表示方法。
【請求項３】
前記立体ストライクゾーンの座標値は１０個であり、前記１０個のうち２個の値ｈ１及びｈ２は、現在の打席に登場するバッターの身長によって可変する座標値であることを特徴とする請求項１に記載の立体ストライクゾーンの表示方法。
【請求項４】
前記バッターの身長は、
任意のデータベースから抽出するか、または前記バッターの映像検出により抽出することを特徴とする請求項３に記載の立体ストライクゾーンの表示方法。
【請求項５】
投手の投げたボールの軌跡を検出及び追跡するステップをさらに含み、
前記表示された立体ストライクゾーンを前記ボールが通るか否かを検出することにより、ストライクであるか否かを判断することを特徴とする請求項１に記載の立体ストライクゾーンの表示方法。
【請求項６】
立体ストライクゾーンの表示装置であって、
ホームプレートを含むバッターボックスの少なくとも４個の基準点座標に基づいて、三次元座標系を設定し、前記設定された三次元座標系に相応するように、前記立体ストライクゾーンの座標値を設定する三次元座標設定部と、
多チャネル映像を生成するための複数のカメラそれぞれに投影された二次元映像平面での前記バッターボックスの二次元座標値を獲得し、前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、回転（rotation）情報及び移動（translation）情報を推定する立体ストライクゾーン生成部と、
前記回転情報及び移動情報に基づいて、前記複数のカメラそれぞれに投影された二次元映像平面に、前記立体ストライクゾーンを表示する映像処理部と、を含む立体ストライクゾーンの表示装置。
【請求項７】
前記回転情報及び移動情報は、
前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、Levenberg-Marquardt optimization、Perspective-Three-Point、または最小自乗法により推定されることを特徴とする請求項６に記載の立体ストライクゾーンの表示装置。
【請求項８】
前記立体ストライクゾーンの座標値は１０個であり、前記１０個のうち２個の値ｈ１及びｈ２は、現在の打席に登場するバッターの身長によって可変する座標値であることを特徴とする請求項６に記載の立体ストライクゾーンの表示装置。
【請求項９】
前記バッターの身長は、
任意のデータベースから抽出するか、または前記バッターの映像検出により抽出することを特徴とする請求項８に記載の立体ストライクゾーンの表示装置。
【請求項１０】
投手の投げたボールの軌跡を検出及び追跡する軌跡追跡部をさらに含み、
前記表示された立体ストライクゾーンを前記ボールが通るか否かを検出することにより、ストライクであるか否かを判断することを特徴とする請求項６に記載の立体ストライクゾーンの表示装置。
【請求項１１】
請求項１ないし５のいずれか一項に記載の方法をコンピュータで実行させるためのプログラムを記録した記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、立体ストライクゾーンの表示方法及び装置に関する。
【背景技術】
【０００２】
近年、大衆は、モバイルを利用した動画の再生を好む。かかる好みに歩調を合わせて、企業は、放送プラットホーム、例えば、Ｖ−ａｐｐ、ＡｆｒｅｅｃａＴＶ、Ｙｏｕｔｕｂｅ Ｌｉｖｅをサービスしている。かかるプラットホームを視聴する大衆は、一つの視点、すなわち、一つのカメラで撮影した映像を視聴している。しかし、近年、視聴者は、所望の空間で撮影された映像を視聴することを所望する。
【０００３】
現在、複数のカメラで一つの被写体を多様なチャネルで撮影して獲得した複数の映像を幾何学的に校正及び合成し、多チャネルの映像をユーザに提供する映像サービスが公開されている。当該多チャネル映像は、高画質の概念を打ち破るリアリティのある映像を提供し、それにより、ユーザはメディアに没頭感をさらに感じることになり、広告、教育、医療、国防、娯楽などの分野で映像情報伝達効果を大きく向上させることができる。
【０００４】
従来の多チャネル映像においては、チャネル／時間のスイッチングが、多チャネル映像の制作時に予め決まった併合方式により単純に再生される程度である。すなわち、従来には、複数台のカメラで複数個のフレームを獲得し、獲得したフレームのうち一部を選別した後、それらのフレームを併合して、一つのチャネルスイッチング映像を制作した。当該チャネルスイッチング映像は、映像の制作時に制作者が予め決めたチャネルのフレームを単純に併合したものであるので、当該映像ファイルを再生すれば、併合されたフレームが単一のチャネル移動効果を表すチャネルスイッチング効果を表すものであった。かかる従来技術の多チャネル映像によれば、ユーザは、予め制作されたチャネルスイッチング効果を単純に視聴するに過ぎず、視聴者が視覚スイッチングまたはチャネルスイッチングを手動で操作して、再生を所望する時点でチャネルを回しつつ映像を視聴することはできなかった。
【０００５】
一方、野球中継時に、投手の投げたボールがストライクであるかボールであるかを、野球中継画面の二次元平面上で表示するか、またはボールがストライクゾーンを通るか否かを表示する技術が一般化されていた。しかし、前述した多チャネル映像におけるストライクゾーンを表示するか、またはストライクゾーンを立体的に表現するのには、多くの技術的困難さが存在している。
【発明の概要】
【発明が解決しようとする課題】
【０００６】
本実施形態は、立体ストライクゾーンの表示方法及び装置を提供することを目的とする。
【課題を解決するための手段】
【０００７】
一実施形態による立体ストライクゾーンの表示方法は、ホームプレートを含むバッターボックスの少なくとも４個の基準点座標に基づいて、三次元座標系を設定するステップと、前記設定された三次元座標系に相応するように、前記立体ストライクゾーンの座標値を設定するステップと、多チャネル映像を生成するための複数のカメラそれぞれに投影された二次元映像平面での前記バッターボックスの二次元座標値を獲得するステップと、前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、回転（rotation）情報及び移動（translation）情報を推定するステップと、前記回転情報及び移動情報に基づいて、前記複数のカメラそれぞれに投影された二次元映像平面に、前記立体ストライクゾーンを表示するステップと、を含む。
【０００８】
前記回転情報及び移動情報は、前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、Levenberg-Marquardt optimization、Perspective-Three-Point、または最小自乗法により推定されることを特徴とする。
【０００９】
前記方法は、前記立体ストライクゾーンの座標値は１０個であり、前記１０個のうち２個の値ｈ１及びｈ２は、現在の打席に登場するバッターの身長によって可変する座標値であることを特徴とする。
【００１０】
前記バッターの身長は、任意のデータベースから抽出するか、または前記バッターの映像検出により抽出することを特徴とする。
【００１１】
前記方法は、投手の投げたボールの軌跡を検出及び追跡するステップをさらに含み、前記表示された立体ストライクゾーンを前記ボールが通るか否かを検出することにより、ストライクであるか否かを判断することを特徴とする。
【００１２】
他の実施形態による立体ストライクゾーンの表示装置は、ホームプレートを含むバッターボックスの少なくとも４個の基準点座標に基づいて、三次元座標系を設定し、前記設定された三次元座標系に相応するように、前記立体ストライクゾーンの座標値を設定する三次元座標設定部と、多チャネル映像を生成するための複数のカメラそれぞれに投影された二次元映像平面での前記バッターボックスの二次元座標値を獲得し、前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、回転（rotation）情報及び移動（translation）情報を推定する立体ストライクゾーン生成部と、前記回転情報及び移動情報に基づいて、前記複数のカメラそれぞれに投影された二次元映像平面に、前記立体ストライクゾーンを表示する映像処理部と、を含む。
【００１３】
前記回転情報及び移動情報は、前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、Levenberg-Marquardt optimization、Perspective-Three-Point、または最小自乗法により推定されることを特徴とする。
【００１４】
前記装置は、前記立体ストライクゾーンの座標値は１０個であり、前記１０個のうち２個の値ｈ１及びｈ２は、現在の打席に登場するバッターの身長によって可変する座標値であることを特徴とする。
【００１５】
前記バッターの身長は、任意のデータベースから抽出するか、または前記バッターの映像検出により抽出することを特徴とする。
【００１６】
前記装置は、投手の投げたボールの軌跡を検出及び追跡する軌跡追跡部をさらに含み、前記表示された立体ストライクゾーンを前記ボールが通るか否かを検出することにより、ストライクであるか否かを判断することを特徴とする。
【００１７】
さらに他の実施形態による、前記方法をコンピュータで実行させるための方法を記録した記録媒体を含む。
【発明の効果】
【００１８】
本実施形態による立体ストライクゾーンの表示方法及び装置によれば、多チャネル映像でのストライクゾーンを表示するか、またはストライクゾーンを立体的に表現することにより、投手の投げたボールが多様な角度でのストライクゾーンを通るか否かを判断することができる。
【図面の簡単な説明】
【００１９】
【図１】一実施形態による多チャネル映像のための伝送システム１００の概略図である。
【図２】多チャネル映像を生成する例示図である。
【図３】一実施形態による立体ストライクゾーン３００を表示する概略図である。
【図４】図１に示した映像処理装置１３０の概略図である。
【図５】他の実施形態による立体ストライクゾーンを生成及び表示することを説明するための例示図である。
【図６】他の実施形態による立体ストライクゾーンを生成及び表示することを説明するための例示図である。
【図７】他の実施形態による立体ストライクゾーンを生成及び表示することを説明するための例示図である。
【図８】他の実施形態による立体ストライクゾーンを生成及び表示することを説明するための例示図である。
【図９Ａ】他の実施形態による立体ストライクゾーンを生成及び表示することを説明するための例示図である。
【図９Ｂ】他の実施形態による立体ストライクゾーンを生成及び表示することを説明するための例示図である。
【図９Ｃ】他の実施形態による立体ストライクゾーンを生成及び表示することを説明するための例示図である。
【発明を実施するための形態】
【００２０】
本実施形態において使われる用語は、本実施形態における機能を考慮しつつ、できる限り現在広く使われている一般的な用語を選択したが、それは、当業者の意図または判例、新たな技術の出現などによって変わりうる。また、特定の場合は、任意に選定された用語もあり、その場合、該当する実施形態の説明の部分で詳細にその意味を記載する。したがって、本実施形態において使われる用語は、単純な用語の名称ではなく、その用語が有する意味と、本実施形態の全般にわたった内容とに基づいて定義されなければならない。
【００２１】
本実施形態についての説明において、ある部分が他の部分と連結されているとするとき、それは、直接連結されている場合だけでなく、その間に他の構成要素を挟んで電気的に連結されている場合も含む。また、ある部分がある構成要素を含むとするとき、それは、特に逆になる記載がない限り、他の構成要素を除くものではなく、他の構成要素をさらに含んでもよいということを意味する。また、本実施形態に記載された“…部”の用語は、少なくとも一つの機能や動作を処理する単位を意味し、それは、ハードウェアまたはソフトウェアにより具現されてもよく、ハードウェアとソフトウェアとの結合により具現されてもよい。
【００２２】
本実施形態において使われる“構成される”または“含む”などの用語は、明細書上に記載された色々な構成要素、または色々なステップを必ずしも全て含むものと解釈されるものではなく、そのうち一部の構成要素または一部のステップは含まれず、追加的な構成要素またはステップをさらに含んでもよいものと解釈されなければならない。
【００２３】
下記の実施形態についての説明は、権利範囲を制限するものと解釈されるものではなく、当該技術分野の当業者が容易に類推可能なものは、本実施形態の権利範囲に属するものと解釈されなければならない。以下、添付された図面を参照して、例示だけのための実施形態を詳細に説明する。
【００２４】
図１は、一実施形態による多チャネル映像のための伝送システム１００の概略図である。
【００２５】
図１を参照すれば、伝送システム１００は、複数のカメラ１１１ないし１１３と、複数のカメラ１１１ないし１１３を制御し、複数のカメラ１１１ないし１１３から撮影された多チャネル映像を処理及び伝送するカメラ制御部１１０と、カメラ制御部１１０から伝送された多チャネル映像を処理及び保存する映像サーバ２００とを含む。映像サーバ２００は、ユーザ端末１５０から、多チャネル映像についての要請、スイッチング映像についての要請、及び特定のイベントについての要請を受信し、保存された多チャネル映像をユーザ端末１５０へ伝送する。映像サーバ２００は、映像処理装置１３０及び映像保存部１４０を含む。
【００２６】
図２に示したように、特定の被写体を撮影するために、複数のカメラ１ないしＮが配置されてもよい。被写体の周囲にアレイに配列された複数のカメラで被写体を多角度で撮影した複数の映像を受信する。複数のカメラの配列方法は、例えば、任意のカメラを基準として、Ｎ台のカメラを実質的に同じ平面上に一列に配置するものであってもよい。その場合、被写体を基準として、一定の距離ほど離隔された円周上にＮ台のカメラを順次に配置することもでき、中央に配置されたカメラを基準として、両側に配置された二台のカメラと被写体との距離を一致させ、残りのカメラは被写体との距離を異ならせることもできる。また、被写体は、固定された被写体であってもよく、動く被写体であってもよい。
【００２７】
複数のカメラ１ないしＮ、及びカメラ制御部１１０は、有線または無線で通信可能であり、複数のカメラ１ないしＮを制御するための複数のカメラ制御部を備えることも可能である。
【００２８】
カメラ制御部１１０は、複数のカメラ１ないしＮを同期化する同期化信号により、複数のカメラ１ないしＮを制御する。カメラ制御部１１０は、複数のカメラ１ないしＮから撮影された映像を臨時保存し、コーデック変更により、撮影された映像の大きさを減らし、かつ速い伝送を可能にする。
【００２９】
映像サーバ２００は、カメラ制御部１１０から伝送された多チャネル映像のうち、少なくとも一つの映像についての立体ストライクゾーンを生成して表示する。
【００３０】
映像サーバ２００は、多チャネル映像を、ユーザ端末の要請によって通信網を介して伝送する。また、映像サーバ２００は、立体ストライクゾーンを含む多チャネル映像を、時間別、チャネル別、時間及びチャネルを混合した少なくとも一つの基準でグルーピングして保存し、ユーザ端末の要請によって、グルーピングされた映像を、通信網を介してユーザ端末１５０へ伝送する。
【００３１】
図３は、一実施形態による立体ストライクゾーン３００を表示する概略図である。
【００３２】
図３を参照すれば、一実施形態による多チャネル映像伝送システムにより、特定のカメラ、例えば、図２に示したカメラ１で撮影された野球中継画面上に、立体ストライクゾーン３００が共に表示されている。ここで、全てのカメラ２ないしＮで撮影された野球中継画面上にも、同じ立体ストライクゾーンが共に表示される。ここで、投手の投げたボールが立体ストライクゾーン３００を通るか否かによって、ボールまたはストライクの判定が可能であり、投手の投げたボールの軌跡を検出及び追跡しつつ、立体ストライクゾーン３００を通るか否かを表示することもできる。したがって、ユーザが所望の角度（または、カメラ）で撮影された画面をスイッチングしつつ、野球中継画面を見るとき、仮想の立体ストライクゾーン３００を生成して、画面に共に表示することができる。
【００３３】
多チャネル映像伝送システムは、各カメラの映像から、ストライクゾーンの座標情報を推定し、実際のバッターボックスの規格と、映像内でのバッターボックスの座標情報とを利用して、それぞれのカメラで撮影された映像平面での回転情報及び移動情報を獲得し、それらを利用して、ストライクゾーンを構成する１０個の座標を推定して、それぞれの映像に投影させる。ここで、五角形のストライクゾーンの形状によって、１０個の座標を推定しているが、その数に限定されるものではない。詳細な立体ストライクゾーンの生成及び表示の方法は、図５ないし図９を参照して説明する。
【００３４】
図４は、図１に示した映像処理装置１３０の概略図である。
【００３５】
図４を参照すれば、映像処理装置１３０は、立体ストライクゾーン生成部１３１と、映像処理部１３２と、映像変換部１３３と、伝送部１３４とを含む。一実施形態による映像処理装置１３０は、野球中継ストリーミングサービスのための映像処理のためのものであり、立体ストライクゾーンを生成及び表示する処理を行う。
【００３６】
立体ストライクゾーン生成部１３１は、ホームプレートを含むバッターボックスの少なくとも４個の基準点座標に基づいて、三次元座標系を設定し、設定された三次元座標系に相応するように、立体ストライクゾーンの座標値を設定する。また、多チャネル映像を生成するための複数のカメラそれぞれに投影された二次元映像平面でのバッターボックスの二次元座標値を獲得し、三次元座標系と二次元座標値との対応する座標値に基づいて、回転情報及び移動情報を推定する。
【００３７】
図５ないし図９は、他の実施形態による立体ストライクゾーンを生成及び表示することを説明するための例示図である。
【００３８】
図５を参照すれば、実際の野球場に設けられたバッターボックスの規格が示されている。バッターボックスのうち、ホームプレートは五角形であり、横及び縦の長さが４３．１８ｃｍであり、五角形の頂点を形成するために、２１．５９ｃｍを基準として分けられる。左右打席に打者が位置した打席の横長は３１７．５ｃｍであり、縦長は１８２．８８ｃｍである。
【００３９】
図６を参照すれば、図５に示したバッターボックスの実際の規格を参照して、四角の座標を三次元座標系に設定する。図６に示したように、Ｐ１（０，０，０）、Ｐ２（３１７．５，０，０）、Ｐ３（０，１８２．８８，０）及びＰ４（３１７．５，１８２．８８，０）に設定する。ここで、４個の座標Ｐ１ないしＰ４、またはバッターボックスの四角を基準としているが、それに限定されず、多様な基準座標を設定可能であることはいうまでもない。
【００４０】
図７を参照すれば、図６に示した三次元座標に相応するように、ホームプレートの大きさに基づいて、立体ストライクゾーンの座標Ｋ１ないしＫ１０を設定する。ここで、ｈ１及びｈ２は、打者の体形または身長によって高低が変わるストライクゾーンの特性によって可変的に適用可能な媒介変数である。例えば、打者の身長が高い場合には、ｈ１及びｈ２の値が大きいものの、打者の身長が低い場合には、ｈ１及びｈ２の値が小さい。そのような打者の身長は、別途のデータベース、例えば、野球選手の詳細情報を記録したデータベースから情報を抽出することもでき、または野球中継映像中から打者の映像を検出して、身長を測定した後、その測定結果を反映して、ｈ１及びｈ２を決めることもできる。
【００４１】
図７に示したように、底のホームプレートを基準として、立体ストライクゾーンの下面の５個の座標Ｋ１ないしＫ５、及び上面の５個の座標Ｋ６ないしＫ１０は、次の通りである。
【００４２】
立体ストライクゾーンを構成する１０個の座標は、Ｋ１（１３７．１６，６９．８１，ｈ１）、Ｋ２（１８０．３４，６９．８１，ｈ１）、Ｋ３（１８０．３４，９１．４４，ｈ１）、Ｋ４（１５８．７５，１１３．０３，ｈ１）、Ｋ５（１３７．３４、９１．４４，ｈ１）、Ｋ６（１３７．１６，６９．８１，ｈ２）、Ｋ７（１８０．３４，６９．８１，ｈ２）、Ｋ８（１８０．３４，９１．４４，ｈ２）、Ｋ９（１５８．７５，１１３．０３，ｈ２）、Ｋ１０（１３７．３４，９１．４４，ｈ２）を含む。一実施形態で記載されたバッターボックスまたは立体ストライクゾーンの座標値は、例示的なものであり、正確に数値が一致する必要はなく、割合のみが対応しても具現可能であることはいうまでもない。ここで、ｈ１及びｈ２は、前述したように、打者の身長によって可変できる数値である。
【００４３】
図８を参照すれば、特定のカメラ、例えば、図２に示した複数のカメラのうちいずれか一つのカメラで撮影された映像平面に結ばれた二次元座標と、対応するバッターボックス及びホームプレートの三次元座標とを利用する。ここで、対応する点により、Levenberg-Marquardt optimization、Perspective-Three-Point、最小自乗法などを利用できる。そのような方法により、特定のカメラで撮影された映像に、立体ストライクゾーンを合成するための、回転情報及び移動情報を推定する。すなわち、三次元座標系と、投影されたそれぞれの二次元座標系との対応する３個以上の座標が分かれば、それぞれの二次元座標系に投影された回転情報及び移動情報の推定が可能である。ここで、Levenberg-Marquardt optimization、Perspective-Three-Point、最小自乗法などを利用するものと説明したが、それらに限定されず、他の方法を使用可能であることはいうまでもない。
【００４４】
Perspective-n-Pointを参照して、回転情報及び移動情報を利用した３Ｄ−２Ｄイメージ投影について詳細に説明する。特定の３Ｄ空間の座標と、特定のイメージ平面とのそれぞれ対応する４個以上の点が分かれば、当該空間間の回転情報及び移動情報を獲得することができる。もちろん、使用するアルゴリズムによって、３個の点でもポーズ推定が可能である。すなわち、Perspective-n-Pointを利用して獲得した回転情報及び移動情報があれば、３Ｄ空間の特定の座標をイメージ平面に対応させることができる。
【００４５】
回転情報Ｒ及び移動情報Ｔを、下記の数式１及び数式２のように定義することができる。
【００４６】
2022501748.tif 000003
【００４７】
2022501748.tif 000004
【００４８】
そして、３Ｄ座標をＰｗ＝（Ｘｗ，Ｙｗ，Ｚｗ）と、投影される２Ｄ座標をＰｃ（Ｘｃ，Ｙｃ，Ｚｃ）と仮定すれば、下記の数式３のように定義することができる。
【００４９】
2022501748.tif 000005
ここで、イメージ平面のサイズに合うように投影するために、Ｐｃに内部のカメラモデル情報Ｍを乗ずれば、下記の数式４の通りである。
【００５０】
2022501748.tif 000006
そのとき、ｘ、ｙが実際のイメージ平面のｘ、ｙであり、式を整理すれば、下記の数式５の通りである。
【００５１】
2022501748.tif 000007
【００５２】
前記数式１ないし数式５を参照して、３Ｄ座標系のＰｗ１、Ｐｗ２、Ｐｗ３、Ｐｗ４を下記のように設定する。Ｐｗ１＝（０，２０．１８３，０）、Ｐｗ２＝（１００，２０．１８３，０）、Ｐｗ３＝（１００，７９．８１６，０）、Ｐｗ４＝（０，７９．８１５，０）であり、回転情報及び移動情報は、下記の通りである。
2022501748.tif 000008
【００５３】
次いで、立体ストライクゾーンの座標値ｋ１ないしｋ１０は、下記の通りである。
【００５４】
ｋ１＝（４４，４３，−１２）、ｋ２＝（５６，４３，−１２）、ｋ３＝（５６，５０，−１２）、ｋ４＝（５０，５７，−１２）、ｋ５＝（４４，５０，−１２）、ｋ６＝（４４，４３，−３０）、ｋ７＝（５６，５０，−３０）、ｋ８＝（５６，５０，−３０）、ｋ９＝（５０，５７，−３０）、ｋ１０＝（４４，５０，−３０）である場合、イメージ平面でのｋ１ないしｋ１０のｘ、ｙ値は、下記の数式６ないし数式１５の通りである。
【００５５】
2022501748.tif 000009
【００５６】
2022501748.tif 000010
【００５７】
2022501748.tif 000011
【００５８】
2022501748.tif 000012
【００５９】
2022501748.tif 000013
【００６０】
2022501748.tif 000014
【００６１】
2022501748.tif 000015
【００６２】
2022501748.tif 000016
【００６３】
2022501748.tif 000017
【００６４】
2022501748.tif 000018
【００６５】
前述した方法により、各カメラにおけるイメージ平面での立体ストライクゾーンの座標値を計算することができる。
【００６６】
一実施形態において、３Ｄ空間の座標とマッチングされるイメージ平面の座標を利用して、回転情報Ｒ及び移動情報Ｔを推定する。次いで、Levenberg-Marquardt optimizationなどの方法により、Ｒ及びＴの値を代入させて計算し、実際の結果値と計算された結果値との誤差が閾値よりも小さくなるまで、改善されたＲ及びＴの値を修正して再び計算する。そのような過程を繰り返せば、実際の値に近接することになり、最も近接したＲ及びＴを選択することができる。ここで、Ｒ、Ｔ、Ｍを下記のように定義する。
2022501748.tif 000019
ここで、Ｒ及びＴを計算して評価するための評価関数をＦとすれば、Ｆは、下記の数式１６のように定義することができる。
【００６７】
2022501748.tif 000020
【００６８】
評価関数の目標値はＦ（ｓ）であり、それは、実際のイメージ平面の座標値に該当する。次いで、入力ベクトルＣ（ｋ＝０）を初期化する。ここで、Ｃは、入力ベクトルＲ及びＴを意味する。
【００６９】
入力ベクトルについて、前記数式１６を利用して、関数Ｆ（Ｃ）を計算する。
【００７０】
誤差関数Ｆ（ｋ）＝Ｆ（ｓ）−Ｆ（Ｃ）を計算する。ここで、誤差関数は、実際のイメージ平面の値と、入力ベクトルＲ及びＴとを代入して出てきた比較値を意味する。
また、入力ベクトルの改善のために、下記の数式１７を利用する。
【００７１】
2022501748.tif 000021
【００７２】
ここで、Ｊ（ｋ）は、Ｃ（ｋ）に対するＦ（ｋ）の微分であり、入力ベクトルを収斂する方向に改善するための関数である。ここで、ｋは、反復回数であり、Ｃは、入力ベクトルＲ、Ｔである。
【００７３】
また、下記の数式１８を満足すれば終了し、そうでなければ、入力ベクトルについての関数Ｆ（Ｃ）を再び計算して繰り返す。
【００７４】
2022501748.tif 000022
ここで、δは、収斂されたか否かを評価するための閾値である。
【００７５】
図９Ａに示したように、ホームプレートを含むバッターボックスの少なくとも４個の基準点座標に基づいて、三次元座標系を設定する。また、三次元座標系に相応するように、立体ストライクゾーンの座標値を設定する。
【００７６】
図９Ｂに示したように、多チャネル映像を生成するための複数のカメラそれぞれに投影された二次元映像平面でのバッターボックスの二次元座標値を獲得する。ここで、前記数式１ないし数式１８を参照して説明したように、三次元座標系と二次元座標値との対応する座標値に基づいて、回転情報及び移動情報を推定する。それぞれのカメラ（図２に示したカメラ１ないしＮ）におけるイメージ平面での座標値に基づいて、回転情報及び移動情報を推定する。
【００７７】
図９Ｃに示したように、回転情報及び移動情報に基づいて、複数のカメラそれぞれに投影された二次元映像平面に、立体ストライクゾーンを表示する。
【００７８】
一実施形態において、映像処理部１３２は、立体ストライクゾーン生成部１３１で推定された回転情報及び移動情報に基づいて、複数のカメラ（図２に示したカメラ１ないしＮ）それぞれに投影された二次元映像平面に、立体ストライクゾーンを表示する。
【００７９】
映像処理部１３２は、伝送された多チャネル映像、すなわち、複数のカメラで撮影された映像について、映像補正を行う。例えば、複数のカメラで撮影された映像が、焦点が合ってもいないので、カメラ間の焦点が同じであるように、映像処理を行う。映像処理部１３２は、伝送された多チャネル映像を補正する。Ｎ台のカメラ配列の幾何学的誤差は、多チャネル映像を再生する過程において、視覚的な揺れにより表されるので、それを取り除くために、各映像の大きさまたはサイズ、勾配または中心位置のうち少なくとも一つを補正する。
【００８０】
映像変換部１３３は、多チャネル映像を、時間別、チャネル別、時間及びチャネルを混合した少なくとも一つの基準でグルーピングする。映像変換部１３３は、複数の空間を一つにしてグルーピングする。グルーピングする方法は、多様な基準によって遂行される。一実施形態による伝送システムは、ユーザ端末１５０へ効果的な多チャネル映像ないしスイッチング映像を伝送するために、全ての映像データを伝送してデータを無駄にすることなく、グルーピングされた映像を伝送することにより、ユーザに必要なデータのみを伝送可能にする。映像変換部１３３は、ｔ時間のイベントを中心として、±ｙ（ｙは、自然数）時間別のチャネル映像をまとめてグルーピングすることもできる。例えば、チャネル１で、ｔ３でイベントが発生した場合である。ここで、イベントは、予め決まった場合、例えば、野球競技でホームラン場面またはアウト場面であってもよく、ユーザの要請によるイベント、ユーザが所望する場合であってもよい。
【００８１】
映像変換部１３３は、多チャネル映像を、時間別、チャネル別、または時間及びチャネルを混合した基準でグルーピングして、映像保存部１４０に保存する。ユーザ端末１５０の要請がある場合、映像処理装置１３０が映像保存部１４０に保存された映像を抽出して、伝送部１３４を介してユーザ端末１５０へ伝送する。ここで、伝送部１３４は、ストリーミング装置であり、映像サーバ１３０内に含まれているものと説明するが、映像サーバ１３０と分離され、別途の装置として具現可能であることはいうまでもない。
【００８２】
伝送部１３３は、処理された映像、または保存された映像をリアルタイムで伝送する。例えば、リアルタイム・ストリーミングのための装置でもある。伝送部１３３は、ユーザ端末と、セッション管理、プロトコル管理を行うメッセージハンドラと、映像をユーザ端末へ伝送し、ユーザ端末へ伝送する映像の集合であるストリーマと、ユーザ端末の信号を受け、映像をＧＯＰ単位でスケジューリングした後、ストリーマに伝達するチャネルマネージャとを含む。
【００８３】
一実施形態は、コンピュータにより実行されるプログラムモジュールのような、コンピュータにより実行可能な命令語を含む記録媒体の形態でも具現可能である。コンピュータで読み取り可能な媒体は、コンピュータによりアクセスされる任意の可用媒体であってもよく、揮発性及び不揮発性の媒体、並びに分離型及び非分離型の媒体をいずれも含む。また、コンピュータで読み取り可能な媒体は、コンピュータ記録媒体及び通信媒体をいずれも含む。コンピュータ記録媒体は、コンピュータで読み取り可能な命令語、データ構造、プログラムモジュールまたはその他のデータのような情報の保存のための任意の方法または技術により具現された揮発性及び不揮発性、並びに分離型及び非分離型の媒体をいずれも含む。通信媒体は、典型的にコンピュータで読み取り可能な命令語、データ構造、プログラムモジュール、搬送波のような変調されたデータ信号のその他のデータ、またはその他の伝送メカニズムを含み、任意の情報伝達媒体を含む。
【００８４】
前述した説明は、例示のためのものであり、本発明の属する技術分野における通常の知識を持つ者は、本発明の技術的思想や必須的な特徴を変更することなく、他の具体的な形態に容易に変形可能であるということを理解できるであろう。したがって、前述した実施形態は、全ての面で例示的なものであり、限定的ではないものと理解しなければならない。例えば、単一型と述べられている各構成要素は、分散されて実施されてもよく、同様に、分散されたものと述べられている構成要素も、結合された形態に実施されてもよい。
【００８５】
本発明の範囲は、前述した詳細な説明よりは、後述する特許請求の範囲により表され、特許請求の範囲の意味及び範囲、並びにその均等概念から導出される全ての変更または変形された形態が、本発明の範囲に含まれるものと解釈されなければならない。
【図１】
2022501748.tif 000023
【図２】
2022501748.tif 000024
【図３】
2022501748.tif 000025
【図４】
2022501748.tif 000026
【図５】
2022501748.tif 000027
【図６】
2022501748.tif 000028
【図７】
2022501748.tif 000029
【図８】
2022501748.tif 000030
【図９Ａ】
2022501748.tif 000031
【図９Ｂ】
2022501748.tif 000032
【図９Ｃ】
2022501748.tif 000033
【手続補正書】
【提出日】令和3年5月17日(2021.5.17)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
立体ストライクゾーンの表示方法であって、
ホームプレートを含むバッターボックスの少なくとも４個の基準点座標に基づいて、三次元座標系を設定するステップと、
前記設定された三次元座標系に相応するように、前記立体ストライクゾーンの座標値を設定するステップと、
多チャネル映像を生成するための複数のカメラそれぞれに投影された二次元映像平面での前記バッターボックスの二次元座標値を獲得するステップと、
前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、回転（rotation）情報及び移動（translation）情報を推定するステップと、
前記回転情報及び移動情報に基づいて、前記複数のカメラそれぞれに投影された二次元映像平面に、前記立体ストライクゾーンを表示するステップと、を含み、
前記立体ストライクゾーンの座標値は、１０個（Ｋ１ないしＫ１０）であり、前記それぞれの座標値は、２個のパラメータ値（ｈ１及びｈ２）（前記２個のパラメータ値は、現在打席に登場するバッター（batter）の身長によって可変する値）のうちいずれか一つを含むことを特徴とする立体ストライクゾーンの表示方法。
【請求項２】
前記回転情報及び移動情報は、
前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、Levenberg-Marquardt optimization、Perspective-Three-Point、または最小自乗法により推定されることを特徴とする請求項１に記載の立体ストライクゾーンの表示方法。
【請求項３】
前記バッターの身長は、
任意のデータベースから抽出するか、または前記バッターの映像検出により抽出することを特徴とする請求項１に記載の立体ストライクゾーンの表示方法。
【請求項４】
投手の投げたボールの軌跡を検出及び追跡するステップをさらに含み、
前記表示された立体ストライクゾーンを前記ボールが通るか否かを検出することにより、ストライクであるか否かを判断することを特徴とする請求項１に記載の立体ストライクゾーンの表示方法。
【請求項５】
立体ストライクゾーンの表示装置であって、
ホームプレートを含むバッターボックスの少なくとも４個の基準点座標に基づいて、三次元座標系を設定し、前記設定された三次元座標系に相応するように、前記立体ストライクゾーンの座標値を設定する三次元座標設定部と、
多チャネル映像を生成するための複数のカメラそれぞれに投影された二次元映像平面での前記バッターボックスの二次元座標値を獲得し、前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、回転（rotation）情報及び移動（translation）情報を推定する立体ストライクゾーン生成部と、
前記回転情報及び移動情報に基づいて、前記複数のカメラそれぞれに投影された二次元映像平面に、前記立体ストライクゾーンを表示する映像処理部と、を含み、
前記立体ストライクゾーンの座標値は、１０個（Ｋ１ないしＫ１０）であり、前記それぞれの座標値は、２個のパラメータ値（ｈ１及びｈ２）（前記２個のパラメータ値は、現在打席に登場するバッター（batter）の身長によって可変する値）のうちいずれか一つを含むことを特徴とする立体ストライクゾーンの表示装置。
【請求項６】
前記回転情報及び移動情報は、
前記三次元座標系と前記二次元座標値との対応する座標値に基づいて、Levenberg-Marquardt optimization、Perspective-Three-Point、または最小自乗法により推定されることを特徴とする請求項５に記載の立体ストライクゾーンの表示装置。
【請求項７】
前記バッターの身長は、
任意のデータベースから抽出するか、または前記バッターの映像検出により抽出することを特徴とする請求項５に記載の立体ストライクゾーンの表示装置。
【請求項８】
投手の投げたボールの軌跡を検出及び追跡する軌跡追跡部をさらに含み、
前記表示された立体ストライクゾーンを前記ボールが通るか否かを検出することにより、ストライクであるか否かを判断することを特徴とする請求項５に記載の立体ストライクゾーンの表示装置。
【請求項９】
請求項１ないし４のいずれか一項に記載の方法をコンピュータで実行させるためのプログラムを記録した記録媒体。
【国際調査報告】
2022501748.tif 000034
2022501748.tif 000035
2022501748.tif 000036
2022501748.tif 000037