(57)【要約】【課題】  撮影される画像の編集に関する指示を撮影される側からできるようにすることにより、編集作業に要する人的な手間を削減する。【解決手段】  アイテム３２は、画像編集システム２０のカメラ２２〜２５が撮像する画像の編集情報を記憶するデータ記憶部３２４と、外部からの操作を検出するスイッチ状態検出部３２５と、このスイッチ検出部３２５によって検出された操作内容に基づいてデータ記憶部３２４から読み出された編集情報をを時間的に変化する情報に変調する制御部３２６と、この変調された情報に基づいて、発光部３２３が発光する光について時間的に輝度が変化するように制御する駆動部３２７とを備える。画像編集システム２０は、発光部３２３により生成された時間的に輝度が変化する光の像を受光して編集情報へ復号し、光の像の位置と編集情報とに基づいて、撮像された画像を編集する。【選択図】  図３
2009276955.tif 000002
【特許請求の範囲】
【請求項１】
発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像手段を備えた画像編集装置とを備える画像編集システムにおいて、
前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶手段と、
外部からの操作を検出する操作検出手段と、
この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、
この変調手段によって変調された情報に基づいて、前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御手段と
を備えた制御装置を備え、
前記画像編集装置は、
前記撮像手段によって前記駆動制御手段により時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化する光から前記編集情報へ復号する復号手段と、
前記撮像手段によって撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出手段と、
前記復号手段によって復号された編集情報と前記位置検出手段によって検出された位置とに基づいて、前記撮像された画像を編集する画像編集手段と
を備えることを特徴とする画像編集システム。
【請求項２】
前記画像編集装置は、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含むことを特徴とする請求項１記載の画像編集システム。
【請求項３】
前記画像編集装置は、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含むことを特徴とする請求項１又は２記載の画像編集システム。
【請求項４】
発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像部を備えた画像編集装置とを備えるシステムの画像編集方法であって、
外部からの操作を検出する操作検出ステップと、
この操作検出ステップにて検出された操作内容に基づいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出ステップと、
この読出ステップにて読み出された編集情報を時間的に変化する情報に変調する変調ステップと、
この変調ステップにて変調された情報に基づいて前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御ステップと
を含み、
前記画像編集装置は、
前記撮像部にて前記駆動制御ステップにて時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化した光から前記編集情報へ復号する復号ステップと、
前記撮像部にて撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出ステップと、
前記復号ステップにて復号された編集情報と前記位置検出ステップにて検出された位置とに基づいて、前記撮像された画像を編集する画像編集ステップと
を含むことを特徴とする画像編集方法。
【請求項５】
撮像手段を備えた画像編集装置に撮像される光の像を生成する像生成装置において、
前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶手段と、
外部からの操作を検出する操作検出手段と、
この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、
この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段と
を備えることを特徴とする像生成装置。
【請求項６】
オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含み、
前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記オブジェクト記憶手段からオブジェクト情報を読出し、
前記変調手段は、前記読出手段によって読み出された編集情報に加え前記オブジェクト情報を時間的に変化する情報に変調することを特徴とする請求項５記載の像生成装置。
【請求項７】
前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含み、
前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記特殊効果記憶手段から特殊効果情報を読出し、
前記変調手段は、前記読出手段によって読み出された編集情報に加え前記特殊効果情報を時間的に変化する情報に変調することを特徴とする請求項５又は６記載の像生成装置。
【請求項８】
発光手段と、
前記制御手段による制御に基づいて前記発光手段の駆動を制御する駆動制御手段と
を更に備えることを特徴とする請求項５乃至７の何れか記載の像生成装置。
【請求項９】
撮像部を備えた画像編集装置に撮像される光の像を生成する装置が有するコンピュータを、
外部からの操作を検出する操作検出手段、
この操作検出手段によって検出された操作内容に基づいて、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出手段、
この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段、
この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段
として機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮影された画像を編集する画像編集システム、画像編集方法、像生成装置、及び、プログラムに関する。
【背景技術】
【０００２】
撮影された画像の編集方法の一種として、モーションキャプチャを用いた編集方法が従来より存在する。このモーションキャプチャとは、三次元コンピュータグラフィックス（以下、３ＤＣＧと略す。）の分野において、複数台のカメラで様々な角度から人物の動きを撮影して三次元的な動き情報を得、その動き情報をデジタルデータに変換してコンピュータに取り込む技術のことをいう。取り込まれたデータを元に例えば仮想的な三次元キャラクタ等のオブジェクト（以下、オブジェクト）の動作を構成していくことにより、リアルな動きを持つオブジェクトを作成できる。
【０００３】
このような従来のモーションキャプチャの方法の一つに、動き検出対象人物（以下、演者という。）の各部（たとえば、頭部や胴体、関節及び手足など）にマーカと呼ばれる発光体を取り付け、その発光体の動き（軌跡）をカメラで追いながら、デジタルデータに変換してコンピュータに取り込むというものがある。
【０００４】
上記の技術においては、コンピュータ上でのマーカと人体各部との対応付けは、たとえば、各マーカの発光色を異ならせておき、それぞれの色ごとに人体各部を対応付けする（例：赤色は頭、青色は右手、緑色は左手・・・・等）ということが行われていた（非特許文献１参照）。しかしながらこの技術では、発光色の色数限界により、多くのマーカを用いることができないという欠点があった。これは、マーカの色は光の三原色を混ぜ合わせることによって原理的には三原色＋α（αは混合された中間色の数）の多色を表現できるものの、似たような中間色はカメラ側で識別困難になり、結果としてマーカの誤認識を引き起こすことがあるからである。
【０００５】
そこで、発光色の色数限界を受けることなく、マーカの数を大幅に増やすことができる技術（以下、従来技術）として、たとえば、下記の特許文献１に記載のものが知られている。この従来技術では、応答性のよい発光体（典型的にはＬＥＤ）でマーカを構成すると共に、その発光体の点滅パターンにより、予め各々のマーカに割り当てられていた識別情報（以下、ＩＤ）を送信する。これによれば、たとえば、８ビット構成のＩＤとすると、２8＝２５６個のＩＤを生成することができ、したがって、最大で２５６個もの多くのマーカを使用することができる。
【０００６】
【非特許文献１】木田他：“没入仮想空間体験システムＣＡＶＥにおけるリアルタイム人物動作認識”，信学技報，ＰＲＭＵ９９−１０２（１９９９−１１）
【０００７】
【特許文献１】特開２００３−３５５１５号公報
【発明の開示】
【発明が解決しようとする課題】
【０００８】
しかしながら、前記の従来技術にあっては、マーカの数を増大できる点で有益であるものの、撮影した画像を用いた編集については何ら考慮されていなかった。例えば、演出上の要求からオブジェクトを適宜に変更したり、場面を切り換えたり、あるいは、任意のタイミングで特殊効果を入れたりするといった編集を行う場合には、その都度、編集のために人手（専任の編集要員の手）を借りなければならず、編集作業の柔軟性が損なわれるばかりか、人的コストを削減できないという問題点がある。
【０００９】
このことを図面を用いて説明する。
図１０は、従来例のモーションキャプチャシステムを示す構成図である。この図において、スタジオ１にはキャプチャ用の数台のカメラ２〜５が取り付けられており、このカメラ２〜５によって多方向から撮影される位置には、モーションキャプチャの対象である人物（以下、演者）６が位置している。
【００１０】
図１１は、演者６を示す図であり、この図に示すように、演者６の各部には、ＬＥＤからなる複数のマーカ６ａ〜６ｒが取り付けられている。
【００１１】
カメラ２〜５によって取り込まれたマーカ６ａ〜６ｒの動き（輝点の動き）は、画像統合部７により、複数のカメラ画像系列として統合され、その複数のカメラ画像系列は対象３Ｄモデル化部８において、マーカ６ａ〜６ｒの個々に識別（ラベリングともいう）された各マーカ点を含む対象３Ｄモデルデータとして生成される。
【００１２】
図１２は、対象３Ｄモデルデータを示す図である。図示の対象３Ｄモデル９は、前記の演者６の姿勢に対応してワイヤフレーム化されたもの、すなわち、マーカ６ａ〜６ｒの位置をそれぞれノードとし、それらのノード間を直線で結んだデータであり、この対象３Ｄモデル９の時系列データは、図１０に示す対象３Ｄモデルの時系列データ記憶部１１に記憶保存される。
【００１３】
一般的に、映像編集等の分野では、対象３Ｄモデル９のデータと、対応させるべきオブジェクト（３Ｄキャラクタのデータ）とのマッピングを行う必要がある。これは、対象３Ｄモデル９の動きを、そのままオブジェクトの動きとして取り扱いできるようにするためである。図１０に示す合成・制御・編集部１３は、そのためのマッピング作業を行う部分であり、且つ、図１０に示す操作者１４は、そのマッピング作業を行うための専任の編集要員である。
【００１４】
図１３は、対応させるべきオブジェクトの一例を示す図であり、図示のオブジェクト１０は、図１２の対象３Ｄモデル９（つまり、図１１の演者６をワイヤフレーム化したもの）と同じ姿勢を持つ三次元で表現可能なＣＧの一例である。ちなみに、このオブジェクト１０は、図１０に示すオブジェクト記憶部１２に予め記憶保存されていたものである。
【００１５】
ここで、単に、あらかじめ対応付けしたオブジェクトを動かすだけの場合には、対応させるべきオブジェクトは一つ（たとえば、図１３の３ＤＣＧモデル１０）であるから、操作者１４を介在させることなく、合成・制御・編集部１３を制御させてオブジェクトの動き制御を連続して行うことが可能であるが、映像編集等の分野では、しばしば、オブジェクトの変身（オブジェクトの差し替え）などといった場面が求められることがあり、このような場合は、合成・制御・編集部１３を操作するための人手（操作者１４）が必要不可欠である。
【００１６】
図１４は、オブジェクトの差し替え前と後の例を示す図である。便宜的に示すこれら二つのオブジェクト１５、１６は、所望により、図１３のオブジェクト１０に置き換わるものであり、変身前のオブジェクト１０と同様に、図１０に示すオブジェクト記憶部１２に予め記憶保存されていたものである。
【００１７】
操作者１４は、製作するストーリー上、何かの契機で、図１２の対象３Ｄモデル９に割り付けられるオブジェクト１０を、図１４のオブジェクト１５、１６のいずれかに一気に差し替える必要があるとき、合成・制御・編集部１３を操作して、所望のオブジェクト（図１４のオブジェクト１５、１６のいずれか）をオブジェクト記憶部１２から読み出し、上記のオブジェクト１０を、これらのオブジェクト１５、１６のいずれかに変更するよう操作するという手順を踏むことになる。
【００１８】
このように、従来、モーションキャプチャシステムを映像編集等の分野に適用する際には、専任の操作者（図１０の操作者１４）が不可欠であり、それゆえ、編集作業の柔軟性が損なわれるばかりか、人的コストを削減できないという問題点があるのである。
【００１９】
また、演者６の動きに合わせて（たとえば、演者６が手にした任意のアイテムを操ったりするタイミングに合わせて）、周囲の状況を一気に変えるといった特殊効果を入れるなどの編集作業を行う場合にも、専任の操作者（図１０の操作者１４）が必要になる。これは、タイミングの特定が、対象の３Ｄモデルの動き情報のみから行うことが困難だからである。
【００２０】
以上の問題点の根本原因は、要するに、演者６の側からＣＧ制御に関する指示命令が全く行えない仕組みになっていることにある。つまり、前記の従来技術では、単にマーカごとのＩＤを送信しているに過ぎず、ＣＧ制御に関する指示命令を、演者６の側から送信するという技術思想が全くなかったからである。
【００２１】
そこで、本発明の目的は、撮影される画像の編集に関する指示を、撮影される側からできるようにすることにより、編集作業に要する人的な手間を削減することができる画像編集システム、画像編集方法、像生成装置、及び、プログラムを提供することにある。
【課題を解決するための手段】
【００２２】
請求項１記載の発明は、発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像手段を備えた画像編集装置とを備える画像編集システムにおいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶手段と、外部からの操作を検出する操作検出手段と、この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、この変調手段によって変調された情報に基づいて、前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御手段とを備えた制御装置を備え、前記画像編集装置は、前記撮像手段によって前記駆動制御手段により時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化する光から前記編集情報へ復号する復号手段と、前記撮像手段によって撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出手段と、前記復号手段によって復号された編集情報と前記位置検出手段によって検出された位置とに基づいて、前記撮像された画像を編集する画像編集手段とを備えることを特徴とする。
【００２３】
請求項２記載の発明は、上記請求項１記載の発明において、前記画像編集装置は、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含むことを特徴とする。
【００２４】
請求項３記載の発明は、上記請求項１又は２記載の発明において、前記画像編集装置は、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含むことを特徴とする。
【００２５】
請求項４記載の発明は、発光装置と、当該発光装置が発光する光の像を含む画像を撮像する撮像部を備えた画像編集装置とを備えるシステムの画像編集方法であって、外部からの操作を検出する操作検出ステップと、この操作検出ステップにて検出された操作内容に基づいて、前記画像編集装置が撮像する画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出ステップと、この読出ステップにて読み出された編集情報を時間的に変化する情報に変調する変調ステップと、この変調ステップにて変調された情報に基づいて前記発光装置が発光する光について時間的に輝度が変化するように制御する駆動制御ステップとを含み、前記画像編集装置は、前記撮像部にて前記駆動制御ステップにて時間的に輝度が変化する光の像を含む画像を撮像すると、この時間的に輝度が変化した光から前記編集情報へ復号する復号ステップと、前記撮像部にて撮像された撮像画像における前記時間的に輝度が変化した光の像の位置を検出する位置検出ステップと、前記復号ステップにて復号された編集情報と前記位置検出ステップにて検出された位置とに基づいて、前記撮像された画像を編集する画像編集ステップとを含むことを特徴とする。
【００２６】
請求項５記載の発明は、撮像手段を備えた画像編集装置に撮像される光の像を生成する像生成装置において、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶手段と、外部からの操作を検出する操作検出手段と、この操作検出手段によって検出された操作内容に基づいて、前記編集情報記憶手段から編集情報を読み出す読出手段と、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段と、この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段とを備えることを特徴とする。
【００２７】
請求項６記載の発明は、上記請求項５記載の発明において、オブジェクト情報を記憶するオブジェクト記憶手段を更に備えるとともに、前記編集情報は、前記オブジェクト情報記憶手段に記憶されるオブジェクト情報と前記撮像された画像との合成を指示する情報を含み、前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記オブジェクト記憶手段からオブジェクト情報を読出し、前記変調手段は、前記読出手段によって読み出された編集情報に加え前記オブジェクト情報を時間的に変化する情報に変調することを特徴とする。
【００２８】
請求項７記載の発明は、上記請求項５又は６記載の発明において、前記撮像画像に付与する特殊効果情報を記憶する特殊効果記憶手段を更に備えるとともに、前記編集情報は、前記特殊効果記憶手段に記憶される特殊効果情報に基づく前記撮像された画像の加工を指示する情報を含み、前記読出手段は前記操作検出手段によって検出された操作内容に基づいて、更に前記特殊効果記憶手段から特殊効果情報を読出し、前記変調手段は、前記読出手段によって読み出された編集情報に加え前記特殊効果情報を時間的に変化する情報に変調することを特徴とする。
【００２９】
請求項８記載の発明は、上記請求項５乃至７の何れか記載の発明において、発光手段と、前記制御手段による制御に基づいて前記発光手段の駆動を制御する駆動制御手段とを更に備えることを特徴とする。
【００３０】
請求項９記載の発明は、撮像部を備えた画像編集装置に撮像される光の像を生成する装置が有するコンピュータを、外部からの操作を検出する操作検出手段、この操作検出手段によって検出された操作内容に基づいて、前記撮像手段によって撮像される画像の編集情報を記憶する編集情報記憶部から編集情報を読み出す読出手段、この読出手段によって読み出された編集情報を時間的に変化する情報に変調する変調手段、この変調手段によって変調された情報に基づいて時間的に輝度が変化するように当該装置が生成する光の像を制御する制御手段として機能させることを特徴とする。
【発明の効果】
【００３１】
本発明によれば、撮影される画像の編集に関する指示を、撮影される側からできるようにすることにより、編集作業に要する人的な手間を削減することができる。
【発明を実施するための最良の形態】
【００３２】
以下、本発明の実施形態を、モーションキャプチャシステムへの適用を例にして、図面を参照しながら説明する。なお、以下の説明における様々な細部の特定ないし実例および数値や文字列その他の記号の例示は、本発明の思想を明瞭にするための、あくまでも参考であって、それらのすべてまたは一部によって本発明の思想が限定されないことは明らかである。また、周知の手法、周知の手順、周知のアーキテクチャおよび周知の回路構成等（以下「周知事項」）についてはその細部にわたる説明を避けるが、これも説明を簡潔にするためであって、これら周知事項のすべてまたは一部を意図的に排除するものではない。かかる周知事項は本発明の出願時点で当業者の知り得るところであるので、以下の説明に当然含まれている。
【００３３】
図１は、実施の形態に係る画像編集システムの全体構成図である。この図において、画像編集システム２０は、スタジオ２１と、このスタジオ２１の内部の動画像を多方向から撮影する撮像手段（撮像部）としての複数（図では便宜的に４個）のカメラ２２〜２５と、パーソナルコンピュータ２６とを含む。
【００３４】
パーソナルコンピュータ２６は、このパーソナルコンピュータ２６を構成するＣＰＵやメモリ及びハードディスクなどのハードウェア資産と、そのハードディスクに格納されたＯＳ（オペレーティングシステム）や本発明を実現するプログラムなどのソフトウェア資産との有機的結合により、たとえば、注目物体抽出部２７、制御情報復号部２８、オブジェクト指定部２９及びオブジェクト記憶部３０などの各機能部を実現する。
【００３５】
注目物体抽出部２７は、カメラ２２〜２５によって取り込まれた光タグ（演者３１の各部に取り付けられた便宜的に黒丸で示すもの及び／または演者３１が手にしたアイテム３２の先端に取り付けられたもの；詳細は後述する。）の動き（光の像の動き）を上記の複数のカメラ２２〜２５で時間的に連続して撮像・取り込むと共に、その時間的に連続して取り込まれた画像から、後述のオブジェクトと置き換えるための注目物体（ここではアイテム３２を保持した演者３１）を抽出する。同様に制御情報復号部２８も時間的に連続した画像を取り込むが、この制御情報復号部２８では、上記撮像した画像に含まれるアイテム３２の先端にある光の像である光タグの時間的な輝度の変化から所要の制御情報を復号し、キャラクタ指定部２９は、制御情報復号部２８で復号された制御情報に従い、所要のオブジェクトをオブジェクト記憶部３０から読み出し、そのオブジェクトを、注目物体と置き換えるために、注目物体抽出部２７に出力し、注目物体抽出部２７は、そのオブジェクトで注目物体を置き換えた編集データとして外部装置（たとえば、図１０の従来のモーションキャプチャシステム）に出力する。
【００３６】
図２は、光タグを示す図である。この図において、演者３１の各部には複数の光タグ３１ａ〜３１ｒが取り付けられている。これらの光タグ３１ａ〜３１ｒは、光の像を生成するためのものであり、単なる輝点であってもよく、または、取り付け位置に対応した発光色を持つものであってもよい。あるいは、冒頭で説明した従来技術のマーカ６ａ〜６ｒ（図１０参照）のように、ＬＥＤ等の応答性のよい発光体を点滅させることにより、可視光通信によって個々の識別情報（ＩＤ）を空間送信できるものであってもよい。
【００３７】
本実施の形態におけるポイントの一つは、演者３１が手にする発光装置として機能するアイテム３２にある。このアイテム３２について、以下、詳しく説明する。
【００３８】
図３は、アイテム３２の外観図及び内部ブロック図である。図３（ａ）に図示するように、アイテム３２は、任意の形状（演技内容に適合した特定の意匠形状を有するもの。ここでは、便宜的に「魔法の杖」状のものとする。）を持つ本体部３２０と、この本体部３２０の側面に取り付けられ、演者３１が操作するための第１スイッチ３２１、第２スイッチ３２２と、この本体部３２０の先端に取り付けられた応答性のよい発光素子（典型的には、ＬＥＤ）からなる発光部３２３とを備える。
【００３９】
また、図３（ｂ）に示すように、本体部３２０の内部には、データ記憶部３２４と、スイッチ状態検出部３２５と、このアイテム３２の全体の動作を制御する制御部３２６と、発光部３２３を駆動させる駆動部３２７とが実装されている。スイッチ状態検出部３２５は、演者３１の操作に基づく第１スイッチ３２１と第２スイッチ３２２のオンオフ状態を個別に検出し、制御部３２６は、このスイッチ状態検出部３２５によって検出された第１スイッチ３２１と第２スイッチ３２２のオンオフ状態に対応した、パーソナルコンピュータ２６における撮像画像の編集情報としての制御データ（第１制御データ、第２制御データ）をデータ記憶部３２４から読み出し、その制御データに従って発光部３２３を駆動するための変調信号を生成し、駆動部３２７に出力する。
【００４０】
ここで、上記変調方式としては、たとえば、可視光通信の変調方式、具体的には、本件発明者らが提案している特開２００７−２７２５１１号公報などを利用することができる。
【００４１】
図４は、制御部３２６における変調データのフォーマット図である。この図において、変調データ４０は、光源ＩＤ設定部４１と制御データ設定部４２の両端にヘッダ部４３、４４を設け、それらをセットにして繰り返すという構造を有している。なお、特に限定しないが、変調データ４０の１セットは固定長（たとえば、６４ビット）になっている。光源ＩＤ設定部４１にはアイテム３２に固有の識別情報（ＩＤ）が設定される。ただし、この光源ＩＤ設定部４１は必須な要素ではなく、カメラ２２〜２５が同時に発光部３２３の発光により生成された光の像を複数撮像した場合、これらを個別に認識させるためのものである。したがって、発光部３２３によって生成される光の像が一つしか存在し得ない場合は、この光源ＩＤ設定部４１は不要である。制御データ設定部４２には、所要の制御データ（データ記憶部３７から読み出された第１制御データまたは第２制御データ）、典型的にはパーソナルコンピュータ２６における編集処理のマクロ的コマンドＮｏ．が埋め込まれている。なお、上記の光源ＩＤ設定部４１や制御データ設定部４２だけでなく、たとえば、誤り検出や訂正のためのデータが埋め込まれてもよい。
【００４２】
本実施の形態における画像編集システム２０では、演者３１が、アイテム３２のスイッチ（第１スイッチ３２１、第２スイッチ３２２）を操作することによって、その演者３１の側から所望の画像編集処理を行わせることができる。これにより、たとえば、編集処理としてオブジェクト合成や特殊効果の付与に演者３１の意思を反映させたり、あるいは、収録の際の編集タイミング等を指定するなどの操作を、人手（専任の操作者１４）を要することなく、自由に行うことができるようになる。
【００４３】
ここで、説明の便宜上、アイテム３２のスイッチ（第１スイッチ３２１、第２スイッチ３２２）は、以下の三つの状態を示すものとする。
（１）第１スイッチ３２１及び第２スイッチ３２２が共にＯＦＦのとき：何も押していない状態であり、ＣＧ制御指示なしの状態である（初期状態）。
（２）第１スイッチ３２１が押し下げられているとき：押している間、データ記憶部３７から読み出された第１制御データを時間的に変化する情報に変調し、この情報に従い発光部３６を時間的に輝度を変化させるように発光駆動させる。
（３）第２スイッチ３２２が押し下げられているとき：押している間、データ記憶部３７から読み出された第２制御データに従いを時間的に変化する情報に変調し、この情報に従い発光部３６を時間的に輝度を変化させるように発光駆動させる。
【００４４】
本実施の形態のアイテム３２によって実現可能な編集処理の実例を以下に示す。
図５〜図７は、ＣＧ効果の実例の説明中に用いるＣＧ画像を示す図である。
＜第１の実例＞
初期状態では、カメラ２２〜２５にて時間的に連続して撮像される演者３１の位置には、その体の各部位に設置された光タグ３１ａ〜３１ｒの輝点により生成された光の像が撮像されることで、これらに対応するオブジェクトとして図５（ａ）に図示されるフレーム４６とテクスチャ４５とからなる３ＤＣＧ映像が図５（ｂ）に図示する予め設定された背景用ＣＧに合成されるという編集処置が実行される。尚、演者３１はアイテム３２を所持しているものとする。
【００４５】
＜第２の実例＞
演者３１は、任意のタイミングでアイテム３２をふりかざして変身の演技を行うと同時に、アイテム３２の第１スイッチ３２１を押し下げる。すると、データ記憶部３７から読み出された第１制御データを時間的に変化する情報に変調し、この情報に従い発光部３２３を時間的に輝度を変化させるように発光駆動させる。また、カメラ２２〜２５は、この発光による光の像を時間的に連続して撮像することにより第１制御データに復号し、この復号された第１制御データに基づいた編集処理として、魔法に合わせた効果音を出力させると共に、杖の先に相当する発光部３２３による光の像の箇所に、この杖から放たれた光のＣＧ４８を合成し（図６（ａ）参照）、更に、このＣＧ４８が広がって演者３１（詳細にはアイテム３２と演者３１の体の各部位に設置された光タグ３１ａ〜３１ｒによる光の像を受光した範囲）を包み、この後、魔法使いのフレームとテクスチャとからなる３ＤＣＧ映像４９が、フレーム４６とテクスチャ４５とからなる３ＤＣＧ映像に差し替えられるという編集処理を行う（図６（ｂ）参照）。これ以降、カメラ２２〜２５にて時間的に連続して撮像される演者３１の位置には、その体の各部位に設置された光タグ３１ａ〜３１ｒの輝点により生成された光の像が撮像されることで、これらに対応するオブジェクトとして図６（ｂ）に図示される３ＤＣＧ映像４９が図５（ｂ）に図示する予め設定された背景用ＣＧに合成されるという編集処置が実行される。
【００４６】
＜第３の実例＞
演者３１は、任意のタイミングでアイテム３２をふりかざして変身の演技を行うと同時に、アイテム３２の第１スイッチ３２２を押し下げる。すると、データ記憶部３７から読み出された第２制御データを時間的に変化する情報に変調し、この情報に従い発光部３２３を時間的に輝度を変化させるように発光駆動させる。また、カメラ２２〜２５は、この発光による光の像を時間的に連続して撮像することにより第２制御データに復号し、この復号された第２制御データに基づいた編集処理として、魔法に合わせた効果音を出力させると共に、杖の先に相当する発光部３２３による光の像を中心とし、その周囲に広がるような光のＣＧ５０を合成し（図６（ｂ）参照）、更に、図５（ｂ）に図示する予め設定された背景用ＣＧが、他の背景ＣＧ５１（図７（ｂ）参照）に切り替わるという編集処置が実行される。
【００４７】
カメラ２２〜２５は、本実施の形態では、四つ図示されているが、これに限定されない。四つ以下又は四つ以上であってもよいが、特に、隠れの問題（いわゆるオクルージョン、特徴点となるべきポイント（光源）が何かにさえぎられて死角となり見えないこと。）への対処を考えると、その数は多いほど望ましい。
【００４８】
光タグの捕捉技術については、本発明者らが先に提案している様々な技術（たとえば、特開２００７−２７２５１１号公報等）に詳しく述べられているが、要するに、１個のカメラ様の装置の中に、ＣＭＯＳイメージセンサ等の撮像手段と、複数画像フレームバッファと、その処理手段とを備えているというものであり、撮像手段によって時系列的に撮像された画像（時系列画像）を処理することにより、その時系列画像の中かから受信対象となる信号光（特に、アイテム３２の発光部３６の輝点）の座標を特定し、その光信号の点滅によって送出されるバイナリデータ（図４の変調データ４０参照）をデコードする機能を持っていればよい。
【００４９】
以上のとおりであるから、本実施の形態によれば、既存のモーションキャプチャシステム（図１０参照）に、本発明を実施するための機能を有するパーソナルコンピュータ２６を追加するだけでよく、編集処理を、人手を要することなく自由に行うことができるようになるという効果が得られる。
また、演者側で任意にタイミングを決めて編集処理を実行することができるので、演者の所望するタイミングで撮影される映像（画像）に演出効果を付与することができる。
【００５０】
以上の実施の形態におけるアイテム３２は、図２や図３に示すように、演者３１に手持ちされる携帯型であって、且つ、先端の発光部３２３が発光するタイプのものであったが、これに限定されない。たとえば、以下のようにしてもよい。
【００５１】
図８は、アイテムの他の例を示す図である。このアイテム５２は、任意の形状（演技内容に適合した特定の意匠形状を有するもの、ここでは、拳銃型の形状）を持つ本体部５２０と、この本体部５２０に取り付けられた把持部５２１と、拳銃の引き金を模し図中Ａの方向に操作されたことを検出するスイッチ３２１とを備えると共に、さらに、本体部５２０の先端（拳銃の銃口に相当）からスポット光Ｐを照射する発光部３２３を備える。
【００５２】
このように、発光部３２３を制御する制御装置はスポット光照射型のアイテム５２としてもよい。ただし、実際には、光ＩＤを備えること以外、アイテムの形状は任意である。ここでは演技にできるだけ自然になるように、それに応じた形状が選択されるとする。
【００５３】
図９は、スポット光照射型のアイテム５２の使い方を示す図である。この図において、任意形状の本体部５７の、たとえば、先端部に発光部１３２３、スイッチ状態検出部３２５に代えてその周囲に接触センサー５８を取り付けた光ＩＤアイテム５９は、スタジオ２１の内部の演者（不図示）から離れた適当な位置に固定的な光ＩＤアイテムとして設置される。
【００５４】
このような光ＩＤアイテム５９に対して、スポット光照射型のアイテム５２からスポット光Ｐを照射すると、その対象（光ＩＤアイテム５９）に図示のような光の像６０ができ、この光の像６０の位置が複数のカメラ２２〜２５で捕捉されるので、ＣＧのための演技において重要な要素（たとえば、光線銃の向きと打ち込み位置についての情報）を取得できる。しかも、演技上の目標物（ここでは光ＩＤアイテム５９）が存在するので、演者にとっては演技をしやすくすることができる。
【００５５】
さらに、光ＩＤアイテム５９の接触センサー５８に演者が触れることにより、発光部１３２３が時間的に輝度を変化させて発光するようにすれば、演者が所望する任意のタイミングで編集処理を行うことができる。
【００５６】
尚、本実施の形態においては、コンピュータ２６には、予めソフトウェア資産としての、注目物体抽出部２７、制御情報復号部２８、オブジェクト指定部２９及びオブジェクト記憶部３０を備えるものとしたが、少なくとも、オブジェクト記憶部３０のみをコンピュータ２６と着脱可能な外部記録媒体に記憶させ、種々の特殊効果情報を含むオブジェクトを記憶した複数の外部記録媒体を交換できるようにしても良い。このようにすることで、例えば上記のアイテム３２（５２、５９）と上記の外部記録媒体とをセットにして有償もしくは無償で頒布することができ、演者の趣向に沿った編集処理を実現することができる編集システムの一部を提供することができる。
【００５７】
また、上記アイテム３２（５２、５９）そのものに上記外部記録媒体に書き込まれるべき情報を記憶する記憶部を備えさせ、撮影を行う前にコンピュータ２６にこの上記アイテムをパーソナルコンピュータ２６に接続して上記記憶部に記憶された情報を読み込ませるようにしても良い。
【００５８】
更に、上記アイテム３２（５２、５９）は、第１制御データ、第２制御データといった編集処理内容のみをデータ記憶部３２４に記憶させていたが、これに限ることなく種々の特殊効果情報を含むオブジェクト（ＣＧ）を記憶させ、第１制御データ、第２制御データのみでなく、オブジェクトデータや付与すべき特殊効果情報を時間的に変化する情報として変調させ、発光させるようにしても良い。
このようにすればコンピュータ２６に予めオブジェクトや特殊効果情報を記憶させる手間を省くことができる。
【００５９】
なお、これらのアイテムの送出ＩＤを全て別にすれば、前記実施の形態のアイテム３２と同時にこれらのアイテム５２、５９を使ったり、あるいは、しまったり取り出したりは自由である。
【００６０】
その他、演者自体に、光ＩＤアイテムを貼り付ける形（それを触れて、送出制御するか、ひそかに手元に小型制御スイッチを引き出しておく）等の有効な演技パターンもある。
【図面の簡単な説明】
【００６１】
【図１】実施の形態に係る画像編集システムの全体構成図である。
【図２】光タグを示す図である。
【図３】アイテム３２の外観図及び内部ブロック図である。
【図４】変調データのフォーマット図である。
【図５】実例の説明中に用いるＣＧ画像を示す図（その１）である。
【図６】実例の説明中に用いるＣＧ画像を示す図（その２）である。
【図７】実例の説明中に用いるＣＧ画像を示す図（その３）である。
【図８】アイテムの他の例を示す図である。
【図９】スポット光照射型のアイテム５２の使い方を示す図である。
【図１０】従来例のモーションキャプチャシステムを示す構成図である。
【図１１】演者６を示す図である。
【図１２】対象３Ｄモデルを示す図である。
【図１３】対応させるべきオブジェクトの一例を示す図である。
【図１４】対応させるべきオブジェクトの例を示す図である。
【符号の説明】
【００６２】
２０  画像編集システム
２７  注目物体抽出部
２８  制御情報復号部
３１  演者
３２  アイテム
３２０  本体部
３２１  第１スイッチ
３２２  第２スイッチ
３２３  発光部
３２４    データ記憶部
３２５    スイッチ状態検出部
３２６    制御部
３２７    駆動部
【図１】
2009276955.tif 000003
【図２】
2009276955.tif 000004
【図３】
2009276955.tif 000005
【図４】
2009276955.tif 000006
【図５】
2009276955.tif 000007
【図６】
2009276955.tif 000008
【図７】
2009276955.tif 000009
【図８】
2009276955.tif 000010
【図９】
2009276955.tif 000011
【図１０】
2009276955.tif 000012
【図１１】
2009276955.tif 000013
【図１２】
2009276955.tif 000014
【図１３】
2009276955.tif 000015
【図１４】
2009276955.tif 000016