(57)【要約】【課題】１以上の触覚効果を推奨するオーサリングツールを提供する。【解決手段】１以上の触覚効果を推奨する触覚オーサリングツールが提供され、人間の触覚設計者のスタイルを学習することによって生成される触覚化モデルを提供する。触覚オーサリングツールは、音声及び映像のうち１以上と、複数のイベントと、を含む入力を受信する。触覚オーサリングツールは続いて、前記入力内の対応するイベントに関連付けるための一の種類の触覚効果を、学習された触覚化モデルに基づいて推奨する。【選択図】図１
2019169195.tif 000002
【特許請求の範囲】
【請求項１】
プロセッサによって実行された際、プロセッサに１以上の触覚効果をオーサリングさせる命令が格納されたコンピュータ読み取り可能媒体であって、前記オーサリングは、
人間の触覚設計者のスタイルを学習することによって生成される触覚化モデルを提供するステップと、
音声及び映像のうち１以上と、複数のイベントとを含む入力を受信するステップと、
前記入力内の対応するイベントに関連付けるための一の種類の触覚効果を、学習された前記触覚化モデルに基づいて推奨するステップと、
を含む、コンピュータ読み取り可能媒体。
【請求項２】
請求項１に記載のコンピュータ読み取り可能媒体であって、前記オーサリングは、
１以上のオーサリングされた触覚効果について、オーサリングされた触覚効果の特徴を受信し、１以上のマルチメディアイベントについて、マルチメディアイベントの特性を受信するステップと、
オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とに基づいて、オーサリングされた触覚効果の種類をマルチメディアイベントの種類に関連付けるステップと、
前記関連付けの結果に基づいて、学習された前記触覚化モデルを構築するステップと、
を更に含む、コンピュータ読み取り可能媒体。
【請求項３】
請求項２に記載のコンピュータ読み取り可能媒体であって、
前記オーサリングは、オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とに対応する手動タグデータを受信するステップを更に含み、
前記手動タグデータは、それぞれの触覚効果とマルチメディアイベントについてコンテクストを提供し、
前記関連付けるステップは、少なくとも前記手動タグデータに基づく、
コンピュータ読み取り可能媒体。
【請求項４】
請求項２に記載のコンピュータ読み取り可能媒体であって、
オーサリングされた前記触覚効果の特徴に対応する手動タグデータは、オーサリングされた前記触覚効果の名称、又は前記触覚効果の強度のレベルのうち１以上を含む、
コンピュータ読み取り可能媒体。
【請求項５】
請求項２に記載のコンピュータ読み取り可能媒体であって、
前記マルチメディアイベントの特性に対応する手動タグデータは、前記イベントの名称、シーンの種類、先行のイベント、後続のイベント、クリップの種類、フォアグラウンドにおけるその他のイベント、又はバックグラウンドにおけるその他のイベントのうち１以上を含む、
コンピュータ読み取り可能媒体。
【請求項６】
請求項２に記載のコンピュータ読み取り可能媒体であって、
前記オーサリングは、オーサリングされた前記触覚効果の各効果を記述する１以上の抽出された特徴と、前記マルチメディアイベントの各イベントを記述する１以上の抽出された特性とを抽出するステップを更に含み、
前記関連付けるステップは、少なくとも前記抽出された特徴と前記抽出された特性とに基づいて、オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とを関連付けることを含み、
各効果を記述する前記抽出された特徴は、期間、振幅、波形、及び周波数を含み、
各イベントを記述する前記抽出された特性は、音声及び映像特性、シーン動態、及び前記イベントのコンテクストを含む、
コンピュータ読み取り可能媒体。
【請求項７】
請求項２に記載のコンピュータ読み取り可能媒体であって、
前記オーサリングは、前記マルチメディアイベント内の各イベントを記述する１以上の抽出された特性を抽出するステップを更に含み、
前記関連付けるステップは、少なくとも前記抽出された特性に更に基づく、
コンピュータ読み取り可能媒体。
【請求項８】
請求項２に記載のコンピュータ読み取り可能媒体であって、学習された前記触覚化モデルを構築するステップは、ベイジアンモデルを構築することを含む、コンピュータ読み取り可能媒体。
【請求項９】
１以上の触覚効果をオーサリングするための、コンピュータに実装された方法であって、
人間の触覚設計者のスタイルを学習することによって生成される触覚化モデルを提供するステップと、
音声及び映像のうち１以上と、複数のイベントとを含む入力を受信するステップと、
前記入力内の対応するイベントに関連付けるための一の種類の触覚効果を、学習された前記触覚化モデルに基づいて推奨するステップと、
を含む、コンピュータに実装された方法。
【請求項１０】
請求項９に記載のコンピュータに実装された方法であって、
１以上のオーサリングされた触覚効果について、オーサリングされた触覚効果の特徴を受信し、１以上のマルチメディアイベントについて、マルチメディアイベントの特性を受信するステップと、
オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とに基づいて、オーサリングされた前記触覚効果の種類をマルチメディアイベントの種類に関連付けるステップと、
前記関連付けの結果に基づいて、学習された前記触覚化モデルを構築するステップと、
を更に含む、コンピュータに実装された方法。
【請求項１１】
請求項１０に記載のコンピュータに実装された方法であって、
オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とに対応する手動タグデータを受信するステップを更に含み、
前記手動タグデータは、それぞれの触覚効果とマルチメディアイベントについてコンテクストを提供し、
前記関連付けるステップは、少なくとも前記手動タグデータに基づく、
コンピュータに実装された方法。
【請求項１２】
請求項１０に記載のコンピュータに実装された方法であって、
オーサリングされた前記触覚効果の特徴に対応する手動タグデータは、オーサリングされた前記触覚効果の名称、又は前記触覚効果の強度のレベルのうち１以上を含み、
前記マルチメディアイベントの特性に対応する前記手動タグデータは、前記イベントの名称、シーンの種類、先行のイベント、後続のイベント、クリップの種類、フォアグラウンドにおけるその他のイベント、又はバックグラウンドにおけるその他のイベントのうち１以上を含む、
コンピュータに実装された方法。
【請求項１３】
請求項１０に記載のコンピュータに実装された方法であって、
オーサリングされた前記触覚効果の各効果を記述する１以上の抽出された特徴と、前記マルチメディアイベントの各イベントを記述する１以上の抽出された特性とを抽出するステップを更に含み、
前記関連付けるステップは、少なくとも前記抽出された特徴と前記抽出された特性とに基づいて、オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とを関連付けることを含み、
各効果を記述する前記抽出された特徴は、期間、振幅、波形、及び周波数を含み、
各イベントを記述する前記抽出された特性は、音声及び映像特性、シーン動態、及び前記イベントのコンテクストを含む、
コンピュータに実装された方法。
【請求項１４】
請求項１０に記載のコンピュータに実装された方法であって、
前記マルチメディアイベント内の各イベントを記述する１以上の抽出された特性を抽出するステップを更に含み、
前記関連付けるステップは、少なくとも前記抽出された特性に更に基づく、
コンピュータに実装された方法。
【請求項１５】
触覚設計モジュールを格納するよう構成されるメモリ装置と、
前記メモリ装置と通信する処理装置であって、前記メモリ装置に格納された前記触覚設計モジュールを実行して触覚効果をオーサリングするように構成される処理装置と、を備え、
前記オーサリングは、
人間の触覚設計者のスタイルを学習することによって構築される触覚化モデルを構築すること、
音声及び映像のうち１以上と、複数のイベントとを含む入力を受信すること、及び
前記入力内の対応するイベントに関連付けるための一の種類の触覚効果を、学習された前記触覚化モデルに基づいて推奨すること、
を含む、
システム。
【請求項１６】
請求項１５に記載のシステムであって、前記オーサリングは、
１以上のオーサリングされた触覚効果について、オーサリングされた触覚効果の特徴を受信し、１以上のマルチメディアイベントについて、マルチメディアイベントの特性を受信すること、
オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とに基づいて、オーサリングされた前記触覚効果の種類をマルチメディアイベントの種類に関連付けること、及び
前記関連付けの結果に基づいて、学習された前記触覚化モデルを構築すること、
を更に含む、システム。
【請求項１７】
請求項１６に記載のシステムであって、
前記オーサリングは、オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とに対応する手動タグデータを受信することを更に含み、
前記手動タグデータは、それぞれの触覚効果とマルチメディアイベントについてコンテクストを提供し、
前記関連付けは、少なくとも前記手動タグデータに基づく、
システム。
【請求項１８】
請求項１６に記載のシステムであって、
オーサリングされた前記触覚効果の特徴に対応する手動タグデータは、オーサリングされた前記触覚効果の名称、又は前記触覚効果の強度のレベルのうち１以上を含み、
前記マルチメディアイベントの特性に対応する前記手動タグデータは、前記イベントの名称、シーンの種類、先行のイベント、後続のイベント、クリップの種類、フォアグラウンドにおけるその他のイベント、又はバックグラウンドにおけるその他のイベントのうち１以上を含む、
システム。
【請求項１９】
請求項１６に記載のシステムであって、
前記オーサリングは、オーサリングされた前記触覚効果の各効果を記述する１以上の抽出された特徴と、前記マルチメディアイベントの各イベントを記述する１以上の抽出された特性とを抽出することを更に含み、
前記関連付けは、少なくとも前記抽出された特徴と前記抽出された特性とに基づいて、オーサリングされた前記触覚効果の特徴と前記マルチメディアイベントの特性とを関連付けることを含み、
各効果を記述する前記抽出された特徴は、期間、振幅、波形、及び周波数を含み、
各イベントを記述する前記抽出された特性は、音声及び映像特性、シーン動態、及び前記イベントのコンテクストを含む、
システム。
【請求項２０】
請求項１６に記載のシステムであって、
前記オーサリングは、前記マルチメディアイベント内の各イベントを記述する１以上の抽出された特性を抽出することを更に含み、
前記関連付けは、少なくとも前記抽出された特性に更に基づく、
システム。
【発明の詳細な説明】
【技術分野】
【０００１】
一の実施形態は、概してシステムに関し、特に、触覚設計を推奨するシステムに関する。
【背景技術】
【０００２】
ハプティクス（ｈａｐｔｉｃｓ）は、触覚及び力フィードバックの技術であり、力、振動、及び動きといった触覚フィードバック効果（「触覚効果」）をユーザーに適用する事によってユーザーの触覚を利用する。モバイル装置、タッチスクリーン装置、及びパーソナルコンピュータ等の装置は、触覚効果を生成するように構成することが可能である。通常、触覚効果を生成可能な埋め込みハードウェア（アクチュエータ等）への呼び出しは装置のオペレーティングシステム（ＯＳ）内でプログラム可能である。これらの呼び出しはどの触覚効果を再生するかを指定する。例えば、ユーザーが例えばボタン、タッチスクリーン、レバー、ジョイスティック、ホイール、又はその他の制御を用いて装置とインタラクトする際、装置のＯＳは制御回路を通じて埋め込みハードウェアへ再生コマンドを送信できる。埋め込みハードウェアはその後、適切な触覚効果を生起する。
【０００３】
触覚効果がその他のコンテンツと一体化するように、装置は、触覚効果の出力をその他のコンテンツ、例えば音声、の出力に連動させるよう構成されてよい。例えば、音声効果の開発者は、マシンガンの発射、爆発、自動車の衝突等、装置によって出力できる音声効果を開発してよい。更に、映像効果等のその他の種類のコンテンツが開発され、引き続き、該装置によって出力されてよい。触覚効果の開発者は、引き続き、該装置用の触覚操作をオーサリングしてよく、該装置は、その他のコンテンツと共に該触覚操作を出力するよう構成されてよい。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、このような手順は一般的に、音声効果やその他の種類のコンテンツに調和する触覚効果をオーサリングするために、触覚効果の開発者による手動入力を必要とする。このような手動の手順は煩雑であり長い時間がかかる。
【課題を解決するための手段】
【０００５】
一の実施形態は、１以上の触覚効果を推奨するシステムである。システムは、人間の触覚設計者のスタイルを学習することによって生成される触覚化モデルを提供する。システムは、音声及び映像のうち１以上と、複数のイベントと、を含む入力を受信する。システムは続いて、前記入力内の対応するイベントに関連付けるための一の種類の触覚効果を、前記学習された触覚化モデルに基づいて推奨する。
【図面の簡単な説明】
【０００６】
添付の図面と併せて参照される以下の好適な実施形態の詳細な説明から、更なる実施形態、詳細、利点、及び変形が明らかになるだろう。
【図１】本発明の一の実施形態に係るシステムのブロック図である。
【図２】本発明の一の実施形態に係る触覚設計システムのブロック図である。
【図３】本発明の一の実施形態に係る触覚設計モジュールのフロー図である。
【図４】本発明の一の実施形態に係る高レベルな意味論記述子を用いるベイジアンネットワークを示す図である。
【図５】本発明の一の実施形態に係る低レベルの記述子を用いるベイジアンネットワークを示す図である。
【発明を実施するための形態】
【０００７】
一の実施形態は、触覚効果の開発者による先行する触覚設計に基づいて触覚化モデルを学習し、学習された触覚化モデルを用いてマルチメディアクリップ等の新規のコンテンツ用の新規の触覚設計を推奨するシステムである。
【０００８】
図１は、本発明の一の実施形態に係るシステム１０のブロック図である。一の実施形態において、システム１０は、触覚オーサリング装置（ｈａｐｔｉｃ  ａｕｔｈｏｒｉｎｇ  ｄｅｖｉｃｅ）の一部であり、システム１０は、触覚オーサリング装置のための触覚設計機能を提供する。単一のシステムとして図示されてはいるが、システム１０の機能は、分散システムとして実装可能である。システム１０は、情報通信用のバス１２又はその他の通信機構と、バス１２に連結される情報処理用のプロセッサ２２とを含む。プロセッサ２２は、任意の種類の汎用又は特定用途プロセッサであり得る。システム１０は、情報及びプロセッサ２２によって実行される命令を格納するためのメモリ１４を更に含む。メモリ１４は、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、磁気又は光学ディスク等の静的記憶装置、又はその他任意の種類のコンピュータ読み取り可能媒体の任意の組み合わせで構成されてよい。
【０００９】
コンピュータ読み取り可能媒体は、プロセッサ２２によってアクセス可能な任意の利用可能な媒体であり得て、揮発性媒体と不揮発性媒体の両方、リムーバブル媒体と非リムーバブル媒体、通信媒体、及び記憶媒体を含み得る。通信媒体はコンピュータ読み取り可能命令、データ構造、プログラムモジュール、又は、搬送波やその他の搬送機構等の変調されたデータ信号内のその他のデータを含み得て、更に、公知のその他任意の形式の情報伝達媒体を含み得る。記憶媒体には、が含まれ得る。ＲＡＭ、フラッシュメモリ、ＲＯＭ、消去可能プログラマブルリードオンリーメモリ（ＥＰＲＯＭ）、電気的消去可能リードオンリーメモリ（ＥＥＰＲＯＭ）、レジスタ、ハードディスク、リムーバブルディスク、コンパクトディスクリードオンリーメモリ（ＣＤ−ＲＯＭ）、又は公知のその他任意の形式の記憶媒体を含み得る。
【００１０】
一の実施形態において、メモリ１４は、プロセッサ２２によって実行された際に機能を提供するソフトウェアモジュールを格納する。モジュールは、システム１０にオペレーティングシステム機能を提供するオペレーティングシステム１５と、一の実施形態における触覚オーサリング装置の残りの部分を含む。モジュールは、以下に詳述するとおり、入力を受けて触覚設計を推奨する触覚設計モジュール１６を更に含む。特定の実施形態において、触覚設計モジュール１６は、各々が、触覚設計を推奨又は生成するための個別の特定の機能を提供する複数のモジュールを含んでよい。システム１０は典型的に、追加の機能を含めるために、Ｉｍｍｅｒｓｉｏｎ  Ｃｏｒｐｏｒａｔｉｏｎ製のＨａｐｔｉｃ  Ｓｔｕｄｉｏ（商標）ソフトウェアのような１以上の追加のアプリケーションモジュール１８を含むだろう。
【００１１】
リモートのソースからデータを送受信する実施形態において、システム１０は、赤外線、無線、Ｗｉ−Ｆｉ、又は携帯ネットワーク通信のようなモバイルワイヤレスネットワーク通信を提供するために、ネットワークインターフェイスカードのような通信装置２０を更に含む。他の実施形態において、通信装置２０は、イーサネット（登録商標）接続又はモデム等の有線ネットワーク接続を提供する。
【００１２】
プロセッサ２２は、グラフィック描写又はユーザーインターフェイスをユーザーに向けて表示するために、バス１２を経由して液晶ディスプレイ（ＬＣＤ）等のディスプレイ２４に更に連結される。ディスプレイ２４は、プロセッサ２２との間で信号を送受信するよう構成される、タッチスクリーン等のタッチ式の入力装置であり得て、また、マルチタッチタッチスクリーンであり得る。
【００１３】
一の実施形態において、システム１０はアクチュエータ２６を更に含む。アクチュエータ２６は、触覚効果が当該システム上で生成される実施形態において用いられる。そうでない場合、アクチュエータ２６は別の装置の一部であってよい。プロセッサ２２は、生成された触覚効果に関連付けられた触覚信号をアクチュエータ２６に送信し得て、アクチュエータ２６は、振動触知（ｖｉｂｒｏｔａｃｔｉｌｅ）触覚効果、静電摩擦触覚効果、又は変形触覚効果等の触覚効果を出力する。アクチュエータ２６はアクチュエータ駆動回路を含む。アクチュエータ２６はまた、例えば電気モータ、電磁アクチュエータ、ボイスコイル、形状記憶合金、電気活性ポリマー、ソレノイド、偏心回転質量モータ（ＥＲＭ）、リニア共振アクチュエータ（ＬＲＡ）、圧電アクチュエータ、広帯域アクチュエータ、電気活性ポリマー（ＥＡＰ）アクチュエータ、静電摩擦ディスプレイ、又は超音波振動発生器であり得る。代替的な実施形態において、システム１０は、アクチュエータ２６に加えて、１以上の追加のアクチュエータを含んでよい（図１には図示せず）。アクチュエータ２６は、駆動信号を受けて、振動触知触覚効果、静電摩擦触覚効果、又は変形触覚効果等の触覚効果を出力するように構成される触覚出力装置の一例である。代替的な実施形態において、アクチュエータ２６はいくつかのその他の主対の触覚出力装置によって置換可能である。更に、別の代替的な実施形態において、システム１０は、アクチュエータ２６を含まなくてもよく、システム１０とは別の装置がアクチュエータ、又は、触覚効果を生成するその他の触覚出力装置を含み、システム１０は生成された触覚信号を、通信装置２０を経由してその装置へ送信する。
【００１４】
一の実施形態において、システム１０は、スピーカー２８を更に含む。スピーカー２８は、音声が当該システム上で生成される実施形態において用いられる。そうでない場合、スピーカー２８は別の装置の一部であってよい。プロセッサ２２は、音声信号をスピーカー２８に送信し得て、スピーカー２８は音声効果を出力する。スピーカー２８は、例えば、ダイナミックスピーカー、動電型スピーカー、圧電スピーカー、磁歪スピーカー、静電スピーカー、リボン及び平面磁気スピーカー、屈曲波スピーカー、フラットパネルスピーカー、ハイルエアモーショントランスデューサー、プラズマアークスピーカー、及びデジタルスピーカーであり得る。代替的な実施形態において、システム１０は、スピーカー２８に加えて、１以上の追加のスピーカーを含んでよい（図１には図示せず）。更に、別の代替的な実施形態において、システム１０は、スピーカー２８を含まなくてもよく、システム１０とは別の装置が音声効果を出力するスピーカーを含み、システム１０は、音声信号を、通信装置２０を経由してその装置へ送信する。
【００１５】
一の実施形態において、システム１０は、データベース３０を更に含む。データベース３０は、触覚設計モジュール１６の格納を提供し、触覚設計データ等を格納するよう構成されてよい。
【００１６】
図２は、本発明の一の実施形態に係る触覚設計システム２００のブロック図である。触覚設計システム２００は、触覚オーサリングシステム２１０、データベース２２０、及び触覚設計推奨部２３０を含む。触覚設計推奨部２３０は、図１の触覚設計モジュール１６を用いて実装されてよい。
【００１７】
操作時に、設計者はまず触覚オーサリングシステム２１０を操作して、例えば触覚オーサリングシステム２１０上で実行される触覚設計ソフトウェアを用いて、マルチメディアクリップ内のイベント（例えば、動画内の１シーン、又は音声の一部）用の触覚効果を手動でオーサリング（ｍａｎｕａｌｌｙ  ａｕｔｈｏｒ）してよい。対応するマルチメディアイベントの、手動でオーサリングされた触覚効果及び特性を表すＰＣＭ信号及び／又はタグは、データベース２２０に格納、及び／又は触覚設計推奨部２３０に直接転送されてよい。以下に詳述するとおり、一部の実施形態において、データベース２２０は、提案／推奨された効果を生成するために用いることができる触覚化モデルを構築するために用いられてよい。触覚設計推奨部２３０は、効果の特徴（例えば、期間、振幅、波形（ｓｈａｐｅ）、及び周波数等）を検出でき、図３に後述される機能に従って、触覚効果を、マルチメディアクリップ内で同じタイミングで発生する対応するイベント（すなわち、触覚化の対象となるイベント）の特性に関連付けることができる。一般的に、特定の触覚効果を定義する高レベルのパラメータとしては、強度、周波数、及び期間が含まれる。特定の触覚効果を決定するために、ストリーミングモータコマンド（ｓｔｒｅａｍｉｎｇ  ｍｏｔｏｒ  ｃｏｍｍａｎｄ）のような低レベルのパラメータも使用可能である。触覚効果が生成される際にこれらのパラメータのいくつかの変化が含まれる場合、もしくはユーザーのインタラクションに基づいたこれらのパラメータの１つの変化が含まれる場合、触覚効果は「動的」であると見なされ得る。
【００１８】
一部の実施形態において、マルチメディアイベントの特性には、音声特性又は／及び映像特性が含まれてよい。これらの特性は、イベントの動態（ｄｙｎａｍｉｃｓ  ｏｆ  ｔｈｅ  ｅｖｅｎｔ）（例えば、イベントと、クリップ内におけるその前後の部分との間の移行）をキャプチャすることも可能である。音声特性は、スペクトル的（例えば、周波数成分、メル周波数ケプストラム係数（ＭＥＬＦＣＣ）、周波数帯ごとの力等）及び時間的（例えば、波形、振幅、タイミング）であってよい。映像特性は、例えば、色のヒストグラム、オプティカルフロー（例えばシーン内のオブジェクトの動きの推定）、特定の色パターンの存在、等を含んでよい。システム２００はシーンの動態（ｄｙｎａｍｉｃｓ  ｏｆ  ｔｈｅ  ｓｃｅｎｅ）（例えば、イベントそのものだけでなく）をキャプチャすることも可能である。例えば、システム２００は、イベントに対する音の振幅が増大又は減衰している場合や、イベント又はシーン中に色のヒストグラムがどのように変化したか等をキャプチャ可能である。
【００１９】
一部の実施形態において、触覚設計推奨部２３０は分類及びクラスタリングの技術（例えば隠れマルコフモデル（ＨＭＭ）、混合ガウスモデル（ＧＭＭ）、Ｋ平均法、Ｋ近傍法（ＫＮＮ）、ベイジアンネットワーク等）を用いて効果の種類とイベントの種類とを関連付ける。このような実施形態において、新規のマルチメディアクリップをオーサリングする際、触覚設計推奨部２３０は、すでに学習したものと同様のイベントを検出すると、新規コンテンツの特性を分析し、効果を提案／推奨できる。
【００２０】
一部の実施形態において、触覚設計推奨部２３０は、触覚オーサリングシステム２１０上で実行中の触覚設計ソフトウェアにおけるバックグラウンドプロセスのように、リアルタイムで動作可能である。一部の実施形態において、触覚設計推奨部２３０は、「Ｉｍｍｅｒｓｉｏｎ」フォーマット又はＤ−ＢＯＸ  Ｔｅｃｈｎｏｌｏｇｉｅｓ  Ｉｎｃ．によって採用されるフォーマットで保存された触覚効果データを読み出す等して、あらかじめオーサリングされたコンテンツ上でオフラインで動作可能である。一部の実施形態において、触覚効果推奨部２３０は、新規のマルチメディアクリップに効果を推奨する際、その作者がすでにオーサリングした効果のみを考慮することにより、異なる触覚効果製作者に適応することができる。別法として別の実施形態において、触覚効果推奨部２３０は、新規のマルチメディアクリップに効果を推奨する際、複数の製作者がすでにオーサリングした効果を考慮するよう構成されてよい。
【００２１】
図３は、本発明の一の実施形態に係るシステムによって実行される触覚設計機能のフロー図である。一部の実施形態において、図３の機能はメモリ、もしくはその他のコンピュータ読み取り可能媒体に格納されたソフトウェアによって実装され、プロセッサによって実行される。本実施形態において、各機能は、触覚設計モジュール（図１の触覚設計モジュール１６等）によって行われ得る。別の実施形態において、各機能は、ハードウェア（例えば、特定用途向けＩＣ（ＡＳＩＣ）、プログラム可能ゲートアレイ（ＰＧＡ）、フィールドプログラム可能ゲートアレイ（ＦＰＧＡ）等を用いる）又はハードウェアとソフトウェアとの任意の組み合わせによって行われ得る。
【００２２】
該実施形態によれば、フローは、マルチメディアクリップ３１５向けの触覚効果を、例えば触覚設計ソフトウェアを用いてユーザーが手動でオーサリング／設計する３１０において開始する。この効果は、マルチメディアクリップ内のイベントに対応する。フローは３２０に続く。
【００２３】
３２０において、ユーザーはオーサリングされた触覚効果とイベントにタグ付けしてよい。ユーザーは、マルチメディアクリップ全体を、例えばマルチメディアクリップの種類又はジャンルをタグ付けすることにより、タグ付けしてよい。一部の実施形態において、ユーザーは、効果／イベントにタグ付けする必要がなく、手動で入力されたタグを用いずに、後述する３４０において自動的に検出／抽出された特性が用いられる。フローは３３０に続く。
【００２４】
３３０において、モジュール１６は、触覚効果、イベント、及びタグ（与えられている場合）を受信する。フローは３４０に続く。
【００２５】
３４０において、モジュール１６は、マルチメディアクリップ３１５から低レベルの特性（音声及び／又は映像）を、また、３３０で受信したイベントと効果の信号から効果の特徴を、自動的に検出／抽出する。例えば、各イベントを記述する特性（及び上述したそのコンテクスト）は、自動的に検出／抽出され、その後、イベントと、対応する効果を記述する特徴とを関連付けるために用いることができる。イベントの特性には、例えば音声特性（スペクトル的及び／又は時間的）及び／又は映像特性（色及び／又は動きの情報）が含まれてよい。コンテクスト（ｃｏｎｔｅｘｔ）特性は、同じ性質のものであってよいが、上述したものよりも詳細でない。例えば、イベントは、イベント中の音声の周波数成分及び／又は色のヒストグラムの変動を用いて記述されてよく、シーン／コンテクストは音声の平均振幅によって記述されてよい。
【００２６】
一部の実施形態において、２つのレベルの記述子の組み合わせ（手動で入力したタグと自動的に抽出／検出された特性）をコンテクスト情報として用いることができる。イベント／効果はユーザーによってタグ付けされてよく、同時に、その関連する特性はキャプチャされてよい。このような実施形態において、効果を提案するための全自動又は半自動的アプローチを用いて、新規のマルチメディアクリップに対して効果が提案されることができる。フローは３５０に続く。
【００２７】
３５０において、モジュール１６は触覚効果を、その対応するイベント又はイベントの連続体に関連付け、この関連付けを、図１のデータベース３０のようなデータベースに格納する。触覚効果は、例えば高レベルなイベント／効果記述子（例えば、３２０において手動で入力され３３０で受信されるタグのような意味論記述子）又は低レベルのイベント／効果記述子（例えば、信号特性のような自動的に検出／抽出される特性）を用いて、イベントに関連付けることができる。
【００２８】
３３０でタグデータが受信される実施形態において、「一連のうち最初の爆発」としてタグ付けされたイベントは、例えば「強い爆発」としてタグ付けされた触覚効果と関連付けることができる。別の例において、「ミュージックビデオ」としてタグ付けされたクリップ内の「車のエンジン」としてタグ付けされたイベントには何の触覚効果も関連付けられなくてよいが、クリップ「アクションビデオ」内の同じイベントは「エンジンをふかす音」としてタグ付けされた触覚効果と関連付けることができる。このような実施形態において、タグは、各イベント／効果の設計に際し、設計者によって手動で関連付けられる。この特定のタグ付け作業のために、設計者は、各イベントのコンテクストのキャプチャを可能にするタグ付け情報（例えば、イベントの名称、シーンの種類、先行及び後続のイベント、クリップの種類、フォアグラウンドとバックグラウンドの他のイベント等）を提供する。一部の実施形態において、各効果に割り当てられたタグ付けデータは基本タグ（例えば、効果の名称、強度のレベル（ｌｅｖｅｌ  ｏｆ  ｉｎｔｅｎｓｉｔｙ））であってよい。フローは３６０に続く。
【００２９】
３６０において、モジュール１６は、効果とイベントとの関連付けを用いて、触覚化モデル（例えばベイジアンモデル、マルコフモデル等）を構築（又は学習）する。モデルは、設計者（ユーザー）のスタイルを記述するために構築される。モデルは、新規のマルチメディアクリップ用に、提案／推奨された効果を後に生成するために用いられる。モデルは、必要とされる全ての情報（イベント、コンテクスト、効果）をキャプチャする包括的なものであってよい。例えば、高レベルの記述子を用いたベイジアンネットワークの実装において、離散状態変数は、イベントの種類、次又は後続のイベントの種類、これらのイベントまでの時間、シーンのテーマ等を記述（各１つ）できる。
【００３０】
低レベルの記述子が用いられる実施形態において、イベントの種類もモデルを通じて表現されるであろうことから、モデルはより複雑であってよい。このモデルのベイジアンネットワーク実装において、例えば、変数は連続的で、各々が一のイベントの一の特性を表してよい。ベイジアンネットワーク実装の一例が以下の図４及び５に示される。一部の実施形態において、モデルはデータベースに格納される。別法として、モデルはデータベースに格納されるデータから構築される。フローは３７０に続く。
【００３１】
３７０において、モジュール１６は、新規のマルチメディアクリップ３２５からイベントの特性を自動的に抽出する、及び／又はユーザー（例えば触覚設計者）が新規のマルチメディアクリップ３２５内の１以上のイベントにタグ付けする。
【００３２】
３８０において、モジュール１６は、モデルを用いて、新規のマルチメディアクリップ３２５又は新規のマルチメディアクリップ３２５内の１以上のイベントに向けて、提案／推奨された触覚効果を生成する。提案／推奨は、モデルからの尤度の推定に基づいてよく、モデルの構築に高レベル（タグ付けデータ）及び／又は低レベル（自動抽出された特性データ）が用いられたかによって、全自動又は半自動モードで行われてよい。例えば、３６０においてモデルの構築に低レベルのデータが用いられた場合、触覚効果の提案／推奨は後述のように全自動で行うことができる。別の例で、３６０においてモデルの構築に高レベルのデータが用いられた場合、触覚効果の提案／推奨は後述のように半自動（新規のマルチメディアクリップ内のイベントに対するタグの入力をユーザー（設計者）に要求する）で行うことができる。
【００３３】
例えば、半自動モードでは、設計者／ユーザーは、触覚化したいイベント、ならびに、例えばコンテクスト情報を提供するための周辺のイベント及びシーンをタグ付けする必要がある。モジュール１６は、設計者のスタイル（モデルによって決定される）と、タグ付けされたイベントの異なる状態／種類を基に、機械学習アルゴリズムを用いて最も可能性の高い触覚効果を決定する。半自動モードを行うとき、データベースの構築は、低レベルの特性を用いる又は用いない、３２０及び３３０で上述した設計者のタグ付け作業を用いて行われるのが好ましい。このモードにおいて、例えば設計者は、イベントを、爆発に続く発砲としてタグ付けし、このシーンを「アクション」としてタグ付けできる。この情報を利用して、モデルを与えられたモジュール１６はこの構成に最適な効果を見つけることができる。モデルは可能性のある全ての構成を含まない場合があるため、一部の提案はモデルを用いた尤度の推定に基づいてよい。追加する効果の種類が決定されると、モジュール１６はイベントの時間特性を利用してそれを適切に調整できる（例えば、強度、期間）。
【００３４】
全自動モードにおいては、例えば設計者による介入（例えば手動による入力）が一切必要ない。このモードでは、モジュール１６が音声又は映像コンテンツの特性を自動的に分析し、これらの特性を基に効果を関連付ける試みが可能である。このモードでは、全てのイベント、効果、及びコンテクストが、その特性と特徴によって記述され、モジュール１６は異なる特性値を参照し、学習されたモデルを用いて最も可能性の高い一連の効果の特徴を見つけることができる。
【００３５】
一部の実施形態において、推奨された触覚効果は、ユーザー／設計者による介入なしで新規のマルチメディアクリップ３２４向けの触覚効果を作成するのに用いられる。例えば、このような実施形態において、３８０でモジュール１６によって推奨された触覚効果は、人間の介入なしで新規のマルチメディアクリップに自動的に適用される（例えばユーザー／設計者が推奨を受け入れる必要がない）。このような実施形態は、学習された触覚化モデルにおいて表される設計者（人間）がオーサリングした触覚効果の人間味と、自動化された触覚処理のスピードとを両立する。
【００３６】
一部の実施形態において、モデルは動的であってよい。つまり、ユーザー／設計者が、提案／推奨された効果を却下して新規の効果を提案してよく、この新規の効果は再度取り入れられてモデルが更新されるだろう。
【００３７】
特定の実施形態において、モジュール１６は、パーソナライズされた進化モデルを学習する（例えば一から作成されて学習し続ける、設計者当たり１つのモデル）。別の実施形態において、モジュール１６は、複数のユーザー向けの、あらかじめ搭載された包括的及び／又は静的モデルを用いてよい（例えば、経験の少ないユーザー向け、又は著名な設計者等の他の設計者のモデルをユーザーが用いるため）。
【００３８】
特定の実施形態において、図３に図示する触覚設計機能は、リアルタイムで行われてもよいし（すなわち、ユーザーが効果を設計している間に学習する）、あらかじめ設計されたマルチメディア及び触覚作品において実行されてもよい。これは、異なるアプローチを用いて制作されたトラック（例えば、Ｈａｐｔｉｃ  Ｓｔｕｄｉｏ等のＩｍｍｅｒｓｉｏｎ  Ｃｏｒｐｏｒａｔｉｏｎ製のオーサリングツールを使って制作されたトラック、Ｄ−Ｂｏｘ  Ｔｅｃｈｎｏｌｏｇｙ，  Ｉｎｃ．製の装置での使用向けに制作されたトラック等）に適用されることもできる。
【００３９】
図４は、本発明の一の実施形態に係る、高レベルの意味論記述子を用いるベイジアンネットワーク４００を図示する。離散変数を用いるベイジアンネットワーク４００は、異なる観察の状態（影付きのノード）が隠れた変数の状態（白いノード）に影響する触覚効果設計モデルを記述する。本稿において、観察は既知の状態（モジュール１６によって推定される）を有する変数である一方、隠れた変数の状態は不明でありモデルによって提案される。
【００４０】
ベイジアンネットワーク４００を用いる実施形態において、ユーザーはシーンの種類、現在のイベントの種類、先行するイベントの種類、及びその関連する効果ならびにその効果の長さと強さ、をタグ付けする。このような実施形態において、モジュール１６はモデル内のこの全てのデータを用いて可能性を算出し、現在のイベントに対して特定の種類の効果、ならびにその強度と持続時間、を提案できる。この算出は、過去にモデルに対して提供された、イベント／効果の前例に基づく。
【００４１】
図５は、本発明の一の実施形態による、低レベルの記述子を用いるベイジアンネットワーク５００を図示する。連続変数を用いるベイジアンネットワーク５００は、異なる観察の状態（影付きのノード）が隠れた変数の状態（白いノード）に影響する触覚効果設計モデルを記述する。本稿において、観察は既知の状態（モジュール１６によって推定される）を有する変数である一方、隠れた変数の状態は不明でありモデルによって提案される。
【００４２】
ベイジアンネットワーク５００を用いる実施形態において、モジュール１６は、先行するイベントの効果の長さ、強さ、及び特徴（例えば周波数、パターン、波形）を自動的に検出／抽出する。このような実施形態において、モジュール１６は、現在のイベントの音声／映像特性（例えば音声周波数プロファイル、色のヒストグラムの変化等）も自動的に検出する。このような実施形態において、モジュール１６は、モデル内のこの全てのデータを用いて可能性を算出し、現在のイベントに対して効果（強さ、強度、及び種類によって記述される）を提案できる。
【００４３】
音声、映像、及び／又は知覚データからの、既知の自動触覚変換アルゴリズムのいくつかは、人間的な芸術的感性をしばしば欠いている。１つのマルチメディアクリップ内の同じイベントは、イベントのコンテクストに基づいて、異なる設計者によって異なる方法で触覚化されることができる。一方、実施形態は、異なる設計された効果を、特定のコンテクスト（例えば、マルチメディアのテーマ、周辺のイベントの種類等）で取り込まれた異なるマルチメディアイベントに関連付けることにより、この人間味をキャプチャする。実施形態は、次に、このキャプチャされた情報を用いて、同じ性質のイベントに遭遇した際に効果を提案できる。例えば、連続する爆発を含むアクションムービーにおいて、設計者は、最初の爆発をより重視し、強い効果でそれを触覚化し、その一方で、後続の爆発はより弱く触覚化するかもしれない。しかしながら、既知の自動変換ツールは、同様のイベントには同様の効果を割り当てる。これに対して、実施形態は、このコンテクスト要素及び芸術的感性を自動変換に取り入れる。
【００４４】
開示されるとおり、実施形態は、人間の触覚効果設計者の芸術的感性を考慮に入れて学習された触覚化モデルを用い、入力されたマルチメディアクリップに対し触覚効果を自動的に推奨し得る触覚設計オーサリングツールを実装する。このようにして、ユーザー／設計者が各触覚効果を手動で設計することなく、触覚効果を自動的に推奨することが可能である。
【００４５】
いくつかの実施形態が、本稿において具体的に図示及び／又は記載されている。しかしながら、開示された実施形態の変形及び変異が、本発明の精神及び意図される範囲から逸脱することなく、上述の記載によって網羅され、添付される請求の範囲に包含されることが理解される。
【図１】
2019169195.tif 000003
【図２】
2019169195.tif 000004
【図３】
2019169195.tif 000005
【図４】
2019169195.tif 000006
【図５】
2019169195.tif 000007
【手続補正書】
【提出日】令和1年7月1日(2019.7.1)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
メディアの一部と触覚効果との間の関連付けを触覚設計者から受信するステップ、
前記関連付けに従って学習モデルを構築するステップであって、前記学習モデルは、分類、及びクラスタリングの技術を用いて追加の関連付けを決定するステップ、
前記学習モデルに従って、新規のメディアの一部のための１つ以上の前記触覚効果を決定するステップ、及び
前記新規のメディアの一部と、前記新規のメディアの一部のための前記１つ以上の前記触覚効果と、を提供するステップを含む方法。
【請求項２】
前記新規のメディアの一部に関連付けて決定される前記１つ以上の前記触覚効果は、前記学習モデルで実行された確率計算に基づいて複数の触覚効果の中から決定される請求項１に記載の方法。
【請求項３】
前記学習モデルは、前記新規のメディアの一部のための特徴、及び前記新規のメディアの一部に先行するメディアの一部のための特徴に基づいて、前記新規のメディアの一部のための触覚効果を決定するように構成される請求項１に記載の方法。
【請求項４】
前記メディアはビデオを含み、前記メディアの一部は前記ビデオにイベントを含む請求項１に記載の方法。
【請求項５】
前記学習モデルは、隠れマルコフモデル、混合ガウスモデル、Ｋ平均法、Ｋ近傍法、又はベジアンネットワークを含む請求項１に記載の方法。
【請求項６】
受信される前記関連付けは、触覚効果と、複数の特徴を含むメディアの一部との間の関連付けを含む請求項１に記載の方法。
【請求項７】
所与のメディアの一部のための前記複数の特徴は、自動的に検出され、音の周波数、前記所与のメディアの一部にわたる色のヒストグラム値、又は音の振幅の平均の１つ以上を含む請求項６に記載の方法。
【請求項８】
前記複数の特徴は、自動的に検出された特徴、及び前記触覚設計者によって手動でタグ付けされた特徴の組み合わせを含む請求項７に記載の方法。
【請求項９】
前記学習モデルは、既知の変数の状態を決定するために受信される前記関連付けを観察し、前記既知の変数の状態は、隠れた変数の状態を決定するために用いられる請求項１に記載の方法。
【請求項１０】
前記学習モデルは、更に、前記触覚設計者のスタイルである前記新規のメディアの一部のための前記１つ以上の前記触覚効果を決定するように構成される請求項１に記載の方法。
【請求項１１】
プロセッサによって実行されるように構成された１つ以上のプログラムを格納する非一時的なコンピュータ読み取り可能記憶媒体であって、
前記１つ以上のプログラムは、
メディアの一部と触覚効果との間の関連付けを触覚設計者から受信し、
前記関連付けに従って学習モデルを構築し、前記学習モデルは、分類、及びクラスタリングの技術を用いて追加の関連付けを決定し、
前記学習モデルに従って、新規のメディアの一部のための１つ以上の前記触覚効果を決定し、
前記新規のメディアの一部と、前記新規のメディアの一部のための前記１つ以上の前記触覚効果と、を提供する命令を含む非一時的なコンピュータ読み取り可能記憶媒体。
【請求項１２】
前記新規のメディアの一部に関連付けて決定される前記１つ以上の前記触覚効果は、前記学習モデルで実行された確率計算に基づいて複数の触覚効果の中から決定される請求項１１に記載の非一時的なコンピュータ読み取り可能記憶媒体。
【請求項１３】
前記学習モデルは、前記新規のメディアの一部のための特徴、及び前記新規のメディアの一部に先行するメディアの一部のための特徴に基づいて、前記新規のメディアの一部のための触覚効果を決定するように構成される請求項１１に記載の非一時的なコンピュータ読み取り可能記憶媒体。
【請求項１４】
前記メディアはビデオを含み、前記メディアの一部は前記ビデオにイベントを含む請求項１１に記載の非一時的なコンピュータ読み取り可能記憶媒体。
【請求項１５】
前記学習モデルは、隠れマルコフモデル、混合ガウスモデル、Ｋ平均法、Ｋ近傍法、又はベジアンネットワークを含む請求項１１に記載の非一時的なコンピュータ読み取り可能記憶媒体。
【請求項１６】
受信される前記関連付けは、触覚効果と、複数の特徴を含むメディアの一部との間の関連付けを含む請求項１１に記載の非一時的なコンピュータ読み取り可能記憶媒体。
【請求項１７】
プロセッサと、
前記プロセッサによって実行されるように構成された１つ以上のプログラムを格納するメモリとを備えた装置であって、
前記１つ以上のプログラムは、
メディアの一部と触覚効果との間の関連付けを触覚設計者から受信し、
前記関連付けに従って学習モデルを構築し、前記学習モデルは、分類、及びクラスタリングの技術を用いて追加の関連付けを決定し、
前記学習モデルに従って、新規のメディアの一部のための１つ以上の前記触覚効果を決定し、
前記新規のメディアの一部と、前記新規のメディアの一部のための前記１つ以上の前記触覚効果と、を提供する命令を含む装置。
【請求項１８】
前記新規のメディアの一部に関連付けて決定される前記新規のメディアの一部のための前記１つ以上の前記触覚効果は、前記学習モデルで実行された確率計算に基づいて複数の触覚効果の中から決定される請求項１７に記載の装置。
【請求項１９】
前記学習モデルは、前記新規のメディアの一部の特徴、及び前記新規のメディアの一部に先行するメディアの一部の特徴に基づいて、触覚効果を決定するように構成される請求項１７に記載の装置。
【請求項２０】
前記メディアはビデオを含み、前記メディアの一部は前記ビデオにイベントを含む請求項１７に記載の装置。
【外国語明細書】
2019169195000001.pdf