(57)【要約】  超音波イメージングシステムは選択されたスタイルを超音波画像のコンテンツに適用することにより超音波画像の表示を強調する。スタイルは組織タイプ等の特定の解剖学的特徴の解剖図であってもよく、または組織を良好に示す以前に取得された超音波画像のスタイルであってもよい。他のイメージングモードのスタイルもまた適用することができる。いくつかの実施形態では、超音波イメージングシステムのトレーニングモードはキャプチャされた超音波画像データの出現を強調するためにスタイル転送技術を実施する。【選択図】図１
2021522923.tif 000002
【特許請求の範囲】
【請求項１】
超音波イメージングシステムであって、
超音波エネルギーを関心領域に届けるため、および戻りエコー信号を検出するために前記イメージングシステムに結合されたトランスデューサと、
前記戻りエコー信号を処理するため、および関心領域の画像データを生成するための回路と、
前記画像データ内のコンテンツの出現を強調するために選択されたスタイルで前記画像データからのコンテンツを表示するための命令を実行するように構成されたプロセッサと、
を備える、超音波イメージングシステム。
【請求項２】
前記プロセッサは前記画像データからの前記コンテンツに前記選択されたスタイルを適用するターゲット画像を生成するために前記画像データを訓練されたニューラルネットワークに供給するための命令を実行するように構成される、請求項１に記載の超音波イメージングシステム。
【請求項３】
前記プロセッサは、前記ターゲット画像を生成するために、いくつかのスタイル画像をユーザインタフェースに表示するための命令を実行し、前記いくつかのスタイル画像からスタイル画像の選択を検出し、前記画像データを前記選択されたスタイル画像に対応するニューラルネットワークに供給するように構成される、請求項２に記載の超音波イメージングシステム。
【請求項４】
前記スタイル画像は解剖図、以前に取得された超音波画像、および別のイメージングモダリティのスタイルのうち一または二以上である、請求項３に記載の超音波イメージングシステム。
【請求項５】
前記プロセッサは前記超音波イメージングシステムのイメージングモードに従って前記スタイルを選択するための命令を実行するように構成される、請求項２に記載の超音波イメージングシステム。
【請求項６】
前記プロセッサは前記超音波イメージングシステムに結合されたイメージングプローブのタイプに従って前記スタイルを選択するための命令を実行するように構成される、請求項２に記載の超音波イメージングシステム。
【請求項７】
前記プロセッサは前記超音波イメージングシステムがトレーニングモードで動作する場合にターゲット画像を生成するための命令を実行するように構成される、請求項２に記載の超音波イメージングシステム。
【請求項８】
前記プロセッサは前記ターゲット画像と同時に超音波画像データを表示するための命令を実行するように構成される、請求項２に記載の超音波イメージングシステム。
【請求項９】
前記プロセッサは前記ターゲット画像と交互に超音波画像データを表示するための命令を実行するように構成される、請求項２に記載の超音波イメージングシステム。
【請求項１０】
プロセッサは前記選択されたスタイルで前記画像データの一部を表示するための命令を実行するように構成される、請求項２に記載の超音波イメージングシステム。
【請求項１１】
前記画像データの二以上の部分は異なるスタイルで表示される、請求項１０に記載の超音波イメージングシステム。
【請求項１２】
前記プロセッサは、前記画像データ内の解剖学的特徴を識別するように訓練されたニューラルネットワークに前記画像データを供給するための命令を実行するように構成され、前記選択されたスタイルを前記識別された解剖学的特徴を備える前記画像データの前記一部に適用する訓練されたニューラルネットワークに前記画像データを供給するための命令を実行するように構成される、請求項１０に記載の超音波イメージングシステム。
【請求項１３】
超音波イメージングシステム内のプロセッサであって、
対象の超音波画像データを受信し、
前記選択されたスタイルでターゲット画像を生成するために、前記超音波画像データに選択されたスタイルを適用するように訓練されたニューラルネットワークに前記超音波画像データを供給し、
前記選択されたスタイルで超音波データの前記ターゲット画像を表示する、
ための命令を実行するように構成された、超音波イメージングシステム内のプロセッサ。
【請求項１４】
前記プロセッサは、前記ターゲット画像を生成するために、ユーザインタフェースにいくつかのスタイル画像を表示し、前記いくつかのスタイル画像からスタイル画像の前記選択を検出し、前記選択されたスタイル画像に対応するニューラルネットワークに画像データを供給する、ための命令を実行するように構成される、請求項１３に記載のプロセッサ。
【請求項１５】
前記プロセッサは、前記超音波イメージングシステムのイメージングモードを決定し、前記決定されたイメージングモードに従って前記スタイルを選択する、ための命令を実行するように構成される、請求項１３に記載のプロセッサ。
【請求項１６】
前記プロセッサは、前記超音波データを取得するために使用されるイメージングプローブのタイプを決定し、前記決定されたイメージングプローブのタイプに従ってスタイルを選択する、ための命令を実行するように構成される、請求項１３に記載のプロセッサ。
【請求項１７】
前記プロセッサは、対象に対して実行された以前の検査のタイプを決定し、前記決定された以前の検査のタイプに基づいて前記スタイルを選択する、ための命令を実行するように構成される、請求項１３に記載のプロセッサ。
【請求項１８】
前記プロセッサは二以上のスタイルで前記超音波データを表示するための命令を実行するように構成される、請求項１３に記載のプロセッサ。
【請求項１９】
前記プロセッサは、前記選択されたスタイルで、前記超音波データの画像および前記超音波データの前記ターゲット画像を表示するための命令を実行するように構成される、請求項１３に記載のプロセッサ。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示技術は超音波イメージングシステムに関し、特には、超音波画像特徴の出現を強調するためのシステムに関する。
【背景技術】
【０００２】
超音波イメージングはその比較的低いコストおよび非電離放射線に起因して、イメージングモダリティにおいてますます使用されるようになっている。超音波イメージングを用いて、トランスデューサは超音波を関心領域に向け、対応するエコー信号を受信する。イメージングシステム内の信号処理回路はトランジスタ素子により生成される電子エコー信号を組み合わせ、その振幅、移相、パワー、高調波成分等の組み合わせられた信号の特性またはユーザに表示するための画像画素データに定量化される他の特性の表示を生成する。
【０００３】
超音波画像はしばしば画像内に出現するが組織構造を表さないスペックルまたは多重反射アーチファクトを含む可能性がある。加えて、超音波が光学イメージングモダリティでないため、超音波画像内に組織構造がどのように出現するかを学ぶための所定のレベルのトレーニングが必要になる。本明細書で開示される技術は超音波画像内の組織構造の出現を改善するシステムに関する。
【発明の概要】
【０００４】
上述の課題および他に対処するため、本開示技術は関心領域内の組織の画像を生成する超音波イメージングシステムに関する。イメージングシステム内のプロセッサは画像内の組織または他の解剖学的特徴がより容易に認識されるスタイルで超音波画像を表示するように構成される。一実施形態では、超音波画像データは選択されたスタイルで画像用のデータを生成するようにトレーニングされたニューラルネットワークにより処理される。いくつかの実施形態では、超音波システムは二以上の訓練されたニューラルネットワークを格納し、各ニューラルネットワークは入力超音波画像に特定のスタイルを適用するように訓練される。プロセッサは超音波画像に適用されるスタイルに対応するニューラルネットワークを選択する。
【０００５】
超音波画像に適用されるスタイルは、例えば、解剖図のスタイル、特定のタイプの生体構造または解剖学的特徴の写真のスタイル、別のタイプのイメージングモダリティ（例えば、ＭＲＩ、ＣＴスキャン）のスタイルまたは以前に取得した超音波画像のスタイルに対応することができる。超音波画像に適用される特定のスタイルは例えばユーザにより、実行される検査のタイプにより、超音波システムのイメージングモードにより、または使用されるトランスデューサのタイプにより、いくつかの方法で選択されることができる。
【図面の簡単な説明】
【０００６】
【図１】本開示技術を実施するための代表的な超音波イメージングシステムを示す。
【図２Ａ】人間の腎臓の代表的な超音波画像を示す。
【図２Ｂ】Ｇｒａｙ’ｓ ａｎａｔｏｍｙより、腎臓の画像を示す。
【図３】本開示技術の一実施形態による、選択されたスタイルを超音波画像に適用するためにニューラルネットワークを訓練するためのシステムのブロックダイアグラムである。
【図４】本開示技術のある実施形態による、選択されたスタイルを超音波画像に適用するためのシステムのブロックダイアグラムである。
【発明を実施するための形態】
【０００７】
超音波画像における組織、臓器、血液または同様のもの等の特徴の出現を改善するために、本開示技術の超音波イメージングシステムは選択されたスタイルを異なるスタイルで超音波画像に適用するため、およびユーザにスタイルが転送された画像を表示するために一または二以上のプロセッサを使用する。図１は手持ち式、ポータブルまたはカートベースのイメージングシステムであり得る代表的な超音波イメージングシステム１０を示している。システム１０は超音波エネルギーを生成し、エネルギーを関心領域に向け、対応する反射されたエコー信号を受信するトランスデューサ１２を含む。トランスデューサ１２は、エコー信号の受信した音響エネルギーを、アナログ−デジタルコンバータ、増幅用回路、フィルタリング、ビーム形成およびデジタル信号処理を含むが、これらに限定されない、トランスデューサまたはイメージングシステム１０内の回路により処理される対応する電気信号に変換する。画像処理回路は処理された超音波信号を一または二以上のビデオモニタ１４に表示することのできる画素データに変換する。超音波システム１０はユーザがボタン、ノブ、キーボード、キーパッド、トラックボール、トラックパッド、タッチウィール、タッチスクリーン等の、イメージングシステムと相互作用し、使用することのできるいくつかの制御部も含む。
【０００８】
超音波画像内の組織、液体（例えば、血液）または臓器等の解剖学的特徴を認識する経験の浅い超音波ユーザの能力を改善するために、本開示技術は超音波データが表示されるスタイルを変更することによりこのような特徴の出現を強調する。以下の説明は超音波画像内の臓器の出現を改善することを主に目的としているが、本開示技術は全てのこれらの解剖学的特徴のタイプに使用することができることを理解されたい。一実施形態では、ユーザは表示させるために彼らが超音波画像に適用したいいくつかの異なるスタイルのうち一つを選択することができる。超音波イメージングシステム内の一または二以上のプロセッサ（例えば、ＣＰＵ、ＧＰＵ、ＤＳＰもしくはそれらの組合せ）または予め構成された論理回路（例えば、ＦＰＧＡ、ＡＳＩＣ等）は入力超音波画像データに選択されたスタイルを適用する訓練されたニューラルネットワークに関心領域の超音波画像データを提供する。入力超音波画像のコンテンツを選択されたスタイルとブレンドする画像がユーザに表示され、そのため超音波画像内の特徴はより認識できるようになる。ユーザはスタイルがブレンドされた画像、当初の超音波画像、またはその両方をビデオモニタ上で見ることができる。スタイルがブレンドされた画像は修正されていない超音波画像と共に格納されるか、または有線または無線通信リンクを介してリモートコンピュータシステムに送信されることができる。
【０００９】
図２Ａは、人間の腎臓の代表的な超音波画像を示している。経験の浅い超音波技術者には、この画像が腎臓組織であると直ちに認識できないことがある。図２Ｂは、１９１８年版のＧｒａｙ’ｓ Ａｎａｔｏｍｙより、腎臓の古典的な画像を示している。超音波画像内の組織または他の特徴（例えば、血液、骨、靭帯等）の出現を改善するために、本開示技術の超音波イメージングシステムは、より従来的な解剖図のスタイルまたは別のスタイルで超音波画像データを表示するようにプログラムまたは構成された一または二以上のプロセッサを含む。例えば、超音波イメージングシステムのプロセッサはスタイルブレンドのために訓練されたニューラルネットワークを使用して古典的なＧｒａｙ’ｓ Ａｎａｔｏｍｙスタイルで図２Ａに示される超音波画像を表示するようにプログラムされる。一実施形態では、スタイルブレンド操作は超音波画像内の組織の出現を改善するためにトレーニングモードにおいて使用することができる。スタイルブレンド特徴はオンおよびオフすることができ、そのため超音波イメージングシステムのオペレータはスタイルブレンド強調の有無によらず超音波画像データを見ることができる。
【００１０】
図３は異なるスタイルを画像に適用することにより超音波画像の出現を強調するようにニューラルネットワークを訓練するためのシステム１００の一実施形態のブロックダイアグラムを示している。示されている実施形態では、システム１００は超音波画像を受信する。典型的に、超音波画像はＢモード画像であるが、ドップラー画像、Ｍモード画像、カラーフロー画像等の他のモダリティにおける画像である可能性がある。本明細書において説明されるように、超音波画像は超音波コンテンツ画像１０４と呼ばれる。スタイル画像１０６はそのスタイルがコンテンツ画像１０４とブレンドされるかまたはコンテンツ画像１０４を表示するためのガイドを使用する必要のある画像である。従来のニューラルネットワーク（例えば、ＶＧＧまたは類似の利用可能なニューラルネットワーク）のようなニューラルネットワーク１１０は、スタイル画像１０６のスタイルでターゲット画像１１２を生成するがコンテンツ画像１０４のコンテンツを保持するように訓練される。いくつかの実施形態では、ニューラルネットワーク１１０を訓練する一または二以上のプロセッサはニューラルネットワーク１１０により使用されるいくつかの係数、重量およびバイアス値の関数として、ターゲット画像１１２とコンテンツ画像１０４との間のコンテンツの差およびターゲット画像１１２とスタイル画像１０６との間のスタイルの差を定量化する損失関数１２０を計算する。プロセッサはニューラルネットワーク１１０にフィードバックされる係数、重量およびバイアス値への変化を計算する最急降下法等の最適化アルゴリズムを実行し、そのためコンテンツおよびスタイルの差の両方が教えられる。このプロセスはエラーが最小化されるまで、または所定の反復回数になるまで継続する。
【００１１】
一実施形態では、ユーザはニューラルネットワーク１１０を訓練するために使用される彼ら独自のスタイル画像を提供することが可能である。いくつかの実施形態では、スタイル画像は図２Ｂに示されるＧｒａｙ’ｓ Ａｎａｔｏｍｙ画像のような特定のスタイルの解剖学的画像である。しかしながら、例えば医学書から組織の他の周知の描写を使用することができる。腎臓の写真等の生体構造の写真は腎臓写真のスタイルで超音波画像を表示するためのニューラルネットワークを訓練するために使用することができる。あるいは、他のイメージングモダリティを用いて取得された画像はＭＲＩまたはＣＴスキャン画像等に使用することができる。このような画像は超音波コンテンツ画像１０４においてキャプチャされる同一タイプの組織または解剖学的特徴であってもなくてもよい。一実施形態では、スタイル画像１０６は検査されている組織または解剖学的特徴のタイプの良好な表現であると判断された別の超音波画像で有り得る。このような指定は熟練した超音波検査者によりなされてもよく、またはユーザが好むスタイルを有するユーザにより以前にキャプチャされた超音波画像でもよい。
【００１２】
典型的に、ニューラルネットワーク１１０は超音波イメージングシステム上で利用可能であるよりも多くの処理能力を有するコンピュータシステム上で遠隔で訓練される。しかしながら、超音波イメージングシステム上の処理能力がニューラルネットワークを訓練するために十分にパワフルである場合、次にニューラルネットワークはローカルで訓練される。プロセッサは超音波画像処理回路からコンテンツ画像を受信し、リモートコンピュータシステムからダウンロードされ得るか、またはメモリに予め格納され得る選択されたスタイル画像のスタイルを適用するためにニューラルネットワークを訓練する。多くの実施形態では、システムはコンテンツ画像として多数の超音波画像上でシステムを訓練することおよび一つの特定のスタイルの画像を使用することにより、供給されたコンテンツ画像に特定のスタイルを適用するために予め訓練される。このトレーニングはニューラルネットワークがリアルタイムスタイル転送を達成するためにニューラルネットワークの単一のフォワードパスで訓練されたスタイルを（訓練されていない）新しい超音波画像に転送することを可能にする。他の実施形態では、本システムは単一のコンテンツ画像およびスタイル画像から直ちに訓練される。
【００１３】
ニューラルネットワーク１１０が選択されたスタイルでターゲット画像を作成するために入力画像にスタイルを適用するように訓練されると、トレーニングプロセスの間に決定された係数、重量およびバイアス値は超音波システムのメモリにローカルに格納され、ネットワークが超音波画像を入力するように訓練されるスタイルを適用するように訓練されたニューラルネットワークを実施するために超音波イメージングシステムのプロセッサにより使用される。
【００１４】
いくつかの実施形態では、超音波イメージングシステムはいくつかの異なるニューラルネットワークの係数、重量およびバイアス値を格納し、その各々は超音波画像に異なるスタイルを適用するように訓練される。図４に示されるように、画像処理回路１３０は関心領域の超音波画像用のデータを生成する。超音波画像用のデータはコンテンツ画像１３４としていくつかの予め訓練されたニューラルネットワークのうち一つに対する入力として供給される。示されている実施形態では、イメージングシステムは供給されたコンテンツ画像１３４に異なるスタイルを適用するように訓練された四つの訓練されたニューラルネットワーク１４０、１４２、１４４、１４６を実施するように構成される。例えば、一つのニューラルネットワーク１３０はＧｒａｙ’ｓ Ａｎａｔｏｍｙ（ペンおよびインクの図）のスタイルで訓練され得る一方、別のニューラルネットワークは周知の医学書からの解剖学的画像のスタイルまたは実際の臓器組織の写真のスタイルで訓練され得る。一または二以上のニューラルネットワークはＭＲＩまたはＣＴスキャン等の別のイメージングモダリティを用いて取得された画像のスタイルを適用するように訓練することができる。同様に、ニューラルネットワークは超音波検査者または他の熟練者により臓器組織等の解剖学的特徴の良好な表現であると判断された超音波画像のスタイルで訓練され得る。このような超音波画像は最小限のスペックルまたは他のアーチファクトが欠如している可能性があり、または良好な組織のコントラスト等を有している可能性がある。
【００１５】
一実施形態では、各ニューラルネットワークは彼らが超音波画像に適用したいスタイルに対応するスタイル画像を適用および選択するように訓練されるスタイルを代表する画像を見る。プロセッサは次に選択されたスタイル画像に関連付けられた対応する訓練されたニューラルネットワークを選択する。別の実施形態では、選択されたスタイル（および対応するニューラルネットワーク）は超音波イメージングシステムの動作モードに基づき得る。例えば、トレーニングモードで使用される場合、スタイルおよび対応する訓練されたニューラルネットワークは生体構造のカラーイラストを模倣するように選択される。別の実施形態では、選択されたスタイルは実行されている検査のタイプまたは使用されているイメージングプローブのタイプに基づく。例えば、超音波イメージングシステム上のＯＢ／ＧＹＭ検査用の設定はプロセッサにより読み取られ、胎児組織の見え方を強調するスタイルを選択するために使用される。あるいは、ＯＢ／ＧＹＭイメージングプローブが患者の検査のために使用されている場合、次にプロセッサはこのようなイメージングプローブを用いて実行される検査のタイプに適切なスタイルを選択し得る。
【００１６】
他の実施形態では、患者の過去の検査履歴は適用されるスタイルのタイプを選択するために使用される。例えば、超音波イメージングシステム内のプロセッサは患者が受信した先の検査のタイプを決定するために電子患者記録システムに有線または無線通信リンクを介してメッセージを送信するようにプログラムされる。患者がＭＲＩを有した場合、次にＭＲＩスタイルが超音波コンテンツ画像に適用されるように選択される。患者が先のＣＴスキャンを有した場合、次にＣＴスキャンスタイルを適用することができる、等である。
【００１７】
超音波コンテンツ画像に適用されるスタイルが決定されると、プロセッサはターゲット画像１５０を生成する対応する訓練されたニューラルネットワークへの入力として超音波コンテンツ画像１３４を提供し、コンテンツ画像１４０のコンテンツを選択されたスタイルに組み合わせる。ターゲット画像１５０はディスプレイ１６０（例えば、一または二以上のビデオモニタ）に画像を表示するディスプレイ回路１５６に提供される。ターゲット画像１５０はメモリに保存され、印刷され、または有線または無線通信リンクを介してリモートコンピュータシステムに送信されることもできる。コンテンツ画像１３４およびターゲット画像１５０は同時に（例えば、並べて）または交互に表示することができる。
【００１８】
スタイル転送特徴は常に使用されるわけではなく、プロセッサは修正を用いることなくディスプレイ用のディスプレイ回路１５６に超音波コンテンツ画像１３４を提供することができる。ユーザはスタイル転送特徴を望み通りにオンおよびオフすることができる。いくつかの実施形態では、プロセッサにより実行されるオンボードトレーニングソフトウェアはスタイル転送特徴を用い、ユーザがトレーニングソフトウェアを使用しない時はオフにする。
【００１９】
理解されるように、超音波コンテンツ画像１３４はビデオモニタに表示するために準備している画像データ（例えば、画素データ）であり得る。あるいは、超音波コンテンツ画像は予めスキャンされ変換されたデータでもよく、または生のＲＦ超音波データでもよい。したがって、本明細書で使用されるように、ニューラルネットワークに適用される「超音波画像」という用語は、表示されるために準備されている形態の画素データだけでなく患者（人間または動物）から受信した任意の超音波データを指すことを意図している。
【００２０】
いくつかの実施形態では、スタイル転送プロセスは超音波コンテンツ画像の一部にのみ
適用される。いくつかの実施形態では、コンテンツ画像は画像内の生体構造または特定の臓器または他の解剖学的特徴のタイプを識別するように訓練されたニューラルネットワーク（図示されていない）に提供される。画像の部分はニューラルネットワークにより分割され、選択されたスタイルは分割された部分に適用される。例えば、超音波画像内で肝臓組織が識別された場合、肝臓組織を含む画像のセクションは分割され、肝臓組織の出現を強調するために選択されたスタイルは分割された部分に適用される。画像内で血管（例えば、動脈、静脈）が識別された場合、次に画像のその部分は分割されてもよく、同一または異なるスタイルは血管等における血液の出現を強調するために画像のそのセグメントに適用されてもよい。この実施形態では、二以上の異なるスタイルは画像の異なるセグメントに適用され得る。
【００２１】
いくつかの実施形態では、プロセッサは超音波コンテンツ画像に適用されるスタイルの量を調整し得る。例えば、ユーザまたはソフトウェアはコンテンツ画像を備えるスタイル画像のスタイルの全てよりも少なくブレンドするように選択し得る。このような低減は訓練されたニューラルネットワークにおいて使用される重量、係数およびバイアス値を調整することにより実行され得る。他の実施形態では、別々のニューラルネットワークは任意の所与のスタイル画像のための異なる強度のスタイル転送で訓練され得る。
【００２２】
上記で開示された実施形態は超音波イメージングシステム上で訓練されたニューラルネットワークを実行するが、ニューラルネットワークはリモートコンピュータシステム（例えば、クラウドコンピュータ）上で実施されることができることを理解されたい。この実施形態では、超音波イメージングシステム内のプロセッサは有線または無線通信リンクを介して超音波イメージングシステムからリモートコンピュータシステムにコンテンツ画像（および複数のスタイルが利用可能な場合にどのスタイルを適用するかについての表示）を送信し、表示するためにリモートコンピュータから選択されたスタイルのターゲット画像を受信するようにプログラムされる。
【００２３】
ニューラルネットワーク（１１０、１４０−１４６）の機能に関するさらなる詳細は、（１）Ｇａｔｙｓ, Ｌ.Ａ., Ｅｃｋｅｒ, Ａ.Ｓ., Ｂｅｔｈｇｅ, Ｍ.らによるＡ ｎｅｕｒａｌ ａｌｇｏｒｉｔｈｍ ｏｆ ａｒｔｉｓｔｉｃ ｓｔｙｌｅ（２０１５）および（２）Ｊｏｈｎｓｏｎ, Ｊ., Ａｌａｈｉ, Ａ., Ｌｉ, Ｆ.らによるＰｅｒｃｅｐｔｕａｌ Ｌｏｓｓｅｓ ｆｏｒ Ｒｅａｌ−Ｔｉｍｅ Ｓｔｙｌｅ Ｔｒａｎｓｆｅｒ ａｎｄ Ｓｕｐｅｒ−Ｒｅｓｏｌｕｔｉｏｎ（２０１６）で見つけることができ、これらはその全体が参照により本明細書に組み入れられる。
【００２４】
本明細書に記載の主題の実施形態および動作は、本明細書で開示される構造およびそれらの構造等価物を含むデジタル電子回路、もしくはコンピュータソフトウェア、ファームウェア、もしくはハードウェアにおいて、またはそれらのうち一または二以上の組合せにおいて、実施することができる。本明細書に記載の主題の実施形態は、一または二以上のコンピュータプログラム、すなわち、データ処理装置により実行するためにコンピュータストレージ媒体上でエンコードされた、またはその動作を制御するためのコンピュータプログラム命令の一または二以上のモジュールとして実施することができる。
【００２５】
コンピュータストレージ媒体は、コンピュータ可読ストレージデバイス、コンピュータ可読ストレージ基板、ランダムもしくはシリアルアクセスメモリアレイもしくはデバイス、またはそれらのうち一または二以上の組合せとすることができるか、またはそれに含まれることができる。さらに、コンピュータストレージ媒体は伝搬信号でないものの、コンピュータストレージ媒体は人工的に生成される伝搬信号においてエンコードされるコンピュータプログラム命令の送信元または送信先とすることができる。コンピュータストレージ媒体は一または二以上の別々の物理コンポーネントまたは媒体（例えば、複数のＣＤ、ディスク、または他のストレージデバイス）とすることができるか、またはそれに含まれることもできる。本明細書において説明された動作は一または二以上のコンピュータ可読ストレージデバイスに格納されるかまたは他の送信元から受信されるデータに対してデータ処理装置により実行される動作として実施されることができる。
【００２６】
「プロセッサ」という用語は、例としてプログラム可能なプロセッサ、コンピュータ、システムオンチップ、または前述のものの複数のそれら、もしくは組合せを含む、データを処理するためのあらゆる種類の装置、デバイス、および機械を包含する。装置は専用論理回路、例えば、ＦＰＧＡ（フィールドプログラマブルゲートアレイ）またはＡＳＩＣ（特殊用途集積回路）を含むことができる。装置は、ハードウェアに加えて、問題のコンピュータプログラム用の実行環境を作成するコード、例えば、プロセッサファームウェア、プロトコルスタック、データベース管理システム、オペレーティングシステム、クロスプラットフォームランタイム環境、仮想マシン、またはそれらのうち一または二以上の組合せを構成するコードを含むこともできる。装置および実行環境はウェブサービス、分散コンピューティングおよびグリッドコンピューティングインフラストラクチャ等の、様々な異なるコンピューティングモデルインフラストラクチャを実現することができる。
【００２７】
（プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、またはコードとしても知られる）コンピュータプログラムはコンパイラ型またはインタプリタ型言語、宣言型または手順型言語を含む、任意の形態のプログラミング言語で記述することができ、スタンドアロンプログラム、またはモジュール、コンポーネント、サブルーチン、オブジェクト、もしくはコンピューティング環境における使用に好適な他のユニット、を含む、任意の形態で展開することができる。コンピュータプログラムはファイルシステム内のファイルに対応してもよいが、必須ではない。プログラムは、問題のプログラム専用の単一のファイル内、または複数の調整されたファイル（例えば、一または二以上のモジュール、サブプログラム、もしくはコードの一部を格納するファイル）内の、他のプログラムまたはデータ（例えば、マークアップ言語文書に格納された一または二以上のスクリプト）を保持するファイルの一部に格納することができる。コンピュータプログラムは一つの地点に位置するかまたは複数の地点にわたって分散し、通信ネットワークにより相互接続される一つのコンピュータ上または複数のコンピュータ上で実行されるように展開することができる。
【００２８】
本明細書において説明されたプロセスおよび論理フローは入力データを操作することおよび出力を生成することにより動作を実行するために一または二以上のコンピュータプログラムを実行する一または二以上のプログラム可能なプロセッサにより実行することができる。プロセスおよび論理フローは専用論理回路、例えば、ＦＰＧＡ（フィールドプログラマブルゲートアレイ）またはＡＳＩＣ（特殊用途集積回路）により実行することもでき、装置は専用論理回路として実施することもできる。
【００２９】
一般的に、プロセッサは読取り専用メモリもしくはランダムアクセスメモリまたはその両方から命令およびデータを受信する。コンピュータの本質的な要素は命令に従って動作を実行するためのプロセッサおよび命令およびデータを格納するための一または二以上のメモリデバイスである。一般的に、コンピュータはまた、そこからデータを受信するか、もしくはそこにデータを送信するか、またはその両方を行うための、データを格納するための一または二以上のマスストレージデバイス、例えば、磁気、磁気光学ディスク、または光学ディスクを含むか、または動作可能に結合される。しかしながら、コンピュータはこのようなデバイスを有する必要はない。コンピュータプログラム命令およびデータを格納するのに好適なデバイスは、例として、例えばＥＰＲＯＭ、ＥＥＰＲＯＭ、およびフラッシュメモリデバイス等の半導体メモリデバイス、例えば内蔵ハードディスクまたはリムーバブルディスク等の磁気ディスク、磁気光学ディスク、ならびにＣＤ−ＲＯＭおよびＤＶＤ−ＲＯＭディスクを含む、あらゆる形態の不揮発性メモリ、媒体およびメモリデバイスを含む。プロセッサおよびメモリは専用論理回路により補うか、またはそれに組み入れることができる。
【００３０】
ユーザとの相互作用を提供するために、本明細書において説明される主題の実施形態は、ユーザに情報を表示するためのディスプレイデバイス、例えば、ＬＣＤ（液晶ディスプレイ）、ＬＥＤ（発光ダイオード）、またはＯＥＬＤ（有機発光ダイオード）モニタならびにユーザがコンピュータに入力を提供することのできるキーボードおよびポインティングデバイス、例えば、マウスまたはトラックボールを有するコンピュータ上で実施することができる。いくつかの実施形態では、タッチスクリーンは情報を表示するため、およびユーザからの入力を受信するために使用することができる。ユーザに相互作用を提供するために他の種類のデバイスを使用することもできる。例えば、ユーザに提供されるフィードバックは任意の形態の感覚フィードバック、例えば、視覚フィードバック、聴覚フィードバック、または触覚フィードバックとすることができ、ユーザからの入力は音響、音声、または触覚入力を含む、任意の形態で受信することができる。加えて、コンピュータはユーザにより使用されるデバイスに文書を送信することおよびそこから文書を受信することにより、例えば、ウェブブラウザから受信したリクエストに応答してユーザのクライエントデバイス上のウェブブラウザにウェブページを送信することにより、ユーザと相互作用することができる。
【００３１】
本明細書において説明される主題の実施形態はバックエンドコンポーネント、例えば、データサーバを含むか、もしくはミドルウェアコンポーネント、例えば、アプリケーションサーバを含むか、もしくはフロントエンドコンポーネント、例えば、ユーザがそれを通じて本明細書において説明される主題の実施と相互作用することのできるグラフィックユーザインターフェースもしくはウェブブラウザを有するクライエントコンピュータを含む、コンピューティングシステムで、または一または二以上のこのようなバックエンド、ミドルウェア、もしくはフロントエンドコンポーネントの任意の組合せで、実施することができる。本システムのコンポーネントは任意の形態または媒体のデジタルデータ通信、例えば、通信ネットワークにより相互接続されることができる。通信ネットワークの例は、ローカルエリアネットワーク（「ＬＡＮ」）および広域ネットワーク（「ＷＡＮ」）、相互ネットワーク（例えば、インターネット）およびピアツーピアネットワーク（例えば、アドホックピアツーピアネットワーク）を含む。
【００３２】
上記より、例示の目的のために本明細書において本発明の固有の実施形態が説明されてきたが、本発明の精神および範囲から逸脱することなく様々な修正がなされ得ることを理解されたい。したがって、本発明は添付の特許請求の範囲を除いて制限されない。
【図１】
2021522923.tif 000003
【図２Ａ】
2021522923.tif 000004
【図２Ｂ】
2021522923.tif 000005
【図３】
2021522923.tif 000006
【図４】
2021522923.tif 000007
【国際調査報告】
2021522923.tif 000008
2021522923.tif 000009
2021522923.tif 000010
2021522923.tif 000011
2021522923.tif 000012