(57)【要約】【課題】信号処理遅延を防止して、効率の良い信号処理を可能にする信号処理装置を提供する。【解決手段】複数の信号処理単位要素からなる信号処理をソフトウエア処理により行なう信号処理装置である。信号処理単位要素をソフトウエア処理によりそれぞれ行なう信号処理モジュールの複数個を接続して回路を構成し、その回路構成情報を、回路構成情報格納管理部に保持して管理する。信号処理順序決定手段は、初期経路探索とループ探索とを実行して、回路構成情報格納管理部に格納されている前記複数個の信号処理モジュールのそれぞれの信号処理順序を、ループを構成する信号モジュール群は、信号処理順序としては、局所化して、ひとまとめになるように決定する。信号処理実行手段は、決定された信号処理順序で、前記信号処理モジュールのそれぞれを逐次的に実行させて信号処理を実行する。【選択図】図１
2006268409.tif 000002
【特許請求の範囲】
【請求項１】
複数の信号処理単位要素からなる信号処理を、予め定められたデータサンプル数の処理データ単位で、ソフトウエア信号処理により行なう信号処理装置であって、
前記信号処理単位要素をソフトウエア処理によりそれぞれ行なう信号処理モジュールの複数個と、
前記複数個の信号処理モジュールと、前記複数個の信号処理モジュールの入出力の仮想的な接続状態により表わされる回路構成情報を記憶して管理する回路構成情報格納管理部と、
経路探索を実行して、前記回路構成情報格納管理部に格納されている回路構成情報を構成する前記複数個の信号処理モジュールのそれぞれの信号処理順序を決定する信号処理順序決定手段と、
前記信号処理順序決定手段で決定された信号処理順序で、前記信号処理モジュールのそれぞれを逐次的に実行させて前記信号処理を実行する信号処理実行手段と、
前記信号処理実行手段で前記信号処理を実行中において、回路構成変更要求があるか否かを判別し、前記回路構成変更要求があると判別されたときに、前記処理データ単位での前記ソフトウエア信号処理が終了した後、次の処理データ単位の先頭までの間で、変更後の回路構成情報を前記回路構成情報格納管理部に記憶させると共に、前記信号処理順序決定手段に前記経路探索を再実行させ、変更後の回路構成情報における前記複数個の信号処理モジュールのそれぞれの信号処理順序を決定させるようにする回路構成変更手段と、
を備え、
前記回路構成変更手段で変更された回路構成により、前記次の処理データ単位の先頭から、ソフトウエア信号処理がなされるようにする
ことを特徴とする信号処理装置。
【請求項２】
請求項１に記載の信号処理装置において、
ユーザからの前記信号処理モジュールの生成または削除指示、および前記ユーザからの前記信号処理モジュールの入出力の接続指示を受け付ける指示入力受付手段と、
前記指示入力受付手段で受け付けられた前記ユーザからの指示に応じて複数個の前記信号処理モジュールの入出力の仮想的な接続状態を設定する信号処理モジュール間接続手段と、
を備え、
前記回路構成変更手段は、前記信号処理実行手段で前記信号処理を実行中において、ユーザからの前記信号処理モジュールの生成または削除指示、および／または前記ユーザからの前記複数個の信号処理モジュールの入出力の接続指示を、前記回路構成変更要求と判別する
ことを特徴とする信号処理装置。
【請求項３】
請求項１に記載の信号処理装置において、
前記信号処理実行手段で実行中の回路構成情報とは異なる回路構成情報が、予め用意されており、
前記回路構成変更手段は、前記信号処理実行手段で前記信号処理を実行中において、ユーザからの回路構成の切替指示があったときに、当該切替指示を前記回路構成変更要求と判別し、前記回路構成情報格納管理部の回路構成情報を、前記異なる回路構成情報に変更すると共に、前記信号処理順序決定手段に前記経路探索を再実行させ、変更後の回路構成情報における前記複数個の信号処理モジュールのそれぞれの信号処理順序を決定させるようにする
ことを特徴とする信号処理装置。
【請求項４】
請求項３に記載の信号処理装置において、
前記実行中の回路構成情報とは異なる回路構成情報は、複数個用意されており、前記ユーザからの切替指示には、前記複数個の回路構成情報のうちの、いずれの回路構成情報に切り替えるかの情報を含む
ことを特徴とする信号処理装置。
【請求項５】
請求項１に記載の信号処理装置において、
前記回路構成情報の１または複数個を記憶すると共に、前記記憶する回路構成情報のそれぞれを、信号処理のいずれのタイミングで用いるかの指示情報を記憶する記憶部と、
前記信号処理を実行しながら、前記記憶部に記憶されている前記指示情報を監視し、前記回路構成情報を用いるタイミングになったとき、前記回路構成変更要求を前記用いる回路構成情報を示す情報と共に前記回路構成変更手段に渡す手段と、
を備え、
前記回路構成変更手段は、前記回路構成変更要求を判別したときには、前記処理データ単位での前記ソフトウエア信号処理が終了した後、次の処理データ単位の先頭までの間で、変更後の回路構成情報を前記記憶部から得て、前記回路構成情報格納管理部に記憶させると共に、前記信号処理順序決定手段に前記経路探索を再実行させ、変更後の回路構成情報における前記複数個の信号処理モジュールのそれぞれの信号処理順序を決定させるようにする
ことを特徴とする信号処理装置。
【請求項６】
請求項３または請求項４に記載の信号処理装置において、
前記ユーザからの切替指示は、ユーザのフットスイッチ操作によるものである
ことを特徴とする信号処理装置。
【請求項７】
請求項３または請求項４に記載の信号処理装置において、
前記ユーザからの切替指示は、ユーザの音声によるものである
ことを特徴とする信号処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、複数の信号処理単位要素からなる信号処理をソフトウエア処理により行なう信号処理装置に関する。
【背景技術】
【０００２】
近年の市販のコンピュータは性能が著しく向上し、従来では難しかった動画や音楽のコンピュータ上での再生が可能となってきた。特に、動画や音声の信号処理を行なうアプリケーションに関しては、従来のＤＳＰ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）等の専用信号処理デバイスや専用ハードウエアを用いなくとも、ソフトウエア処理にて、容易にリアルタイム信号処理が可能となってきた。
【０００３】
これらの信号処理アプリケーションを支える技術として、各種の信号処理ミドルウエアが存在している。例えば、Ｍｉｃｒｏｓｏｆｔ（登録商標）社製のＤｉｒｅｃｔＳｈｏｗ（非特許文献１参照）や、Ｔｈｅ  ＭａｔｈＷｏｒｋｓ（登録商標）社製のＭＡＴＬＡＢ（非特許文献２参照）、Ｃｙｃｌｉｎｇ‘７４社製のＭａｘ／ＭＳＰ（非特許文献３参照）などがある。
【０００４】
信号処理アプリケーションは、これらのミドルウエアを利用することにより、高度な機能を比較的容易に実現することができる。例えば、音声について言えば、録音・再生、入出力、ミキシング、特殊効果等が、信号処理アプリケーションにより実現されている。また、動画について言えば、ノンリニア編集等の高度な編集機能を有する信号処理アプリケーションが実現されている。
【０００５】
また、この種のミドルウエアとして、プラグイン構造を有するものも提案されている（特許文献１（特開２００１−１０９６２８公報）および特許文献２（特開平７−３０２１９５号公報）参照）。ここで、プラグインとは、機能をモジュール化したものであり、ソフトウエアアプリケーションである。なお、この明細書では、信号処理を扱うので、プラグインは、信号処理モジュールを構成するソフトウエアアプリケーションのことを指す。
【０００６】
このプラグインを用いることにより、ユーザは、必要なときに必要な信号処理モジュールをアドオンして利用することができる。プラグインは、単体で使われることが多いが、近年、これらのプラグインを複数組み合わせて、複合的な機能を作り出すことのできる新たなシステムがいくつか存在してきている。この複合プラグインシステムは、新たな付加価値を生み出すシステムとして今後の主流となって行くものと予想される。
【０００７】
上記の特許文献は以下の通りである。また、非特許文献は、次に示すアドレスのサイトにおいて説明されている。
【特許文献１】特開２００１−１０９６２８公報
【特許文献２】特開平７−３０２１９５号公報
【非特許文献１】http://msdn.microsoft.com/library/defalt.asp?url=/library/en-us/directx9_c/directX/htm/directshow.asp
【非特許文献２】http://www.mathworks.com/
【非特許文献３】http://www.cycling74.com/products/maxmsp.html
【発明の開示】
【発明が解決しようとする課題】
【０００８】
ところで、信号処理装置において、信号処理を止めず、かつ、信号出力を止めることなく、信号処理装置の回路構成を柔軟かつ任意の回路に変更することができれば非常に便利である。例えば、ライブ演奏等における音声信号処理の場合、音声出力を止めずに回路構成を変更することができれば、リバーブやディストーションなどの音声特殊効果処理を、特定のパートで施したり、あるいは特定のパートでは施さなかったりすることが容易にできるようになる。
【０００９】
ハードウエア構成の信号処理装置において、信号処理を止めずに、回路構成を変更しようとする場合には、想定される全ての回路構成を予め準備しておき、スイッチなどにより回路構成を切り替えるようにすることが考えられる。この場合に、全ての回路構成を予め準備しておく必要があるため、状況に応じて想定外の任意の回路に変更する事は不可能であり自由度が極めて乏しい。また予め全ての回路構成を準備しておく必要があるためコスト高であるという問題がある。
【００１０】
また、ＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｅ  Ｇａｔｅ  Ａｒｒａｙ）のように回路構成情報をダウンロードすることで切り替え可能なハードウエアでも、原理上、回路切り替えに時間を要することや、切り替え前後の回路の整合性が保証されていないことから、回路切り替え時に音切れやノイズが発生してしまう。連続的に音声信号を出力しながら動的に回路構成を切り替えることは極めて困難である。
【００１１】
上述した信号処理モジュールを組み合わせて信号処理装置を構成する場合には、ハードウエア構成とは異なり、ソフトウエアを変更することにより、信号処理回路の回路構成を変更することが可能であるので、ハードウエア構成のスイッチが不要となり、柔軟かつ任意の回路に変更できる上、切り替え時のノイズを原理上、除去することが可能となると考えられる。
【００１２】
しかし、一つ注意すべき点がある。ソフトウエア信号処理の場合には処理負荷を軽減するため、パケット単位での信号処理を行なうことが多い。フィードフォワード型の回路構成であれば、順方向に信号が流れるため、たとえパケット処理の途中であっても、動的に回路構成を切り替えても処理される音声データに何ら不整合は発生しない。
【００１３】
しかしながら、回路構成にフィードバックループが含まれている場合には、パケット処理の途中で回路構成を単純に切り替えると信号処理に不整合が生じてしまう。これはデジタル信号処理理論におけるフォードバックループの因果性というものが起因しているためである。因果性により、フィードバックループ回路は、たとえパケット内であっても、１サンプル単位で逐次的に処理する必要がある。そのため、フィードフォワード型とフィードバックループ型の二つの型が混在した回路構成では、フィードフォワード型の回路はパケット単位で、フィードバックループ型の回路は１サンプル単位で信号処理を行なう必要があり、同一パケット時間内において混在した二つの制御処理を行なう必要がある。
【００１４】
問題となるのは、このような二つの回路型が混在した状況下において、何も考えずに単純に回路を切り替えてしまうと、処理される音声データに不整合が発生してしまうことである。フィードフォワード型の回路とフィードバックループ型の回路では、切り替え可能なタイミングが異なる。このことにより、単純な回路切り替えを行なってしまうと、切り替え前の回路構成において処理された音声データと、切り替え後の回路構成において処理された音声データが同一パケット内に混在してしまうケースがあり、その結果、処理される音声データに不整合が生じ、ノイズ発生等の不具合が生じることがある。
【００１５】
この発明は、上記の問題点にかんがみ、信号処理を止めず、かつ、信号出力を止めることなく、信号処理装置の回路構成を変更することができるようにした信号処理装置を提供することを目的とする。
【課題を解決するための手段】
【００１６】
上記の課題を解決するために、請求項１の発明は、
複数の信号処理単位要素からなる信号処理を、予め定められたデータサンプル数の処理データ単位で、ソフトウエア信号処理により行なう信号処理装置であって、
前記信号処理単位要素をソフトウエア処理によりそれぞれ行なう信号処理モジュールの複数個と、
前記複数個の信号処理モジュールと、前記複数個の信号処理モジュールの入出力の仮想的な接続状態により表わされる回路構成情報を記憶して管理する回路構成情報格納管理部と、
経路探索を実行して、前記回路構成情報格納管理部に格納されている回路構成情報を構成する前記複数個の信号処理モジュールのそれぞれの信号処理順序を決定する信号処理順序決定手段と、
前記信号処理順序決定手段で決定された信号処理順序で、前記信号処理モジュールのそれぞれを逐次的に実行させて前記信号処理を実行する信号処理実行手段と、
前記信号処理実行手段で前記信号処理を実行中において、回路構成変更要求があるか否かを判別し、前記回路構成変更要求があると判別されたときに、前記処理データ単位での前記ソフトウエア信号処理が終了した後、次の処理データ単位の先頭までの間で、変更後の回路構成情報を前記回路構成情報格納管理部に記憶させると共に、前記信号処理順序決定手段に前記経路探索を再実行させ、変更後の回路構成情報における前記複数個の信号処理モジュールのそれぞれの信号処理順序を決定させるようにする回路構成変更手段と、
を備え、
前記回路構成変更手段で変更された回路構成により、前記次の処理データ単位の先頭から、ソフトウエア信号処理がなされる
ことを特徴とする信号処理装置を提供する。
【００１７】
この請求項１の発明によれば、信号処理順序を定めて、複数の信号処理モジュールによるソフトウエア信号処理を逐次的に行なうので、各信号処理モジュールでは、非同期バッファに一旦格納して処理するなどの冗長な処理遅延を防止することができる。
【００１８】
そして、請求項１の発明によれば、信号処理の実行中において、回路構成変更要求があったときには、処理データ単位でのソフトウエア信号処理が終了した後、次の処理データ単位の先頭までの間で、変更後の回路構成情報を回路構成情報格納管理部に記憶させると共に、信号処理順序決定手段を実行して新たな信号処理順序を探索し、信号処理実行手段は、新たな信号処理順序で前記信号処理を実行する。
【００１９】
この場合、回路構成の変更時点は、ある処理データ単位と、次の処理データ単位との間であって、変更後の回路構成による信号処理は、前記次の処理データ単位の先頭から開始されて、処理データ単位の途中とはならないので、処理データ単位の信号においては、変更前の回路構成による処理結果と、変更後の回路構成による処理結果とが混じることはなく、ループを含む回路構成であっても、何ら支障なく信号処理が継続される。
【００２０】
以上のように、請求項１の発明によれば、信号処理動作中であっても、信号出力を止めることなく、回路構成を変更することができ、変更した回路構成により、信号処理動作を継続することができる。
【発明の効果】
【００２１】
この発明によれば、信号処理動作中であっても、回路構成を動的に変更することができる。また、信号処理モジュールを多段に結線しても信号処理遅延が増加しない信号処理装置を実現することができる。さらに、閉ループを含む信号処理であっても、回路構成を動的に変更したときに、不具合の発生を防止することができる。
【発明を実施するための最良の形態】
【００２２】
以下、この発明による信号処理装置の実施形態を、図を参照しながら説明する。以下に説明する実施形態の信号処理装置は、複合プラグインシステムとして構成されるものであるが、従来のこの種のものに比べて優れた特徴を有すものである。
【００２３】
すなわち、現在存在している複合プラグインシステムには、以下のようないくつかの欠点がある。
【００２４】
（ａ）プラグインを多段に結線すると処理遅延（レーテンシー）が比例して増大する。
【００２５】
（ｂ）プラグイン間の結線に制限があり、フィードバックループの結線ができない。
【００２６】
（ｃ）信号処理動作中にプラグイン間の結線状態を変更できない。
【００２７】
（ｄ）処理速度が遅いために多くの機能をリアルタイムで実行する事が難しい。
【００２８】
（ｅ）音声と画像の同期やパラメータの変更においてサンプル精度での制御ができない。
【００２９】
（ｆ）１台のコンピュータ上で閉じた形でしか信号処理できない。
【００３０】
これまで、上記欠点を部分的に解決するミドルウエアはいくつか存在しているが、全ての欠点を同時に解決することができるミドルウエアは存在していない。何故なら、相反する問題（ある一つの問題を解決すると他の問題へ悪影響を与える問題）を含んでいるからである。例えば、上記（ｂ）と（ｄ）を同時に解決することは非常に難しい。
【００３１】
これらの欠点が存在することで、従来のミドルウエアの製品への組み込み利用において致命的な障壁となっているケースも少なくない。
【００３２】
以下に説明する信号処理装置は、上記欠点を解決することができるものとして構成されている。
【００３３】
この発明による信号処理装置の実施形態は、汎用信号処理ミドルウエアであり、以下、このミドルウエアをＳＳＰ（Ｓｏｆｔｗａｒｅ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）と呼ぶ。なお、以下の実施形態の説明においては、信号処理として音声信号処理の場合を例にとる。
【００３４】
ＳＳＰは、図２に示すように、汎用ＯＳ（Ｏｐｅｒａｔｉｎｇ  Ｓｙｓｔｅｍ）と、アプリケーションソフトウエアとの間に位置するもので、アプリケーションは、ＳＳＰを利用することで、容易に高度な信号処理機能を実現することができる。また、ＳＳＰはＧＵＩ（Ｇｒａｐｈｉｃａｌ  Ｕｓｅｒ  Ｉｎｔｅｒｆａｃｅ）を持つことを必要としないミドルウエアであるので、表示装置を持たない組み込み機器用の信号処理エンジン用としても利用することができる。
【００３５】
［実施形態の信号処理装置の概要］
この発明による信号処理装置の実施形態のＳＳＰは、グラフ構造を有するミドルウエアであり、基本的には、一つのコンピュータに実現されるが、後で説明するように、ネットワークを通じて接続された複数台のコンピュータにおいて、実現することもできる。
【００３６】
ＳＳＰとしての実施形態の信号処理装置は、この例においては、ソフトウエアで構成されるグラフモジュール（以下、単にグラフという）と、ソフトウエアで構成されるプラグインモジュール（以下、単にプラグインという）との２大要素により構成されている。
【００３７】
プラグインモジュールは、信号処理の単位要素、例えば、フィルタ、イコライザ、ゲイン制御などを実行する信号処理モジュール（ソフトウエア）である。
【００３８】
プラグインは、この例では、複数の入力ポートおよび複数の出力ポートを有することが可能であり、入力ポートから入力された音声信号に対して、当該プラグイン固有の信号処理を施して、出力ポートから出力する働きを持つ。
【００３９】
プラグインの出力ポートを他のプラグインの入力ポートに接続（ハードウエア的に結線接続されるのではなく、あるプラグインの出力信号が、他のプラグインに入力されることを意味する仮想的な接続状態となること。以下、単に接続と記す）することにより、複数個のプラグインを接続して、複合的な信号処理機能を実現することが可能である。ここで、プラグインは、入力ポートと出力ポートの組み合わせでのみ接続することができ、入力ポート同士や出力ポート同士を接続することはできない。
【００４０】
グラフは、ＳＳＰのシステムとしての役割を担っている部分であり、複数のプラグインを包含する働きを持つ。そして、グラフは、ユーザからの操作入力を受けて、プラグインの生成、削除、ポート間の結線を行ない、その結果の回路構成情報を保持する。したがって、グラフ内部には、プラグインからなる任意の回路を構成することができる。
【００４１】
そして、グラフは、当該グラフの信号処理関数がコールされると、自分が受け取った時刻情報付の音声データを内包するプラグインに順次渡してゆく。プラグインに音声データや付随情報の入出力を行なうのもグラフの役割である。
【００４２】
また、グラフは、プラグインの性質を持っている。このため、グラフは、プラグインと同様に、入出力ポートを持ち、他のプラグインと相互に接続することもできる。そして、グラフは複数のプラグインを包含できるため、グラフを作成することにより、複数のプラグインからなる回路ブロック（グラフ）を一つのプラグインとして扱うことができる。この場合のプラグインとして扱われるグラフは、複数の回路をまとめて一つの部品として扱うことができる働きを持つことになる。
【００４３】
［グラフの例］
図３に、内部に複数個のプラグインを包含するグラフの一例を示す。なお、実施形態の信号処理装置では、パーソナルコンピュータで構成することができ、ユーザの入出力を受け付けて、このパーソナルコンピュータの表示部に、ユーザ指示に応じて、グラフやプラグイン、それらの接続状態をグラフィック表示することできるようにされている。
【００４４】
この図３の例では、ユーザは、先ず、最初に基本となるルートグラフ２００を作ってから、このグラフ２００内に、複数のプラグイン２０１〜２０４からなる回路を作成するようにする。プラグイン２０１〜２０４のそれぞれは、予め、パーソナルコンピュータに格納されているのを選択して用いることができる。ここで言う格納状態とはオブジェクト指向におけるクラスというテンプレート状態であり、まだ実際のオブジェクトは生成されていない状態を指す。
【００４５】
ユーザは、例えば、プラグイン２０１〜２０４のそれぞれを、パーソナルコンピュータの格納部に格納されているプラグインから選択して、グラフ２００内に動的に生成（設置）する。ここで初めてオブジェクト指向におけるオブジェクトが生成される。そして、ユーザは、プラグイン２０１〜２０４の出力ポートと入力ポートとの結線、また、グラフ２００と、プラグイン２０１、２０４との結線などの指示をして、図３に示すような回路を構成する。
【００４６】
グラフ２００は、内部のプラグイン２０１〜２０４の回路構成情報を保持する。そして、ユーザが、ルートグラフ２００の信号処理関数を一回コールするだけで、ルートグラフの信号処理関数内から、順に、内包するプラグインの信号処理関数が再帰的にコールされ、信号処理に関する計算処理が逐次に行なわれてゆく。この再帰的な信号処理関数コールの伝播が、ＳＳＰシステムそのものである。
【００４７】
図４は、内部に複数個のプラグインを包含するグラフの他の例を示す。前述したように、グラフは、プラグインでもある。したがって、グラフは、内部にグラフ以外のプラグインと、グラフ自身（子グラフ）を含むことができる再帰的な構造をとることができる。また、他のプラグインと同様に入出力ポートも持っている。グラフの内部は、グラフ外から見るとブラックボックスになっている。グラフ内部には、複数のプラグインからなる回路ブロックが形成されている。
【００４８】
図４において、グラフ４００が親グラフである。この親グラフ４００の内部に、子グラフのグラフ４０１とプラグイン４０５を保持している。さらに、子グラフ４０１は内部にプラグイン４０２、プラグイン４０３、プラグイン４０４を保持している。親グラフ４００からは、子グラフ４０１内部のプラグイン４０２、プラグイン４０３、プラグイン４０４は見えずに、子グラフ４０１が一つのプラグインとして見える。
【００４９】
ユーザは、まず、最初に、ルートとなるルートグラフ（親グラフ４００）を一つ作る。ユーザは、このルートグラフ４００のプラグイン生成削除関数を呼び出すことで、ルートグラフ内部に子グラフ４０１やプラグイン４０５を生成することができる。
【００５０】
さらに、ユーザは、子グラフ４０１のプラグイン生成削除関数を呼び出すことで、同様に、プラグイン４０２、プラグイン４０３、プラグイン４０４を生成することができる。
【００５１】
信号処理実行を行なうには、ユーザは、まず、このルートグラフ４００の信号処理関数をコールする。すると、ルートグラフ４００の信号処理関数内から順に内包するプラグインとしての子グラフ４０１、プラグイン４０５の信号処理関数が再帰的にコールされ、計算処理が逐次行なわれていく。この再帰的な信号処理関数コールの順番を決定するのもグラフの機能である。
【００５２】
子グラフ４０１では、この子グラフ４０１の信号処理関数が最初にコールされる。そして、当該子グラフ４０１の信号処理関数内から、順に内包するプラグイン４０２，４０３，４０４の信号処理関数が再帰的にコールされ、計算処理が逐次行なわれていく。
【００５３】
ＳＳＰシステムとは、以上のようなグラフの働きそのものである。プラグインの生成削除処理、プラグイン間の結線処理、プラグイン間のデータの受け渡し処理、プラグインに対する時刻情報・音声情報と映像情報との同期付与処理、各プラグインの信号処理関数の逐次的な呼び出しとその呼び出し順の決定など、システムに必要な機能をこのグラフというプラグイン自身が処理している。
【００５４】
以下の説明において、システムという語を用いる場合における当該「システム」という語は、グラフそのもの、およびグラフが有する機能のことを指す。
【００５５】
図５は、実装例としてのＳＳＰミドルウエアの全体構造を示すＵＭＬ（Ｕｎｉｆｉｅｄ  Ｍｏｄｅｌｉｎｇ  Ｌａｎｇｕａｇｅ）クラス図である。オブジェクト指向で表現しており、クラスとインターフェース（ＡＰＩ（Ａｐｐｌｉｃａｔｉｏｎ  Ｐｒｏｇｒａｍｍｉｎｇ  Ｉｎｔｅｒｆａｃｅ））が定義されている。
【００５６】
プラグインクラス（ＣＰｌｕｇｉｎ）は、プラグインインインターフェース（ＩＰｌｕｇｉｎ）を継承しており、プラグイン固有のインターフェースを実装するものである。プラグインクラスは、複数の入力ポートクラス（ＣＩｎｐｕｔＰｏｒｔ）および出力ポートクラス（ＣＯｕｔｐｕｔＰｏｒｔ）を保持している。
【００５７】
また、プラグインクラスは、その働きに応じて複数の種類が存在している。例を挙げると、例えば足し算を行なうプラグインクラスは、アダープラグイン（Ａｄｄｅｒ  Ｐｌｕｇｉｎ）クラスであり、掛け算を行なうプラグインクラスは、マルチプライヤープラグイン（Ｍｕｌｔｉｐｌｉｅｒ Ｐｌｕｇｉｎ）クラスである。これらのクラスは、自作プラグイン（ＣＭｙＰｌｕｇｉｎ）クラスとして分類される。自作プラグインクラスは、プラグインクラスを継承している。この例のミドルウエアユーザは、プラグインテンプレートを使用することにより、容易に自作プラグインを作成することができる。
【００５８】
次に、グラフクラスについて説明する。グラフクラス（ＣＧｒａｐｈ）は、複数のプＲグインクラスを包含するものである。グラフクラスもプラグインクラス同様、プラグインインターフェース（Ｐｌｕｇｉｎ Ｉｎｔｅｒｆａｃｅ（ＩＰｌｕｇｉｎ））を継承しており、グラフクラス自身もプラグインクラスの一つである。
【００５９】
そのため、グラフ内部に更に別のグラフ、プラグインを包含するという再帰的な階層構造を構成することができる。これは、一般的なオブジェクト指向設計手法である「デザインパターン」のコンポジットパターン（Ｃｏｍｐｏｓｉｔｅ Ｐａｔｔｅｒｎ）と呼ばれる構造に相当する。
【００６０】
さらに、グラフはプラグインの性質も兼ね備えているため、他のプラグイン同様、入出力ポートを持ち、他のプラグインと相互に結線することができる。グラフオブジェクトを作成することにより、複数のプラグインオブジェクトからなる回路ブロックを一つの部品オブジェクトとして扱うことができる。
【００６１】
グラフクラス、プラグインクラスともに、インターフェース（ＡＰＩ）が定義されており、ＳＳＰミドルウエアのクライアントとなるアプリケーションからは、このＡＰＩをコールすることにより、このオブジェクトを制御することができる。ユーザがＳＳＰシステムに対して行なう操作とは、この２つのオブジェクトに対する操作のことである。
【００６２】
［プラグインの構成について］
図６は、プラグインの構成の一例を示す図である。前述もしたように、プラグインは、ソフトウエア信号処理モジュールであるので、この図６の構成の各部は、ハードウエアとして備えるのではなく、ソフトウエアの機能として備えるものである。
【００６３】
図６に示すように、プラグイン６００は、信号処理部６０１を備えると共に、０個以上の入力ポート６０２と、０個以上の出力ポート６０３とを持つことが可能であり、この入力ポート６０２および出力ポート６０３を通して、他のプラグインと信号のやり取り、この例では音声データのやり取りをすることができる。この例においては、１ポート当たり1チャンネル分の音声信号を入出力する。
【００６４】
プラグイン６００に対して入力ポート６０２および出力ポート６０３の追加・削除を、ユーザが指示することで、プラグイン６００が持つ入力ポート６０２および出力ポート６０３の数を信号処理中でも動的に変更することができるように構成されている。入力ポート６０２および出力ポート６０３には、追加した順番により０〜Ｎ（Ｎは任意の自然数）および０〜Ｍ（Ｍは任意の自然数）の識別番号が与えられ、ユーザは、この識別番号により、入力ポート６０２の一つおよび出力ポート６０３の一つを指定することができる。
【００６５】
また、プラグイン６００は、内部に０個以上のパラメータ保持部（パラメータバッファ）６０４を備え、当該パラメータ保持部６０４に０個以上のパラメータを持つことが可能である。ここで、パラメータとは、信号処理における効果の量などを設定する可変値のことであり、ユーザにより入力設定される。例えば、プラグイン６００がアンプの場合を例に取ると、増幅ゲイン値などがそれに相当する。プラグイン６００を使用するユーザは、プラグイン６００のパラメータ値を変更することにより、信号処理の効果を変えることができる。
【００６６】
この例では、パラメータには、０〜Ｋ（Ｋは任意の自然数）の識別番号が割り当てられている。ユーザは、任意のパラメータの識別番号を指定することにより、任意のタイミングでパラメータバッファの内容を変更することができる。プラグイン６００の機構として、ユーザから与えられたパラメータは、一旦、プラグイン６００内部のパラメータバッファ６０４に保持される。そして、システム（グラフのこと）から与えられるサンプルデータに同期した時刻情報に基づいてパラメータが読み出されて、信号処理部６０１に送られて、その信号処理に用いられる。
【００６７】
また、プラグイン６００には、時刻情報のレジスタ部６０５を備え、このレジスタ部６０５には、ＳＳＰシステム(グラフのことである)から、常に、時刻情報が入力されている。この時刻情報とは、ＳＳＰシステムを開始した時点（グラフの信号処理関数を開始した時点）を起点とする音声入出力データサンプルの積算カウント数である。この積算カウント数がＳＳＰシステムで最も基本となる時刻情報である。
【００６８】
この実施形態のＳＳＰシステムでは、時刻情報と音声入出力データは完全に同期している。すなわち、ＳＳＰシステムは、プラグイン６００に対して音声データと同時に時刻情報を与える。したがって、時刻情報は、プラグイン６００に入力される音声データのデータサンプルのタイムスタンプの役割を果たしている。このため、プラグイン６００自身は、これから信号処理の対象となる入力データが、絶対時刻で何サンプル目かという詳細な時刻情報を知ることができる。ＳＳＰシステム内に存在する全てのプラグインは、この絶対時刻を参照して同期しているため、ＳＳＰシステム内の回路全体として、サンプル精度の同期信号処理を実現することができる。
【００６９】
プラグイン６００は、内部に信号処理部６０１を持っている。他のプラグインから入力された音声データは、入力ポート６０２を通じて信号処理部６０１へ送られる。信号処理部６０１では、入力ポート６０２から得た音声データに対して、時刻情報や信号処理部６０１へ送られてきたパラメータ値を参照しながら、そのプラグイン固有の信号処理を施す。信号処理部６０１で処理された音声データは、出力ポート６０３を経て他のプラグインへ送信される。
【００７０】
プラグイン６００での信号処理は、時刻情報に同期することにより、１サンプル単位だけではなく、複数サンプル単位、例えば複数サンプルからなるパケット単位で行なうことができる。プラグインでは、処理データ単位毎に、信号処理関数のコールを行なう。したがって、パケット単位で信号処理をする場合には、信号処理関数のコールが１パケットで一回となり、関数コールが少なくなる分だけ、信号処理速度が速くなる。
【００７１】
また、この実施形態では、音声データと共に映像データを処理する場合において、音声データの処理を、映像データの映像フレームに同期（以下、ＡＶ同期と言う）させることができるようにされている。このＡＶ同期処理については、後で詳述するが、音声データの処理を、映像データの映像フレームに同期させるようにする場合には、システムから、時刻情報と共に、映像データの垂直同期情報Ｖｓをプラグイン６００に送るようにする。
【００７２】
そして、プラグイン６００では、システムからの時刻情報に同期する垂直同期情報Ｖｓをチェックして、垂直同期情報Ｖｓのタイミングであると判別したときに、映像と音声とで同期を取ってする処理、例えば、パラメータバッファ６０４から信号処理部６０１に送るパラメータの変更処理を、この垂直同期情報Ｖｓのタイミングに同期して行なう。この仕組みにより、グラフ内に構成された回路内の全てのプラグインの全てのパラメータが、垂直同期情報Ｖｓに同期して同時に更新され、ＡＶ同期が取られる。
【００７３】
［グラフの構成例］
図７は、グラフの一例を示す構成図である。前述もしたように、グラフは、ソフトウエア処理モジュールであるので、この図７におけるグラフ７００の構成の各部は、ハードウエアとして備えるのではなく、ソフトウエアの機能として備えるものである。
【００７４】
前述したように、グラフはプラグインとしての性質をも有するものであり、信号処理部７０１と、入力ポート７０２と、出力ポート７０３と、パラメータバッファ７０４と、時刻情報のレジスタ部７０５とを備えている。信号処理部７０１は、当該グラフ内に包含されるプラグインを読み出す処理を行なうものである。入力ポート７０２と、出力ポート７０３と、パラメータバッファ７０４と、時刻情報のレジスタ部７０５の機能は、図６を用いて説明したプラグイン６００の、対応する部位と同様であるので、ここでは、その説明は省略する。なお、パラメータバッファ７０４のパラメータは、グラフ７００に対するパラメータであることは言うまでもない。
【００７５】
次に、グラフ特有の機能について説明する。
【００７６】
グラフ７００は、内部にプラグイン生成・保持部７０６を備えている。グラフ７００は、０個以上のプラグインを内部に包含することができる。ユーザは、グラフに対してプラグインの追加・削除を指示することで、信号処理中でも動的にプラグインの生成・削除することができる。信号処理中の動的なプラグインの生成・削除については後で、詳述する。
【００７７】
グラフ７００においては、生成したプラグインには追加した順番により０〜Ｊ（Ｊは任意の自然数）の識別番号が与えられる。このため、ユーザは、この識別番号によりプラグインを識別することができる。但し、グラフ７００は、プラグイン生成・保持部７０６には、この識別番号の順番でプラグインを保持しているわけではない。グラフ７００内のプラグインは、後述する逐次計算順序の順番にソートされた状態で、プラグイン生成・保持部７０６に保持している。
【００７８】
ユーザは、グラフ７００に対して、当該グラフ７００が内包するプラグイン間の結線も指示することができる。任意のプラグインの出力ポートと任意のプラグインの入力ポートの結線状態を、信号処理中でも動的に変更することが可能である。これらは、ユーザがグラフ７００に対してプラグインの識別番号とポートの識別番号とを指定することで実行することができる。グラフ７００は、ユーザからの結線変更指示により、プラグインの結線状態を変更する処理を行なう。
【００７９】
ユーザは、グラフ７００に対して、信号処理の開始を指示する。ユーザが、グラフ７００の信号処理関数をコールすると、グラフ７００の信号処理関数内から順に、当該グラフ７００が内包するプラグインの信号処理関数が再帰的にコールされる。信号処理関数がコールされると、プラグイン生成・保持部７０６に、逐次計算順序の順番にソートされた状態で保持されている、グラフ７００が内包するグラフやプラグインの信号処理部が、前記逐次計算順序に従って、順次、実行処理される。グラフ７００が内包するグラフやプラグインの計算処理が逐次的に行なわれていくことで、グラフ７００内に構成された回路全体の複合的な信号処理が実現される。この逐次計算順序は、プラグイン間の結線構造により、システム(グラフ７００)が決定する。
【００８０】
ユーザの指示によりプラグインの追加・削除・入力ポート・出力ポートの結線状態の変更など、回路状態に変更がある場合、グラフ７００は、後述するような経路探索を実行することにより、自己が内包するプラグインおよび子グラフについて最適な逐次計算順序を自動的に求める。子グラフが内包するプラグインについての最適な逐次計算順序は、当該子グラフが、経路探索を実行することにより自動的に求める。
【００８１】
上記のグラフで行なわれる経路探索の結果、プラグイン生成・保持部７０６のプラグイン群（プラグインとしての子グラフを含む）は、この最適な逐次計算順序の順番でソートされた状態で保持されている。グラフが備える経路探索のアルゴリズムについては、後で詳細に説明する。
【００８２】
［グラフの機能ブロック図］
図１は、グラフが備える機能をブロック化して示したグラフの構成の機能ブロック図である。すなわち、グラフは、指示入力受付機能部１と、プラグイン生成削除機能部２と、プラグイン間結線処理機能部３と、回路構成情報格納管理機能部４と、経路探索機能部５と、信号処理順序管理機能部６と、信号処理実行機能部７と、信号処理関数格納部８と、回路構成変更機能部９とを備える。
【００８３】
指示入力受付機能部１は、ユーザからのプラグイン生成あるいは削除指示、入出力ポートの結線指示、パラメータ入力指示などを受け付け、プラグイン生成あるいは削除指示は、プラグイン生成削除機能部２に渡し、入出力ポートの結線指示は、プラグイン間結線処理機能部３に渡す。また、プラグイン生成あるいは削除指示、また、入出力ポートの結線指示があると、指示入力受付機能部１は、経路探索機能部５を起動させて、経路探索を実行させるようにする。また、指示入力受付機能部１は、パラメータ入力指示を受け付けたときには、パラメータバッファに入力されたパラメータを保持する機能を備えている。
【００８４】
プラグイン生成削除機能部２は、指示入力受付機能部１からのプラグイン生成あるいは削除指示を受けて、プラグインの生成あるいは削除処理を行なう。すなわち、プラグイン生成時には、生成されたプラグインに識別番号を付与し、回路構成情報格納管理機能部４に、当該識別番号を含むプラグインの生成情報を渡す。また、プラグイン削除時には、削除されたプラグインの識別番号と、その削除依頼とを含む削除情報を回路構成情報格納管理機能部４に渡す。
【００８５】
プラグイン間結線処理機能部３は、指示入力受付機能部１からのプラグイン間の結線指示を受けて、当該結線指示により指定されたプラグインの出力ポートと入力ポートとの結線情報を回路構成情報格納管理機能部４に渡す。
【００８６】
回路構成情報格納管理機能部４は、プラグイン生成削除機能部２やプラグイン間結線処理機能部３からのプラグインの生成情報、削除情報、結線情報から、グラフ内に構成される回路情報を記憶し、管理する。
【００８７】
経路探索機能部５は、指示入力受付機能部１からの、プラグイン生成あるいは削除指示、また、入出力ポートの結線指示に基づく起動依頼を受けて、後述する経路探索のアルゴリズムを、起動して実行する。この経路探索のアルゴリズムの実行の結果、定められたプラグインの逐次計算順序（信号処理順序）の情報を、信号処理順序管理機能部６に送る。
【００８８】
信号処理順序管理機能部６は、前述したように、プラグイン生成・保持部に、当該信号処理順序の順番でプラグインの識別情報を並べて保持するようにする。
【００８９】
信号処理実行機能部７は、図１に示すように、データ受け渡し処理部７１と、信号処理関数呼出部７２と、信号処理時刻管理部７３と、信号処理同期管理部７４とを備えている。
【００９０】
信号処理実行機能部７は、指示入力受付機能部１を通じて入力される信号処理開始指示に基づいて、グラフ内に構成された回路による信号処理を開始する。ユーザが、グラフ７００の信号処理関数のコールを指示すると、信号処理関数呼出部７２が、信号処理関数格納部８から指示されたグラフの信号処理関数を読み出す。信号処理関数呼出部７２は、グラフの信号処理関数は、ユーザ指示により読み出しを行なうが、グラフ内の各プラグインの信号処理関数は、前記グラフの信号処理関数内から順に、それぞれのプラグインの信号処理関数を再帰的に呼び出す。
【００９１】
そして、信号処理実行機能部７のデータ受け渡し処理部７１は、回路構成情報格納管理機能部４の格納回路情報を参照し、回路構成に従って、この例では、音声データを順次に処理データ単位毎（例えば、１サンプル単位あるいは１パケット単位）でプラグインに渡してゆくようにする。
【００９２】
信号処理時刻管理部７３は、このデータ受け渡し処理部７１によるデータサンプル単位の時刻を管理する。信号処理同期管理部７４は、パケット単位の信号処理時のパケット同期処理（例えばパケットの先頭の管理）や、前述した音声データの処理タイミングを、映像データのフレームに同期させるＡＶ同期などを管理する。
【００９３】
回路構成変更機能部９は、信号処理実行機能部７において信号処理を実行中において、指示入力受付機能部１を通じたユーザ操作に基づく回路構成変更要求を検出し、回路構成変更要求があったときには、ある処理データ単位の信号処理終了時点から、次の処理データ単位の信号の先頭までの間において、変更後の回路構成情報を、回路構成情報格納管理機能部４に書き込んで、回路構成情報を変更後のものに更新すると共に、経路探索機能部５および信号処理順序管理機能部６を起動する。
【００９４】
経路探索機能部５は、信号処理実行機能部７による信号処理中であっても、回路構成変更機能部９からのグラフ内の回路構成の変更要求指示および指示入力受付部１からの、プラグイン生成あるいは削除指示、また、入出力ポートの結線指示に基づく起動依頼を受けて、後述する経路探索のアルゴリズムを起動し、変更された回路構成についての経路探索を実行し、その探索結果を回路構成情報格納管理機能部４および信号処理順序管理機能６に伝える。これにより、信号処理実行機能部７は、その後は、変更された回路構成において、変更後の経路探索結果に基づいた信号処理順序で信号処理が実行される。
【００９５】
この実施形態では、回路構成変更機能部９は、信号処理実行機能部７により信号処理の実行中における指示入力受付機能部１を通じたユーザからのプラグイン生成あるいは削除指示、また、入出力ポートの結線指示を、回路構成変更要求として検出する。この回路構成変更要求に対応して実行される回路変更処理については、後述する。
【００９６】
［グラフ構造を有する回路作成処理］
次に、この発明の実施形態による信号処理回路の作成処理の流れを、図８の回路構成をグラフ内に作成する場合を例にとって説明する。以下の説明においては、グラフやプラグインを総称してオブジェクトと呼ぶ。オブジェクトとは、オブジェクト指向におけるインスタンスを指し、グラフやプラグインの実体そのものである。
【００９７】
オブジェクト生成時の各グラフや各プラグインのデフォルト入出力ポート数（初期値）は下記の通りである。なお、ユーザは、オブジェクト生成後に入力ポートおよび／または出力ポートを追加又は削除することが可能である。
【００９８】
親グラフ８００：入力ポート数０、出力ポート数０
プラグイン８０１：入力ポート数０、出力ポート数１
プラグイン８０２：入力ポート数１、出力ポート数０
子グラフ８０３：入力ポート数１、出力ポート数１
プラグイン８０４：入力ポート数１、出力ポート数１
プラグイン８０５：入力ポート数２、出力ポート数２
プラグイン８０６：入力ポート数１、出力ポート数１
なお、以下の説明において、入力ポートおよび出力ポートの後の数字は、ポート番号であり、０，１，２が用いられている。
【００９９】
［回路作成手順］
次に、図８の回路の作成手順を、図９〜図１２のフローチャートを参照しながら説明する。なお、図９〜図１２は、説明の理解を容易にするため、ユーザの指示と、実施形態の信号処理装置における処理とを対応させて示したものである。図示は、省略したが、実施形態の信号処理装置は、表示画面に、ユーザの指示入力に応じた表示を行なってゆくものであり、ユーザは、その表示画面を見ながら操作入力をすることができるものである。
【０１００】
先ず、ユーザは、グラフ８００（親グラフ）のオブジェクトの作成指示をする（ユーザ指示（１））。すると、信号処理装置では、ルートオブジェクトとして、親グラフ８００を生成して、登録する（ステップＳ１０１）。
【０１０１】
次に、ユーザは、グラフ８００のオブジェクトに対してプラグイン８０１オブジェクトの作成を指示する（ユーザ指示（２））。すると、信号処理装置では、作成されたグラフ８００のプラグイン生成削除機能により、グラフ８００内にプラグイン８０１が生成されて登録される（ステップＳ１０２）。グラフ８００内の経路探索機能部は、このプラグインの生成指示に基づいて、経路探索を実行する（ステップＳ１０３）。
【０１０２】
次に、ユーザは、グラフ８００のオブジェクトに対してプラグイン８０２オブジェクトの作成を指示する（ユーザ指示（３））。すると、信号処理装置では、グラフ８００のプラグイン生成削除機能により、グラフ８００内にプラグイン８０２が生成されて登録される（ステップＳ１０４）。グラフ８００内の経路探索機能部は、このプラグインの生成指示に基づいて、経路探索を実行する（ステップＳ１０５）。
【０１０３】
次に、ユーザは、グラフ８００のオブジェクトに対してグラフ８０３オブジェクト（子グラフ）の作成を指示する（ユーザ指示（４））。すると、グラフ８００では、プラグイン生成削除機能により、グラフ８００内に子グラフ８０３をプラグインとして生成して登録する（ステップＳ１０６）。グラフ８００内の経路探索機能部は、このプラグインの生成指示に基づいて、経路探索を実行する（ステップＳ１０７）。
【０１０４】
次に、ユーザは、グラフ８０３のオブジェクトに対して入力ポート０（外）の作成を指示する（ユーザ指示（５））。すると、信号処理装置では、生成された子グラフ８０３の機能として、入力ポート０（外）が生成され、子グラフ８０３内に登録される（ステップＳ１１１）。そして、子グラフ８０３では、入力ポート０（外）に対応する内部の出力ポート０（内）を自動的に生成する（ステップＳ１１２）。そして、子グラフ８０３内の経路探索機能部は、このポート作成指示に基づいて、経路探索を実行する（ステップＳ１１３）。
【０１０５】
次に、ユーザは、子グラフ８０３のオブジェクトに対して、出力ポート０（外）の作成を指示する（ユーザ指示（６））。すると、信号処理装置では、生成された子グラフ８０３の機能として、出力ポート０（外）が生成され、子グラフ８０３内に登録される（ステップＳ１１４）。そして、子グラフ８０３では、出力ポート０（外）に対応する内部の入力ポート０（内）を自動的に生成する（ステップＳ１１５）。そして、子グラフ８０３内の経路探索機能部は、このポート作成指示に基づいて、経路探索を実行する（ステップＳ１１６）。
【０１０６】
次に、ユーザは、子グラフ８０３のオブジェクトに対して、プラグイン８０４オブジェクトの作成を指示する（ユーザ指示（７））。すると、子グラフ８０３のプラグイン生成削除機能により、子グラフ８０３内にプラグイン８０４が生成されて登録される（ステップＳ１１７）。子グラフ８０３内の経路探索機能部は、このプラグインの生成指示に基づいて、経路探索を実行する（ステップＳ１１８）。
【０１０７】
次に、ユーザは、子グラフ８０３のオブジェクトに対して、プラグイン８０５オブジェクトの作成を指示する（ユーザ指示（８））。すると、子グラフ８０３のプラグイン生成削除機能により、子グラフ８０３内にプラグイン８０５が生成されて登録される（ステップＳ１１９）。子グラフ８０３内の経路探索機能部は、このプラグインの生成指示に基づいて、経路探索を実行する（ステップＳ１２０）。
【０１０８】
次に、ユーザは、子グラフ８０３のオブジェクトに対して、プラグイン８０６オブジェクトの作成を指示する（ユーザ指示（９））。すると、子グラフ８０３のプラグイン生成削除機能により、子グラフ８０３内にプラグイン８０６が生成されて登録される（ステップＳ１３１）。子グラフ８０３内の経路探索機能部は、このプラグインの生成指示に基づいて、経路探索を実行する（ステップＳ１３２）。
【０１０９】
次に、ユーザは、グラフ８００のオブジェクトに対して、プラグイン８０１の出力ポート０と子グラフ８０３の入力ポート０（外）の結線を指示する（ユーザ指示（１０））。すると、グラフ８００では、プラグイン間接続処理機能部により、プラグイン８０１の出力ポート０と、子グラフ８０３の入力ポート０（外）とを結線して、当該グラフ８００内に登録する（ステップＳ１３３）。グラフ８００内の経路探索機能部は、ポート接続指示に基づいて、経路探索を実行する（ステップＳ１３４）。
【０１１０】
次に、ユーザは、グラフ８００のオブジェクトに対して、子グラフ８０３の出力ポート０（外）とプラグイン８０２の入力ポート０の結線を指示する（ユーザ指示（１１））。すると、グラフ８００では、プラグイン間接続処理機能部により、子グラフ８０３の出力ポート０（外）と、プラグイン８０２の入力ポート０とを結線して、当該グラフ８００内に登録する（ステップＳ１３５）。グラフ８００内の経路探索機能部は、ポート接続指示に基づいて、経路探索を実行する（ステップＳ１３６）。
【０１１１】
次に、ユーザは、子グラフ８０３のオブジェクトに対して、子グラフ８０３の内部の出力ポート０（内）とプラグイン８０４の入力ポート０との結線を指示する（ユーザ指示（１２））。すると、子グラフ８０３では、プラグイン間接続処理機能部により、子グラフ８０３の内部の出力ポート０（内）と、プラグイン８０４の入力ポート０とを結線して、当該子グラフ８０３内に登録する（ステップＳ１３７）。子グラフ８０３内の経路探索機能部は、ポート接続指示に基づいて、経路探索を実行する（ステップＳ１３８）。
【０１１２】
次に、ユーザは、子グラフ８０３のオブジェクトに対して、プラグイン８０４の出力ポート０とプラグイン８０５の入力ポート０との結線を指示する（ユーザ指示（１３））。すると、子グラフ８０３では、プラグイン間接続処理機能部により、プラグイン８０４の出力ポート０とプラグイン８０５の入力ポート０とを結線して、当該子グラフ８０３内に登録する（ステップＳ１４１）。子グラフ８０３内の経路探索機能部は、ポート接続指示に基づいて、経路探索を実行する（ステップＳ１４２）。
【０１１３】
次に、ユーザは、子グラフ８０３のオブジェクトに対して、プラグイン８０５の出力ポート１とプラグイン８０６の入力ポート０との結線を指示する（ユーザ指示（１４））。すると、子グラフ８０３では、プラグイン間接続処理機能部により、プラグイン８０５の出力ポート１とプラグイン８０６の入力ポート０とを結線して、当該子グラフ８０３内に登録する（ステップＳ１４３）。子グラフ８０３内の経路探索機能部は、ポート接続指示に基づいて、経路探索を実行する（ステップＳ１４４）。
【０１１４】
次に、ユーザは、子グラフ８０３のオブジェクトに対して、プラグイン８０６の出力ポート０とプラグイン８０５の入力ポート１との結線を指示する（ユーザ指示（１５））。すると、子グラフ８０３では、プラグイン間接続処理機能部により、プラグイン８０６の出力ポート０とプラグイン８０５の入力ポート１とを結線して、当該子グラフ８０３内に登録する（ステップＳ１４５）。子グラフ８０３内の経路探索機能部は、ポート接続指示に基づいて、経路探索を実行する（ステップＳ１４６）。
【０１１５】
最後に、ユーザは、子グラフ８０３のオブジェクトに対して、プラグイン８０５の出力ポート０と子グラフ８０３の内部の入力ポート０（内）との結線を指示する（ユーザ指示（１６））。すると、子グラフ８０３では、プラグイン間接続処理機能部により、プラグイン８０５の出力ポート０と子グラフ８０３の内部の入力ポート０（内）とを結線して、当該子グラフ８０３内に登録する（ステップＳ１４７）。子グラフ８０３内の経路探索機能部は、ポート接続指示に基づいて、経路探索を実行する（ステップＳ１４８）。
【０１１６】
以上の手順により、図８の回路が、グラフ８００内に構成される。そして、ユーザが、グラフ８００に対して、信号処理開始の指示をすると、前述したようにして、経路探索により定められた信号処理順序に従って、各プラグインでの信号処理が逐次実行される。
【０１１７】
上述したように、この実施形態の信号処理装置においては、ユーザの、上述の例の場合の合計１６手順は、グラフオブジェクトに対する操作であるので、当該操作の度に回路のグラフ構造が変化するため、各手順毎に経路探索アルゴリズムが、システム（グラフ）により自動的に実行される。そして、回路構成の生成処理が完了したときには、経路探索も完了して、信号処理順序も定まった状態となる。
【０１１８】
次に、図８の例で作成した回路の信号処理実行の流れを説明する。
【０１１９】
グラフ８００内のプラグイン生成・保持部には、経路探索アルゴリズムにより、最適な逐次計算順序でソートされた状態でプラグインが保持されている。図８の例において、既に最適な順番でプラグインが保持されているものと仮定して、以下に信号処理実行の流れを説明する。
【０１２０】
（１） ユーザは、先ず、グラフ８００に対して信号処理の開始を指示する。
【０１２１】
（２） すると、グラフ８００の信号処理関数が実行される。
【０１２２】
（３）次に、グラフ８００の信号処理関数内からプラグイン８０１の信号処理関数が実行される。
【０１２３】
（４）次に、グラフ８００の信号処理関数内から子グラフ８０３の信号処理関数が実行される。
【０１２４】
（４−１）次に、子グラフ８０３の信号処理関数内からプラグイン８０６の信号処理関数が実行される。
【０１２５】
（４−２）次に、子グラフ８０３の信号処理関数内からプラグイン８０４の信号処理関数が実行される。
【０１２６】
（４−３）次に、子グラフ８０３の信号処理関数内からプラグイン８０５の信号処理関数が実行される。
【０１２７】
（５）次に、グラフ８００の信号処理関数内からプラグイン８０２の信号処理関数が実行される。
【０１２８】
上記の手順において、最初のグラフ８００に対する信号処理の開始指示の手順（１）のみが、ユーザの指示によるものであり、その後の手順（２）〜（５）は、グラフ８００および子グラフ８０３により自動的に実行されるものである。
【０１２９】
なお、各プラグインの信号処理関数内では、下記の動作が行なわれる。  
（１）入力ポートから入力データを受け取る。  
（２）入力データに対して信号処理を施す。  
（３）信号処理した入力データを出力ポートへ出力する。
【０１３０】
［実施形態の経路探索アルゴリズム］
次に、この実施形態において、グラフの処理機能とされている経路探索アルゴリズムについて説明する。
【０１３１】
以下に説明する経路探索アルゴリズムは、実施形態のシステムの要部を構成するものであり、この経路探索アルゴリズムにより、グラフが内包するプラグインが、最適な順序にソーティングされる。信号処理時は、このソーティングされた順序で、各プラグインが持つ固有の信号処理関数が逐次的に呼び出され実行される。
【０１３２】
一般に、信号処理をＤＳＰ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）等の信号処理デバイスで行なう場合、ＤＳＰ内部のＡＬＵ（Ａｒｉｔｈｍｅｔｉｃ  Ｌｏｇｉｃａｌ  Ｕｎｉｔ）等の演算回路部において逐次的に計算処理を行なうことで、所望の信号処理を実現している。このＤＳＰ等による逐次処理方法は、この実施形態のミドルウエアのＣＰＵによる演算についても同様である。
【０１３３】
すなわち、この実施形態では、与えられた回路をシグナルフローグラフと見なし、そのグラフから逐次計算順序を探索し、探索結果に基づいた順序で、逐次的に計算処理を行なうようにする。この実施形態のミドルウエアであるＳＳＰは、この独自の経路探索アルゴリズムを有していることをも特徴としている。
【０１３４】
この経路探索アルゴリズムを用いることで、フィードバックループを含む任意のデジタル回路構成を、完全にエミュレートすることができる。また、現実のハードウエア回路の世界では不可能な動的な回路構成の変更が実現できる。
【０１３５】
この実施形態において、この経路探索アルゴリズムは、グラフ状に結線されたプラグインからなる回路の信号処理を実現するために、どのプラグインから順番に信号処理すれば良いかという逐次計算順序を求めるアルゴリズムである。ここで、経路探索の対象となる、グラフ内に構成される回路は、フィードバックループ状の回路構成を含んでいても良い。
【０１３６】
この経路探索アルゴリズムは、グラフが保持しており、グラフの中のプラグイン生成・保持部が、この経路探索アルゴリズムを実行する。
【０１３７】
ユーザから、グラフに対して、グラフ構造を変更する操作が行なわれた場合に、グラフ自身が自動的に経路探索を実行し、新たな逐次計算順序を求める。回路内に複数のグラフが存在している場合には、経路探索は、各グラフ単位で独立して行なわれ、変更があったグラフのみ経路探索が実行される。この経路探索は、非常にシンプルであるため、短時間で完了する。
【０１３８】
この実施形態の経路探索アルゴリズムの詳細を以下に説明する。
【０１３９】
この実施形態の経路探索アルゴリズムでは、グラフ状に形成されている回路の要素であるプラグインをノードと見なす。ノードとは、グラフ理論における節となる要素のことである。この実施形態では、回路は、ノード間が方向をもつ矢印で結合される有向線分グラフで表現することができる。ノードへ向かう矢印をノードへの入力、ノードから外へ向かう矢印をノードからの出力と定義する。この実施形態の経路探索アルゴリズムは、グラフ状に結線されたノードを順に巡って、信号順序を定めてゆく。以下、この実施形態の経路探索アルゴリズムをノードスキャンアルゴリズムと称する。
【０１４０】
このノードスキャンアルゴリズムは、経路探索のベースとなる初期経路探索アルゴリズム（プライマリーノードスキャンアルゴリズム）と、経路のループ情報を加味する探索を行なうループサーチアルゴリズムとからなる。
【０１４１】
そして、この実施形態においては、図１３に示すように、ノードスキャンアルゴリズムにおいては、先ず、初期経路探索アルゴリズムを行なう（ステップＳ１５１）。そして、初期経路探索アルゴリズムを終了すると（ステップＳ１５２）、ループサーチアルゴリズムを実行するようにする（ステップＳ１５３）。
【０１４２】
［初期経路探索アルゴリズムについて］
この初期経路探索アルゴリズムは、次のような「解決すべき命題」を設定し、後述のような「探索条件」の下で、行なうものである。
【０１４３】
「解決すべき命題」
グラフ状に結線されたノードを順に辿ることを想定する。１回の巡回かつ下記条件の下で、全てのノードを一度に通過したい。それが可能となる巡回順序を求めよ。但し、巡回するノード間がグラフで直接結線されている必要は無く、ノードを飛び飛びに巡回しても構わない。
【０１４４】
「探索条件」
（ａ）入力の無いノードは無条件で通過することができる。  
（ｂ）遅延素子となるプラグインのノードは、無条件で通過することができる。  
（ｃ）通過したノードは出力が確定する。  
（ｄ）ノードＡの入力に接続されている前段のノードＢの出力が確定すると、ノードＡの入力が確定する。  
（ｅ）ノードの全入力が確定するとそのノードを通過することができる。
【０１４５】
なお、ノードの識別子として予め順番に固有番号が割り当てられている。この番号をノードナンバー（ノードＮｏ．）と呼ぶ。これは任意の番号で良く、例えばプラグインのオブジェクトの生成順にノードナンバーを割り当てておけば良い。なお、プラグインには、ＬＴＰ（Ｌａｔｅｎｃｙ  Ｔｙｐｅ  Ｐｌｕｇｉｎ）と、ＮＬＴＰ（Ｎｏｎ  Ｌａｔｅｎｃｙ  Ｔｙｐｅ  Ｐｌｕｇｉｎ）との種類のタイプがある。ＬＴＰは、遅延素子となるプラグインであり、１サンプル以上の遅延が発生する。ＮＬＴＰは、ゲート素子となるプラグインであって、遅延は発生しない。
【０１４６】
以上の初期経路探索アルゴリズムは、図１４のフローチャートにより実行できる。
【０１４７】
先ず、最初のノードをチェックし（ステップＳ１６１）、当該ノードに対してノード順序番号（以下、ノードインデックスと呼ぶ）が付与済みであるかどうか判別する（ステップＳ１６２）。付与済みであれば、全てのノードにノードインデックスが付与されているか否か判別し（ステップＳ１６９）、全てのノードにノードインデックスが付与されていると判別したときには、この処理ルーチンを終了する。
【０１４８】
また、ステップＳ１６９で、全てのノードには、ノードインデックスを付与し手はいないと判別したときには、次のノードをチェックし（ステップＳ１６５）、その後、ステップＳ１６２に戻り、ステップＳ１６２以降を繰り返す。
【０１４９】
ステップＳ１６２で、ノードインデックスが付与済みではないと判別したときには、無条件で通過できるノードか否か、つまり、プラグインがＬＴＰであるか否か判別する（ステップＳ１６３）。
【０１５０】
このステップＳ１６３で、無条件で通過できるノードではないと判別したときには、そのノードの全ての入力が確定しているか否か判別する（ステップＳ１６４）。このステップＳ１６４で、全ての入力は確定していないと判別したときには、次のノードをチェックし（ステップＳ１６５）、その後、ステップＳ１６２に戻り、ステップＳ１６２以降を繰り返す。
【０１５１】
ステップＳ１６３で、無条件で通過できるノードであると判別したとき、また、ステップＳ１６４で、そのノードの全入力が確定していると判別したときには、当該ノードを通過して当該ノードの出力を確定する（ステップＳ１６６）。そして、当該ノードが接続されているノードの入力を確定する（ステップＳ１６７）。そして、当該ノードに、ノードインデックスを付与する（ステップＳ１６８）。
【０１５２】
次に、全てのノードにノードインデックスが付与されているか否か判別し（ステップＳ１６９）、全てのノードにノードインデックスが付与されていると判別したときには、この処理ルーチンを終了する。
【０１５３】
以上のような初期経路探索アルゴリズムによるノードインデックスの付与の具体例を、図１５のフラグの回路構成の場合を例に説明する。図１５においては、対象となるノードは、ノードＮｏ．０〜Ｎｏ．６の７個である。ノードＮｏ．４とノードＮｏ．６はＬＴＰとする。この場合の初期経路探索アルゴリズムは、下記のようになる。すなわち、ノードＮｏ．０からノードＮｏ．６まで、順に下記のチェックを行なう。ノードＮｏ.０からノードＮｏ．６までを１巡として、全ノードが通過できるまで、下記のチェックを何巡でも繰り返す。
【０１５４】
（１）ノードＮｏ．０は、入力が無いので通過ＯＫ。よって、ノードＮｏ．０の出力（０）確定。
【０１５５】
（２）ノードＮｏ．１は、入力（１）が確定していないのでパス。
【０１５６】
（３）ノードＮｏ．２は、入力が無いので通過ＯＫ。よって、ノードＮｏ．２の出力（０）確定。
【０１５７】
（４）ノードＮｏ．３は、全ての入力（０，１，２）が確定していないのでパス。
【０１５８】
（５）ノードＮｏ．４は、ＬＴＰなので通過ＯＫ。よって、ノードＮｏ．４の出力（０）確定。
【０１５９】
（６）ノードＮｏ．５は、入力（０）が確定していないのでパス。
【０１６０】
（７）ノードＮｏ．６は、ＬＴＰなので通過ＯＫ。よって、ノードＮｏ．６の出力（０）確定。
【０１６１】
以上で、１巡目を終了する。次に、通過できずに出力の確定していないノードに対して、次のようにして、２巡目の探索を行なう。
【０１６２】
（１）ノードＮｏ．１は、全ての入力（０， １）が確定したので通過ＯＫ。よって、ノードＮｏ．１の出力（０）確定。
【０１６３】
（２）ノードＮｏ．３は、全ての入力（０，１，２）が確定したので通過ＯＫ。よって、ノードＮｏ．３の出力（０，１，２）確定。
【０１６４】
（３）ノードＮｏ．５は、入力（０）が確定したので通過ＯＫ。よって確定。
【０１６５】
以上のようにして、全てのノードを通過して出力が確定したので、以上で探索が完了となる。この場合、２巡目で探索が完了したことになる。
【０１６６】
［初期経路探索アルゴリズムによる探索結果］
上記の初期経路探索アルゴリズムの探索手順において、出力が確定した順にノードに番号を振って行くと、経路探索結果が求まる。この新たなノードの順序番号がノードインデックスである。図１５のグラフの回路構成例の場合の探索結果を図１６に示す。
【０１６７】
グラフ内では、プラグインはノードインデックス順に、プラグイン作成・保持部に格納されている。経路探索アルゴリズムが実行される毎に、プラグイン作成・保持部における、当該プラグインの格納順が更新される。信号処理時は、グラフがノードインデックス順に各プラグインの信号処理関数をコールすることで、所望の信号処理を実現している。
【０１６８】
以上説明したように、初期経路探索アルゴリズムにおいては、２巡目、３巡目と繰り返しながら、前記命題の解が求まるまで、ノードのチェックを行なうが、１巡の探索において、通過可能なノードが必ず一つは見つかるという性質がある。
【０１６９】
但し、一つだけ例外がある。フィードバックループ内に遅延素子であるＬＴＰが含まれない場合は、１巡の探索において、通過可能なノードをただ一つも見つけることができない。これは、回路構成上、異常なケースである。
【０１７０】
一般的なデジタル信号処理理論では、因果律を満たすために、フィードバックループ内に必ず一つ以上の遅延素子を含む必要がある。この実施形態における初期経路探索アルゴリズムでは、ユーザが、この基本原則を守らない回路を作成した場合は、上記例外が発生するという性質がある。
【０１７１】
そこで、この実施形態の初期経路探索アルゴリズムにおいては、この例外発生をエラー警告に利用することができる。すなわち、ユーザが遅延素子を含まないフィードバック回路を作成した場合には、初期経路探索アルゴリズムにおいて、上述のような経路探索の例外発生が生じるので、その場合を検出したときには、回路を再構成するよう、システムからユーザに警告を発するようにする。
【０１７２】
［ループサーチアルゴリズムについて］
次に、ループサーチアルゴリズムについて説明する。これは信号処理実行時におけるＣＰＵ負荷の改善を提供するアルゴリズムである。信号処理のリアルタイム性を確保するには、重要な技術である。
【０１７３】
前記の初期経路探索アルゴリズムで求めた探索結果によっても、所望の回路の信号処理は実現できる。しかし、初期経路探索アルゴリズムで求めた探索結果では、フィードバックループを含む回路構成においては、必ずしも速度性能的には有利であるとは言えないという問題がある。
【０１７４】
フィードバックループを含む回路構成においては、「入力が確定しない状態で出力を確定することはできない」というデジタル信号処理理論における因果律を満たす必要がある。そのため、フィードバックループを含む回路においては、１サンプル単位で逐次的に各プラグインの信号処理を行なう必要がある。すなわち、１サンプル単位でプラグインに対し音声データの入出力及び信号処理を行なう必要があるということである。
【０１７５】
ここで、問題となるのは、信号処理する毎に発生する関数コールである。一般に、ソフトウエア処理において、関数コールはＣＰＵ負荷が高い（コスト高である）という性質がある。ソフトウエアのリアルタイム信号処理においては、この関数コール回数を１回でも少なくするということが、処理速度性能の向上につながる。そこで、関数コール回数を削減する方法が、処理速度性能の向上を考える場合に望まれる。
【０１７６】
関数コール回数を減らす一般的な手法としては、複数データサンプルを１単位とする、例えばパケット単位の処理が挙げられる。１サンプルづつ処理するのではなく、所定数の複数データサンプルをブロック化してまとめて一括処理する方法である。例えば、パケットサイズが１０２４サンプルの場合は、１０２４サンプルの音声データをまとめてブロック化して、１回の関数コールで処理する。こうすることにより、関数コールの回数を減らすことができる。
【０１７７】
しかしながら、回路にフィードバックループが含まれる場合は、上述したように、１サンプル単位で関数コールする必要がある。このため、パケット処理が行なえない。
【０１７８】
そこで、この実施形態の経路探索アルゴリズムでは、初期経路探索アルゴリズムの後に、以下に説明するループサーチアルゴリズムを行なうことにより、この問題を解決するものである。
【０１７９】
一般に、フィードバックループを含む回路において、ループを形成するノードは、回路全体の一部であることが多い。この実施形態におけるループサーチアルゴリズムは、この点を利用して、ループを構成するノードの群と、ループを構成しないノードの群とを、信号処理順序の上で、区分けして、ループを構成しないノードの群では、パケット処理を可能にすることにより、信号処理全体として、高速化を図るものである。
【０１８０】
例えば、図１５に示した回路構成の場合、ループを構成するノードは、ノードＮｏ．３、ノードＮｏ．４、ノードＮｏ．６、の３個であり、全体のノード数７個に対して半分以下である。
【０１８１】
そこで、ループを形成するノードのみ１サンプル単位で処理し、それ以外のノードをパケット単位で処理することにより、速度劣化を必要最小限に抑えることができる。全体の回路構成において、ループを形成するノードの割合が小さければ小さいほど、より効果的に速度劣化を抑えることができる。
【０１８２】
図１７に、このループサーチアルゴリズムの処理のフローチャートを示す。先ず、閉路探索アルゴリズムを用いて、ループを構成するノードを求める（ステップＳ１７１）。閉路探索アルゴリズムは、一般的なグラフ理論の閉路探索アルゴリズムを利用することができる。この一般的なグラフ理論の閉路探索アルゴリズムは周知であるので、ここでは、その詳細な説明は省略する。
【０１８３】
次に、初期経路探索アルゴリズムで定められた信号処理順序では、ループを構成するノードの間に、信号処理順序として、ループを構成しないノードが入っているかどうかをチェックする（ステップＳ１７２）。
【０１８４】
そして、ループを構成するノードの間に、信号処理順序として、ループを構成しないノードが入っていると判別したときには（ステップＳ１７３）、ループを構成しないノードを、ループを構成するノードの前となるように、信号処理順序を入れ換える（ステップＳ１７４）。つまり、ノードインデックスの振り直し行なう。
【０１８５】
ステップＳ１７３で、ループを構成するノードの間に、信号処理順序として、ループを構成しないノードが入っていないと判別したときには、そのまま、このループサーチアルゴリズムを終了する。
【０１８６】
このループサーチアルゴリズムを、図１５に示した回路構成の場合に適用した場合を例に、具体例を以下に説明する。
【０１８７】
図１５に示した回路構成について、初期経路探索アルゴリズムを実行した結果は、図１６に示した通りである。この図１６の探索結果について、閉路探索アルゴリズムの探索結果である、ループを構成するノード、つまり、ノードＮｏ．３、ノードＮｏ．４、ノードＮｏ．６を、斜線で付して示すと、図１８の左側のようになる。
【０１８８】
この図１８の左側の図から明らかなように、初期経路探索アルゴリズムの探索結果では、信号処理順序として、ループを構成するノードの間に、ループを構成しないノードであるノードＮｏ．１が存在することがわかる。そのため、このままの信号処理順序では、本来１サンプル単位で処理を行なう必要のないノードＮｏ．１も、１サンプル単位で処理を行なう必要がある。
【０１８９】
しかし、ループサーチアルゴリズムを適用したときには、前記ステップＳ１７４において、ループを構成しないノードは、ループを構成するノードの前となるように、信号処理順序を変更する。
【０１９０】
この場合に、信号処理順序が変更されても、初期経路探索アルゴリズムの解決命題を満たすことが必要である。そこで、ループサーチアルゴリズムにおいては、信号処理順序を変更するときには、変更後も初期経路探索アルゴリズムの解決命題を満たすかどうかのチェックを行なうようにしてもよいが、この例では、ループの先頭のノードよりも、ループを構成しないノードを前の信号処理順序となるように変更することにより、このようなチェックを不要としている。すなわち、上述の順序変更方法は信号処理の順序性を正しく保つという性質がある。
【０１９１】
図１５の例の場合であれば、ノードＮｏ．４とノードＮｏ．６とは、ＬＴＰであるので、入力が確定せずとも出力が確定すると言う性質を持っている。この性質を利用すると、ノードＮｏ．４とノードＮｏ．６は、ノードＮｏ．１より後の処理となっても構わない。
【０１９２】
この例では、ループサーチアルゴリズムにより、図１８の右側に示すように、ループを構成しないノードであるノードＮｏ．１は、信号処理順序を３番にして、ループを構成するノードの先頭のノードＮｏ．４よりも前となるように、信号処理順序が変更される。
【０１９３】
このようにされると、ループを構成するノードは、図１８の右側において斜線を付して示すように、ひとまとめとされる。つまり、ループを構成するノード群は、信号処理順序として局所化されていることになる。
【０１９４】
この図１８の右側に示すような信号処理順序で信号処理を、以下のようにして、実行することにより関数コールを必要最小限に抑えることが可能である。
【０１９５】
すなわち、
（１）ノードインデックスが１番から３番のノードは、ループ外であるので、パケット単位で処理する。
【０１９６】
（２）ノードインデックスが４番から６番のノードは、ループ内であるので、１サンプル単位で処理する。
【０１９７】
（３）ノードインデックスが７番のノードは、ループ外であるので、パケット単位で処理する。
【０１９８】
以上のようにして信号処理を実行すれば、関数コールを少なくして、信号処理速度の劣化を防止することができる。次に、パケットサイズを１０２４サンプルとした場合の例を下記に挙げる。
【０１９９】
（１）ノードＮｏ．０に、１０２４サンプルのデータを渡し処理を実行する。（関数コール１回）
（２）ノードＮｏ．２に、１０２４サンプルのデータを渡し処理を実行する。（関数コール１回）
（３）ノードＮｏ．１に、１０２４サンプルのデータを渡し処理を実行する。（関数コール１回）
（４）下記操作（４−１）〜（４−３）を１０２４回繰り返す。（関数コール３×１０２４回）
（４−１）ノードＮｏ．４に、１サンプルのデータを渡し処理を実行する。（関数コール１回）
（４−２）ノードＮｏ．６に、１サンプルのデータを渡し処理を実行する。（関数コール１回）
（４−３）ノードＮｏ．３に、１サンプルのデータを渡し処理を実行する。（関数コール１回）
（５）ノードＮｏ．５に１０２４サンプルのデータを渡し処理を実行する。（関数コール１回）
したがって、以上の（１）〜（５）の信号処理によって、１０２４サンプル信号処理するために必要な関数コール回数の合計は、３０７６回となる。
【０２００】
仮に、上述の例において、全てのノードを１サンプルづつ処理した場合の関数コール回数の合計は、７１６８回となる。よって、この実施形態のノードスキャンアルゴリズムを実行して、ループを構成するノード群を局所化させて、当該ノード群のみは１サンプルごとに関数コールを実行し、その他のループを構成しないノードは、パケット単位で一回関数コールするようにすることにより、上述の例の場合には、約５７％の関数コール数が削減されたことになる。
【０２０１】
なお、この実施形態のシステムでは、パケットサイズは、固定値ではなく動的にそのサイズを変更することが可能である。
【０２０２】
［ＡＶ同期について］
前述もしたが、この実施形態の信号処理装置は、サンプル精度で演算することができる。また、サンプル精度でＡＶ同期を取ることができる。従来のミドルウエアにおいては、複数のプラグインを多段接続すると接続数に比例した遅延が発生するため、全てのプラグインを同期して処理することは困難である。
【０２０３】
これに対して、この実施形態では、どのような接続においても遅延の増加が発生しないので、サンプル精度で各プラグインが同期して動作することが可能であり、サンプル精度でＡＶ同期を取ることができる。
【０２０４】
このＡＶ同期のために、この実施形態では、時刻情報に付随する形で、映像データの垂直同期情報Ｖｓとして、システム（グラフ）から、Ｖ同期フラグが付加されている。時刻情報がサンプル単位で更新されるので、このＶ同期フラグは、全てのサンプルについて付加されるものである。そして、Ｖ同期フラグは、フレームの先頭の時刻タイミングでのみ、例えば「１」となり、他はすべて「０」とされている。
【０２０５】
Ｖ同期フラグは、映像のフレームと、音声データのサンプルを対応付ける同期パルス情報である。例えば、映像情報が３０フレーム／秒、音声データのサンプリング周波数が４８ｋＨｚの場合、映像情報の１フレーム当たりの音声データのサンプル数は、４８０００÷３０＝１６００［サンプル/フレーム］である。音声データをパケット単位で処理する場合に、１パケット当たりのサンプル数が、前述のように例えば１０２４である場合には、パケットとフレームとは一致していない。そこで、この例では、Ｖ同期フラグを用いてＡＶ同期を取るようにする。
【０２０６】
システム（グラフ）は、映像情報の１フレーム当たりの音声データサンプル数を、予め算出しておく。システム（グラフ）は、音声データをプラグインに対して与えるときに、その音声データのサンプル時刻情報と共に、当該サンプル時刻が、映像フレームの先頭であるか否かの情報として前記Ｖ同期フラグを、プラグインに同時に与える。
【０２０７】
各プラグインは、入力された音声データが映像情報の１フレームの先頭であることを、Ｖ同期フラグから検出した場合に、内部保持パラメータを、この映像フレームの先頭に同期して変更することで、ＡＶ同期処理を実現する。
【０２０８】
ただし、前提条件として、システム（グラフ）からのサンプル単位の時刻情報と、映像フレームのＶ同期フラグとが何らかの方法により対応付けられていることが必要である。そこで、この例では、この実施形態の信号処理装置で、信号処理が開始された起点時刻を映像フレームの先頭と定義し、システム（グラフ）が予め算出している映像情報の１フレーム当たりの音声データサンプル数を利用して、起点時刻以降の時刻情報と、Ｖ同期フラグとを対応付けるようにしている。
【０２０９】
図１９に、このＡＶ同期のためのプラグインでも処理のフローチャートを示す。
【０２１０】
まず、音声データサンプルのプラグインへの入力に同期して、当該プラグインにシステム（グラフ）から入力される時刻情報としての絶対時刻カウント値ｔを取得する（ステップＳ１８１）。つまり、システムからのサンプル単位の時刻情報を読み込む。このとき、システムからは、時刻情報に付加されているＶ同期フラグも取得する。
【０２１１】
プラグインでは、サンプル単位のＶ同期フラグが「１」であるかどうかにより、Ｖ同期フラグが「真」、つまり、映像フレームの先頭であるかどうかをチェックする（ステップＳ１８２）。Ｖ同期フラグが「真」であると判別したときには、ＡＶ同期処理として、この例では、パラメータの更新を行なう（ステップＳ１８３）。そして、当該時刻ｔにおける信号処理を実行する（ステップＳ１８４）。
【０２１２】
ステップＳ１８２で、Ｖ同期フラグが「真」ではないと判別したときには、パラメータを変更せずに、当該時刻ｔにおける信号処理を実行する（ステップＳ１８４）。
【０２１３】
そして、次の音声データサンプルのプラグインへの入力に同期して変更される次の絶対時刻カウント値（ｔ＋１）を取得し（ステップＳ１８５）、上述のステップＳ１８２〜１８４と同様の処理動作を繰り返す（ステップＳ１８６〜１８８）。以下、順次、サンプル入力に同期して、以上の処理を繰り返す。
【０２１４】
［動的な回路構成の変更処理；第１の例］
この実施形態の信号処理装置では、前述したように、信号処理中であっても、ユーザからの、グラフへの変更指示（回路構成変更指示）に従い、グラフ構造を動的に変更することができる。そして、信号処理中であっても、再度、この実施形態の経路探索アルゴリズム（ノードスキャンアルゴリズム）を実行することで、回路構成の変更に対応できる。
【０２１５】
また、この回路構成の変更処理を、処理データ単位の信号の処理終了時点から次の処理データ単位の信号の先頭前の間で行なうことで、変更された回路構成による信号処理が、処理データ単位の途中からではなく、処理データ単位の先頭からなされるようにして、回路構成変更に伴う不具合を防止している。
【０２１６】
この機能により、例えば、実施形態の信号処理装置で処理されて出力された音声をユーザが聞きながらでも、実施形態の信号処理装置を新たな回路構成に変更することができる。このため、用途としてライブ演奏装置等に、この実施形態を活用できるというメリットがある。
【０２１７】
図２０に、この動的な回路構成変更処理のフローチャートを示す。このフローチャートの実行主体は、グラフである。また、図２１に、このときのタイミングチャートを示す。この実施形態では、サンプリング周波数が例えば４８ｋＨｚのデジタル音声データを、例えば１０２４サンプルを１パケットとして、パケット単位で処理をするようにしている。そして、図２１において、時刻ｔ、ｔ＋１、ｔ＋２、ｔ＋３・・・は、この１０２４サンプル毎の時刻であり、ある時刻ｔ＋ｉ（ｉは整数）と、次の時刻ｔ＋（ｉ＋１）との間の時間Ｐｄは、この例では２０ミリ秒である。
【０２１８】
ここで、信号処理装置におけるパケット単位のデジタル音声データの処理は、高速のクロックが用いられて、時間Ｐｄよりも短い時間で終了する。回路構成上、ループがあるところでは、パケットを分解してサンプル単位で信号処理されるが、それでも、時間Ｐｄよりも短い時間で、信号処理は終了する。
【０２１９】
信号処理が終了したパケット単位のデータは、例えばＦＩＦＯ（Ｆｉｒｓｔ−Ｉｎ  Ｆｉｒｓｔ−Ｏｕｔ）メモリからなるバッファメモリに書き込まれ、通常は、図２１に示すように、当該パケット単位の信号処理終了後の、次のパケット単位の処理開始時刻から再生される。これにより、パケット単位の音声データが連続的に再生される。
【０２２０】
パケット単位のデジタル音声データの処理は、時間Ｐｄよりも短い時間で終了するので、図２１から明らかなように、パケット単位のデータ処理の終了時点から次のパケット単位のデータの先頭までの間は、信号処理的にはアイドル時間となっている。そこで、この実施形態では、このアイドル時間を、回路構成動的変更処理可能期間に割り当てるようにしている。
【０２２１】
そして、このように、パケット単位のデータ処理の終了時点から次のパケット単位のデータの先頭までの間で回路構成を動的に変更して、変更後の回路構成によって、次のパケットの先頭のデータから処理が開始されるので、パケットの途中で回路構成が変更されることはなく、冒頭で述べたような不具合は発生しない。
【０２２２】
まず、時刻ｔでの信号処理を行なう（ステップＳ１９１）。すなわち、回路構成情報格納管理機能部４に格納されている回路構成情報を用いると共に、信号処理順序管理機能部６で保持されている信号処理順序にしたがって、信号処理実行機能部７がパケット単位のデータ処理を実行する。
【０２２３】
そして、パケット単位のデータの処理が終了して、回路構成動的変更処理可能期間になると、グラフは、信号処理中であっても、この実施形態では、指示入力受付機能部１を通じてプラグイン生成あるいは削除指示や、入力ポート、出力ポートの生成あるいは結線指示などがなされたか否かにより、回路構成変更機能部９は、グラフ変更要求（回路構成変更要求）があるか否か判別する（ステップＳ１９２）。
【０２２４】
そして、ステップＳ１９２で、グラフ変更要求があると判別したときには、グラフは、回路構成情報格納管理機能部４に変更後の回路構成情報を保持するようにすると共に、経路探索の再実行を行って、グラフの回路構成の再構成を行う（ステップＳ１９３）。このとき経路探索の結果の新たな信号処理順序の情報は、信号処理順序管理機能部６に保持される。
【０２２５】
そして、次の時刻（ｔ＋１）での信号処理に移行する（ステップＳ１９４）。すると、この時刻（ｔ＋１）でのパケットは、その先頭のデータから、変更後の回路構成により信号処理される。
【０２２６】
ステップＳ１９２で、グラフ変更要求がないと判別したときには、回路構成動的変更処理を行なわずに、そのまま、次の時刻（ｔ＋１）での信号処理に移行する（ステップＳ１９４）。
【０２２７】
このステップＳ１９４以降は、ステップＳ１９２〜ステップＳ１９３と同様の処理を繰り返す（ステップＳ１９５〜１９６）。
【０２２８】
このときの回路構成変更指示操作の一例を図２２に示す。この図２２の例は、パーソナルコンピュータなどのグラフィカル・ユーザ・インターフェースの画面において、前述したグラフおよびプラグインを、ブロックなどにより視覚的に表示し、これらブロック間の結線を、マウスなどのポインティングデバイスを用いて指示するようにするものである。
【０２２９】
図２２において、グラフィカル・ユーザ・インターフェース画面の左側のリスト１００１は、プラグイン候補リストである。ユーザは、例えばプラグインを追加したい場合には、このリスト１００１から追加するプラグインを選択する。すると、グラフィカル・ユーザ・インターフェース画面に、選択されたプラグインが表示される。
【０２３０】
次に、ユーザは、プラグインとプラグインとの結線を行なう。すなわち、結線をしようとするプラグインの出力端にカーソル１００２を合わせ、そのままドラッグして結線しようとする相手のプラグインの入力端の方向に移動すると、図２２に示すように、結線の線分が表示される。
【０２３１】
そして、カーソルのドラッグを、結線しようとする相手のプラグインの入力端のところで離す（リリース）することにより、プラグイン間の結線ができる。また、プラグインの入力端あるいは出力端のところにカーソルを持ってきて、クリックすると、結線が薄く表示され、あるいは、点線となり、実行すると削除することができる。
【０２３２】
以上のようなユーザ指示操作により、回路構成の変更指示をすることができる。例えば、図２３は、３個プラグイン９０１，９０２，９０３が順次に接続されている回路構成から、プラグイン９０１と、プラグイン９０２との間に新たなプラグイン９０４を挿入した回路構成に変更した場合である。この場合、プラグイン９０１と９０２との間の結線を削除し、その代わりに、プラグイン９０１とプラグイン９０４とを結線すると共に、プラグイン９０４とプラグイン９０２とを結線するようにする。
【０２３３】
また、図２４は、４個プラグイン９１１，９１２，９１３，９１４が順次に接続されている回路構成から、プラグイン９１２を削除した回路構成に変更した場合である。この場合、プラグイン９１２を削除すると共に、プラグイン９１２とプラグイン９１３との間の結線およびプラグイン９１１とプラグイン９１２との間の結線を削除し、その代わりに、プラグイン９１１とプラグイン９１３とを結線する。
【０２３４】
また、図２５は、４個プラグイン９２１，９２２，９２３，９２４が順次に接続されている回路構成において、プラグイン９２２をプラグイン９２５に変更した回路構成に変更した場合である。
【０２３５】
この場合、プラグイン９２２を削除すると共に、プラグイン９２１とプラグイン９２２との間の結線およびプラグイン９２２とプラグイン９２３との間の結線を削除し、その代わりに、プラグイン９２５を挿入し、プラグイン９２１とプラグイン９２５とを結線すると共に、プラグイン９２５とプラグイン９２３とを結線する。
【０２３６】
図２６は、４個プラグイン９３１，９３２，９３３，９３４が順次に接続されている回路構成を、プラグイン９３２とプラグイン９３３との間の結線を増加したものに変更した場合である。
【０２３７】
さらに、図２７の例は、４個プラグイン９４１，９４２，９４３，９４４が順次に接続されているだけの回路構成を、２個のプラグイン９４５，９４６を、プラグイン９４３とプラグイン９４２との間のフィードバックループ中に追加した回路構成に変更した場合である。
【０２３８】
この図２７の例の場合には、ループが形成されることにより、データは、サンプル単位で前のデータと加算するなど、当該前のデータとミックスされる処理に変化する。しかし、この実施形態では、パケット単位のデータの途中で回路構成が切り換わることはないので、不具合は生じない。
【０２３９】
［動的な回路構成の変更処理；第２の例］
以上の第１の例では、ユーザが、信号処理中に、グラフィカル・ユーザ・インターフェースを通じて回路構成の動的変更操作をしたとき、当該変更操作を回路構成の動的変更要求として処理するようにしたが、回路構成の動的変更要求を発生させる方法としては、ユーザがグラフィカル・ユーザ・インターフェースを通じた回路構成の変更操作をする場合に限らない。
【０２４０】
この第２の例においては、予め、信号処理中に、切り替え変更して使用したい１個または複数個の回路構成をプリセット情報として保持しておくようにする。このプリセット情報の一例を図２８に示す。この図２８の例は、図２７（Ａ）に示した回路構成変更前の回路構成をプリセット１（図２８（Ａ））とし、図２７（Ｂ）に示した回路構成変更後の回路構成をプリセット２（図２８（Ｂ））とするものである。
【０２４１】
このプリセット１およびプリセット２の回路情報は、グラフの回路構成情報格納管理機能部４に予め登録しておくか、あるいは、プリセット回路情報記憶部をグラフ内に設けて、回路構成変更要求があったときに、当該プリセット回路情報記憶部から、指示されたプリセットの回路情報を読み出して、回路構成情報格納管理機能部４に登録するようにしても良い。
【０２４２】
また、この場合、プリセット２の回路情報は、図２８（Ｂ）に示した回路情報のすべてを記憶しておくようにしても良いし、図２８（Ｂ）において、「追加」として示した差分の部分の回路情報を記憶して、図２８（Ａ）の回路構成に追加することにより、変更後の回路構成をするようにしても良い。
【０２４３】
以上のようにして、１または複数の回路情報をプリセットしたものの中から、この例では、ユーザの指示操作により指定されたプリセットの回路情報に、グラフの構成が動的変更される。
【０２４４】
例えば、図２９の例は、フットスイッチ２０００が用いられる場合である。このフットスイッチは、ユーザの足による押下操作部２００１，２００２，２００３，２００４が設けられている。そして、この例では、各押下操作部２００１，２００２，２００３，２００４のそれぞれに、プリセット回路情報が対応付けられる。図２９の例では、押下操作部２００１には、プリセット１の回路情報が対応付けられ、押下操作部２００２には、プリセット２の回路情報が対応付けられる。
【０２４５】
そして、信号処理中に、例えばフットスイッチ２０００の押下操作部２００１が押下操作されると、その操作情報がグラフに送られる。グラフは、押下操作部２００１の押下操作を、プリセット１の回路情報への変更要求として判断し、グラフ内に保持しているプリセット１の回路情報を用いて、上述と同様にして、動的回路変更処理をするようにする。
【０２４６】
この場合においても、押下操作部２００１の押下操作を、プリセット１の回路情報への変更要求として判断し、回路変更処理をするのは、図２１を用いて前述した回路構成動的変更処理可能期間においてであることは、前述の実施形態と変わることはない。
【０２４７】
図２９の例は、プリセットされた回路情報を指定するのに、フットスイッチを用いた例であるが、プリセットされた回路情報の指定を、ユーザの発生音声により行なうようにすることもできる。ユーザの発生音声により行なえるようにしたときには、例えば、演奏者が、演奏をしながら、特定の音声を発生することにより、回路構成を変更することができるというメリットがある。
【０２４８】
すなわち、図３０は、この場合の回路構成変更要求の仕方を説明するための図である。この例では、予め、プリセット回路情報と、ユーザの発生音声とを対応付けておくようにする。図３０の例では、プリセット１の回路情報には、「ａｈ〜（アー）」という発生音声を割り付け、プリセット２の回路情報には、「ｅ〜（エー）」という発生音声を割り付けておくようにする。
【０２４９】
そして、マイクロホン３００１によりユーザの発生音声を収音し、収音したことにより得られる音声信号を、音声認識回路３００２に供給する。音声認識回路３００２では、ユーザが「ａｈ〜（アー）」という発生音声を発したか、「ｅ〜（エー）」という発生音声を発したかを認識する。そして、その認識結果を回路構成変更機能部３００３に送る。回路構成変更機能部３００３は、ユーザが「ａｈ〜（アー）」という発生音声を発したという認識結果を受けたときには、プリセット１の回路情報への変更要求を発生する。また、回路構成変更機能部３００３は、ユーザが「ｅ〜（エー）」という発生音声を発したという認識結果を受けたときには、プリセット２の回路情報への変更要求を発生する。
【０２５０】
この図３０の例の場合には、音声認識回路３００２および回路構成変更機能部３００３は、グラフ内のプラグインとして構成することができる。
【０２５１】
［動的な回路構成の変更処理；第３の例］
上述の第１の例および第２の例は、動的な回路構成の変更要求をユーザ指示を通じて発生するようにした場合であるが、ユーザ指示ではなく、予め、回路構成を動的に変更するタイミングと、変更する回路構成情報とを定めておき、その定めた制御データの通りに動的に回路構成変更するようにすることもできる。
【０２５２】
すなわち、これは、いわゆるシーケンサの場合の例で、例えば、図３１に示すように、ある曲の音楽データを再生するときに、再生開始時（ＳＴ）から第１の変更タイミング時点ＣＨＧ１までは回路構成Ａにより信号処理を行い、第１の変更タイミング時点ＣＨＧ１から第２の変更タイミング時点ＣＨＧ２までは回路構成Ｂにより信号処理を行い、第２の変更タイミング時点ＣＨＧ２から再生終了時点（ＥＤ）までは回路構成Ｃにより信号処理を行うようにする。
【０２５３】
この場合のシーケンス制御データは、再生開始時（ＳＴ）では、回路構成Ａへの回路構成要求を意味するものとされ、第１の変更タイミング時点ＣＨＧ１では、回路構成Ｂへの回路構成要求を意味するものとされ、第２の変更タイミング時点ＣＨＧ２では、回路構成Ｃへの回路構成要求を意味するものとされている。
【０２５４】
この場合、前述した第２の例と同様に、グラフ内に予め回路構成Ａ、回路構成Ｂ、回路構成Ｃの情報を用意しておき、シーケンス制御データには、単に回路構成Ａ、回路構成Ｂ、回路構成Ｃへの回路構成要求を含めるようにすることもできるし、シーケンス制御データには、回路構成Ａ、回路構成Ｂ、回路構成Ｃの回路構成情報を登録しておき、グラフがシーケンス制御データから、これらの回路構成Ａ、回路構成Ｂあるいは回路構成Ｃの回路構成情報を取得して、回路構成変更するようにしてもよい。
【０２５５】
グラフは、前述したように、信号処理時間を管理しているので、シーケンス制御データに含まれる変更タイミング時点の情報（開始時点を含む）を監視し、変更タイミング時点になると、当該変更タイミング時点からの後の回路構成に、回路構成を変更するようにする。
【０２５６】
この第３の例によれば、シーケンス制御データにより、予め定めた順序で、信号処理回路を順次に動的に変更しながら、信号処理をすることが可能になる。
【０２５７】
［動的回路変更に伴い、考慮すべき処理の例］
前述したように、この実施形態では、パケット単位でデータ処理をするようにしているが、このとき、オーバヘッドができるだけ小さくなるように、パケットサイズを定めている。
【０２５８】
ここでいうパケットサイズとはＦＩＦＯの深さ（段数）の概念とほぼ等価である。一般にパケットサイズを小さくすると、信号処理遅延（レーテンシー）が少なくなるというメリットがあるが、逆に、信号処理のオーバヘッドの占める割合が大きくなり、リアルタイム性が確保できずに、信号処理そのものが間に合わなくなるという欠点がある。複雑な信号処理であればある程、信号処理に要する時間が多く掛かることから、リアルタイム性を確保できなくなる可能性が高くなる。それでもライブ演奏のように遅延が気になるケースでは、信号処理が間に合う範囲で、可能な限りパケットサイズを小さくする必要がある。
【０２５９】
しかし、以上のような動的回路変更したときに、変更後の回路構成においては、予め定めたパケットサイズでは、パケットサイズが小さすぎて、処理速度が追いつかなくなる場合が生じる可能性がある。
【０２６０】
このような場合には、信号処理として破綻してしまうおそれがある。そこで、この実施形態では、次のような処理を行なうようにする。
【０２６１】
図３２は、この場合の処理を説明するためのフローチャートである。この図３２のフローチャートに示す処理も、グラフが行なうものである。
【０２６２】
すなわち、先ず、動的回路構成変更がなされたか否か判別し（ステップＳ１００１）、動的回路構成変更がなされていないと判別したときには、この処理ルーチンをそのまま抜ける。
【０２６３】
ステップＳ１００１で、動的回路構成変更がなされたと判別したときには、信号処理速度が追いつかなくなっていないかどうか判別し（ステップＳ１００２）、そうなっていないときにはそのままこの処理ルーチンを抜ける。
【０２６４】
また、ステップＳ１００２で、信号処理速度が追いつかなくなっていると判別したときには、パケットサイズを現在のものよりも大きいサイズに変更する（ステップＳ１００３）。
【０２６５】
なお、パケットサイズを大きいサイズに変更するのではなく、警告をユーザに報知し、ユーザのパケットサイズの指定の変更を受け付けるようにしても良い。
【０２６６】
また、ステップＳ１００３で変更するパケットサイズは、予めユーザが優先順位などを持って登録しておき、その登録されているパケットサイズを優先順位に従って用いるようにしても良い。
【０２６７】
［プラグインでのパラメータ設定の他の方法］
前述したように、この実施形態の信号処理装置における信号処理においては、パラメータ属性を持たせることが可能である。ここで、パラメータとは、例えば乗算器の場合には、乗算係数に相当するものである。
【０２６８】
通常のミドルウエアでは、このパラメータは、ユーザからのパラメータ設定関数により断続的に設定変更する構造となっている。この実施形態の信号処理装置においても、前述した例では、図３３に示すように、従来と同様の構成となっている。すなわち、図６に示したように、プラグイン６００はパラメータ保持部６０４を備えているが、このパラメータ保持部６０４には、ユーザからのパラメータ設定関数により断続的に設定変更する構造となっている。図３３の例は、信号処理部６０１０がゲインコントロールアンプであり、当該アンプ６０１０のゲインが、パラメータ保持部６０４に保持されているパラメータにより、制御されるものである。
【０２６９】
この図３３の構成の場合には、例えば１サンプル単位で連続的かつ正確にパラメータを変化させることはできない。これは、音声データサンプルの１サンプル時間（約20マイクロ秒）に対して、一般的な０Ｓでは、リアルタイム性の確保が難しく、関数コールの間隔が、数十ミリ秒と、かなり大きくなってしまうためである。通常のＯＳ上ではリアルタイム性を確保したとしても、数ミリ秒〜数十ミリ秒の精度が限界である。しかも、ソフトウエア的な時間のバラツキがあるため、サンプル精度のマイクロ秒オーダーで、パラメータ変更関数の呼び出しタイミングを制御することはできない。
【０２７０】
そこで、この実施形態では、以下に説明するように、パラメータの設定方法を工夫することで、パラメータを１サンプル精度で正確に変化させることができるようにする。すなわち、この例においては、プラグイン内部に保持するパラメータを、ユーザが関数コールで設定するのではなく、プラグインの入力ポートに割り当てて設定するという機能を、グラフに設けることにより、新たなパラメータの設定方法を実現するものである。以下、この新たなパラメータの設定方法を、パラメータバインドと呼ぶ。
【０２７１】
図３４に、このパラメータバインドの例を示す。すなわち、プラグインに新たな入力ポート１を設定し、当該入力ポート１をパラメータ保持部６０４の接続する。そして、新たに設定した入力ポート１に音声データ値を割り当てる。
【０２７２】
これにより、プラグイン内部のパラメータは、ユーザからの設定関数コールにより更新されるのではなく、入力ポート１に入力される音声データ値により更新される。音声データ値が、そのままパラメータ値となり、サンプル単位で更新される。
【０２７３】
この場合、パラメータと音声データは特に区別が無い。この実施形態では、音声データは、全てサンプル精度で同期しているため、パラメータ変更と音声データの同期性を保つことができる。例えば、ユーザは、音声データに同期するパラメータ信号を同時に生成して、所望のプラグインのパラメータ保持部に接続された入力ポートに入力することで、音声データとサンプル精度で同期するパラメータ変更を実現できる。
【０２７４】
次に、グラフに対するパラメータバインドの登録手順を図３５に示す。すなわち、先ず、パラメータバインドを行なうプラグインに、パラメータバインドのための入力ポートを追加する（ステップＳ２０１）。次に、指定したパラメータが保持されるべきパラメータ保持部を、ステップＳ２０１で追加した入力ポートに接続する（ステップＳ２０２）。
【０２７５】
そして、追加した入力ポートに、パラメータとして機能する音声データを入力する（ステップＳ２０３）。以上で、パラメータバインドのグラフへの登録を終了する。
【０２７６】
次に、登録されているパラメータバインドの解除手順を、図３６に示す。先ず、所定のプラグインに追加したパラメータバインドのための入力ポートへのデータ入力を停止する（ステップＳ２１１）。そして、データ入力を停止した入力ポートを、指定したパラメータが保持されるべきパラメータ保持部から切り離す（ステップＳ２１２）。その後、データ入力を停止した入力ポートを削除する（ステップＳ２１３）。以上で、登録されていたパラメータバインドのグラフからの解除処理手順を終了する。
【０２７７】
なお、パラメータバインドの登録および解除は、信号処理中であっても、任意のタイミングで行なうことができる。
【０２７８】
［リアルタイム分散処理］
以上説明した実施形態の信号処理装置は、通常は、１台のコンピュータにより実現され、信号処理は、当該１台のコンピュータ上で処理される。この処理を、ネットワークを介して接続される複数台のコンピュータに拡張することで、リアルタイムにＣＰＵ負荷の分散処理が行なえる。
【０２７９】
この分散処理は、一般的なコンピューティング技術である分散オブジェクト技術を利用することで実現可能である。ＣＯＭ／ＤＣＯＭ（Ｃｏｍｐｏｎｅｎｔ  Ｏｂｊｅｃｔ  Ｍｏｄｅｌ／Ｄｉｓｔｒｉｂｕｔｅｄ  Ｃｏｍｐｏｎｅｎｔ  Ｏｂｊｅｃｔ  Ｍｏｄｅｌ）、ＣＯＲＢＡ（Ｃｏｍｍｏｎ  Ｏｂｊｅｃｔ  Ｒｅｑｕｅｓｔ  Ｂｒｏｋｅｒ  Ａｒｃｈｉｔｅｃｔｕｒｅ）と言う技術がそれに該当する。
【０２８０】
以下、主にＷｉｎｄｏｗｓ（登録商標）系のＯＳで用いられるＣＯＭ／ＤＣＯＭと言う技術を利用した場合の例を示す。まず、この実施形態のミドルウエアのプラグインのオブジェクトを、全てＣＯＭオブジェクトとして実装する。ここで、ＣＯＭオブジェクトとはオブジェクト指向におけるコンポーネントモデルであり、位置透過性を特徴とする。位置透過性とは、あたかも、例えばローカルコンピュータ上に、ＣＯＭオブジェクトを生成するかのごとく、リモートコンピュータ上にＣＯＭオブジェクトを生成できるという機能である。
【０２８１】
したがって、位置透過性を用いることにより、ローカルコンピュータ上、リモートコンピュータ上のいずれであるかを問わずに、同じ操作で、オブジェクトの生成が行なえる。これはＣＯＭオブジェクトであるプラグインのオブジェクトを、ネットワークを意識せずとも、複数のコンピュータ上に統一的に生成できるということである。プラグインの生成に限らず、その他の操作もローカルコンピュータ上、リモートコンピュータ上を問わずに、統一した操作性で実現できる。
【０２８２】
例えば、ローカルコンピュータ上に、音声入出力プラグインオブジェクトを配置し、リモートコンピュータ上に、エコープラグインオブジェクトを配置して、全体として一つの回路を構成することもできる。
【０２８３】
図３７に、リアルタイム分散処理される場合のグラフの構成例を示す。この図３７の例は、ネットワーク３０００を通じてローカルコンピュータ１０００とリモートコンピュータ２０００とが接続されている状況において、ルートグラフ２５００が定義されて、回路が作成される場合である。
【０２８４】
この図３７を参照して、この例の回路作成の流れを説明する。ユーザは、ローカルコンピュータ１０００のみで、回路作成する場合とほぼ同様にして、回路作成を行なう。リモートコンピュータ２０００を意識するのは、一部のみである。
【０２８５】
（１）ユーザが、グラフ２５００のオブジェクトを作成する。このグラフ２５００オブジェクトは、ローカルコンピュータ１０００に生成される。
【０２８６】
（２）ユーザが、グラフ２５００のオブジェクトに対して、プラグイン２５０１オブジェクトの作成を指示する。
【０２８７】
（３）ユーザが、グラフ２５００のオブジェクトに対して、プラグイン２５０２オブジェクトの作成を指示する。
【０２８８】
（４）ユーザが、グラフ２５００のオブジェクトに対して、プラグイン２５０３オブジェクトの作成を指示する。この場合、プラグイン生成関数に、リモートコンピュータ２０００の識別子を付与する。
【０２８９】
（５）ユーザが、グラフ２５００のオブジェクトに対して、プラグイン２５０４オブジェクトの作成を指示する。
【０２９０】
（６）ユーザが、グラフ２５００のオブジェクトに対して、プラグイン２５０１の出力ポート０とプラグイン２５０２の入力ポート０の結線を指示する。
【０２９１】
（７）ユーザが、グラフ２５００のオブジェクトに対して、プラグイン２５０２の出力ポート０とプラグイン２５０３の入力ポート０の結線を指示する。
【０２９２】
（８）ユーザが、グラフ２５００のオブジェクトに対して、プラグイン２５０３の出力ポート０とプラグイン２５０４の入力ポート０の結線を指示する。
【０２９３】
（９）ユーザが、グラフ２５００のオブジェクトに対して、プラグイン２５０４の出力ポート０とプラグイン２５０２の入力ポート１の結線を指示する。
【０２９４】
以上で回路が完成である。リモートコンピュータを意識する部分は手順（４）のみである。なお、信号処理の実行に関してもローカルコンピュータ１０００のみの場合と特に差異は無い。
【０２９５】
以上説明した実施形態によれば、以下のような効果が得られる。
【０２９６】
すなわち、上記の実施形態によれば、ソフトウエアディジタル信号処理において、信号処理回路を多段に結線しても処理遅延が増加しない回路を作成することができる。また、フィードバック構造を含む任意のデジタル信号処理回路を作成することができる。
【０２９７】
また、デジタル信号処理回路の回路構成を動的に変更することができる。この場合に、動的に更新可能な回路要素は、
・プラグインの追加・削除
・プラグイン間の結線状態
・プラグインの入出力ポートの追加・削除
・プラグインのパラメータ変更及びパラメータバインド
・信号処理時のパケットサイズ・サンプリング周波数など、信号処理に関連するパラメータ
である。
【０２９８】
また、この実施形態の信号処理装置のミドルウエアを組み込むことにより、回路構成を動的に変更可能な製品を作ることができる。
【０２９９】
また、作成した信号処理回路をファイルに保存することにより、後で、信号処理回路を復元することができる。さらに、そのファイルをやり取りすることにより、回路の交換や再利用が容易に行なえる。
【０３００】
また、信号処理回路の中にフィードバックループを含む回路構成を含んでいても、信号処理関数の呼び出し回数を必要最小限に抑えることができる。その結果、リアルタイム信号処理実行に必要なCPU負荷を軽減することができる。
【０３０１】
また、回路のパラメータの更新や音声データとの同期性をサンプル精度で制御できる。さらに、音声データを用いてパラメータ値を更新することができる（パラメータバインド機能）。
【０３０２】
また、ネットワークを使って、リアルタイムで分散処理を行なうことができる。ネットワーク上に存在する複数の回路をリアルタイムで同期して動作させることができる。
【図面の簡単な説明】
【０３０３】
【図１】この発明による信号処理装置の実施形態の要部の機能ブロック図である。
【図２】この発明による信号処理装置の実施形態を説明するための図である。
【図３】この発明による信号処理装置の実施形態を説明するための図である。
【図４】この発明による信号処理装置の実施形態を説明するための図である。
【図５】この発明による信号処理装置の実施形態を説明するための図である。
【図６】この発明による信号処理装置の実施形態のプラグインの構成を説明するための図である。
【図７】この発明による信号処理装置の実施形態のグラフの構成を説明するための図である。
【図８】この発明による信号処理装置の実施形態における回路構成の一例を説明するための図である。
【図９】この発明による信号処理装置の実施形態における回路構成手順の例を説明するための図である。
【図１０】この発明による信号処理装置の実施形態における回路構成手順の例を説明するための図である。
【図１１】この発明による信号処理装置の実施形態における回路構成手順の例を説明するための図である。
【図１２】この発明による信号処理装置の実施形態における回路構成手順の例を説明するための図である。
【図１３】この発明による信号処理装置の実施形態における経路探索アルゴリズムを説明するためのフローチャートである。
【図１４】この発明による信号処理装置の実施形態における経路探索アルゴリズムの一部を構成する初期経路探索アルゴリズムを説明するためのフローチャートである。
【図１５】この発明による信号処理装置の実施形態における経路探索アルゴリズムの一部を構成する初期経路探索アルゴリズムを説明するための図である。
【図１６】この発明による信号処理装置の実施形態における経路探索アルゴリズムの一部を構成する初期経路探索アルゴリズムの探索結果の例を示す図である。
【図１７】この発明による信号処理装置の実施形態における経路探索アルゴリズムの一部を構成するループサーチアルゴリズムを説明するためのフローチャートである。
【図１８】この発明による信号処理装置の実施形態における経路探索アルゴリズムの一部を構成するループサーチアルゴリズムを説明するための図である。
【図１９】この発明による信号処理装置の実施形態におけるＡＶ同期処理を説明するためのフローチャートである。
【図２０】この発明による信号処理装置の実施形態における回路構成の動的変更処理を説明するためのフローチャートである。
【図２１】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図２２】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図２３】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図２４】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図２５】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図２６】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図２７】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図２８】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図２９】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図３０】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図３１】この発明による信号処理装置の実施形態における回路構成変更例を説明するための図である。
【図３２】この発明による信号処理装置の実施形態における回路構成変更に伴う処理の例を説明するためのフローチャートである。
【図３３】この発明による信号処理装置の実施形態におけるパラメータの設定方法の例を示す図である。
【図３４】この発明による信号処理装置の実施形態におけるパラメータの設定方法の他の例を示す図である。
【図３５】図３４のパラメータの設定方法の他の例を説明するためのフローチャートである。
【図３６】図３４のパラメータの設定方法の他の例を説明するためのフローチャートである。
【図３７】この発明による信号処理装置の実施形態におけるリアルタイム分散処理を説明するための図である。
【符号の説明】
【０３０４】
１…指示入力受付機能部、２…プラグイン生成削除機能部、３…プラグイン間結線処理機能部、４…回路構成情報格納管理機能部、５…経路探索機能部、６…信号処理順序管理機能部、７…信号処理実行機能部、８…信号処理関数格納部、９…回路構成変更機能部
【図１】
2006268409.tif 000003
【図２】
2006268409.tif 000004
【図３】
2006268409.tif 000005
【図４】
2006268409.tif 000006
【図５】
2006268409.tif 000007
【図６】
2006268409.tif 000008
【図７】
2006268409.tif 000009
【図８】
2006268409.tif 000010
【図９】
2006268409.tif 000011
【図１０】
2006268409.tif 000012
【図１１】
2006268409.tif 000013
【図１２】
2006268409.tif 000014
【図１３】
2006268409.tif 000015
【図１４】
2006268409.tif 000016
【図１５】
2006268409.tif 000017
【図１６】
2006268409.tif 000018
【図１７】
2006268409.tif 000019
【図１８】
2006268409.tif 000020
【図１９】
2006268409.tif 000021
【図２０】
2006268409.tif 000022
【図２１】
2006268409.tif 000023
【図２２】
2006268409.tif 000024
【図２３】
2006268409.tif 000025
【図２４】
2006268409.tif 000026
【図２５】
2006268409.tif 000027
【図２６】
2006268409.tif 000028
【図２７】
2006268409.tif 000029
【図２８】
2006268409.tif 000030
【図２９】
2006268409.tif 000031
【図３０】
2006268409.tif 000032
【図３１】
2006268409.tif 000033
【図３２】
2006268409.tif 000034
【図３３】
2006268409.tif 000035
【図３４】
2006268409.tif 000036
【図３５】
2006268409.tif 000037
【図３６】
2006268409.tif 000038
【図３７】
2006268409.tif 000039