(57)【要約】混合遷移イベントを含む、会議参加者の入力オーディオ情報の複数のオーディオ入力ストリームを受け、出力オーディオ情報を含む複数のオーディオ出力ストリームを出力する型のオーディオ会議混合システムにおいて、混合遷移イベントの検出可能性を低減するよう前記オーディオ出力ストリームを混合する方法であって：（ａ）遷移イベントが起ころうとしていることを判別する段階と；（ｂ）マスキング・トリガーが起ころうとしていることを判別する段階と；（ｃ）前記遷移イベントを実質的に、前記マスキング・イベントが起こるときに起こるようスケジュールする段階とを含む、方法。変化盲機構が、オーディオ会議混合における変化をマスクし、知覚的な連続性を維持する。
2017510179.tif 000002
【特許請求の範囲】
【請求項１】
混合遷移イベントを含む、会議参加者の入力オーディオ情報の複数のオーディオ入力ストリームを受け、出力オーディオ情報を含む複数のオーディオ出力ストリームを出力する型のオーディオ会議混合システムにおいて、混合遷移イベントの検出可能性を低減するよう前記オーディオ出力ストリームを混合する方法であって：
（ａ）遷移イベントが起ころうとしていることを判別する段階と；
（ｂ）マスキング・トリガーが起ころうとしていることを判別する段階と；
（ｃ）前記遷移イベントを実質的に、前記マスキング・イベントが起こるときに起こるようスケジュールする段階とを含む、
方法。
【請求項２】
前記混合遷移イベントは、孤立して聴取しているときに聴取参加者に知覚可能であろうオーディオ入力ストリーム・エンコードにおける変化を含む、請求項１記載の方法。
【請求項３】
前記マスキング・トリガーは：
発話の開始または終了；
発話特性の所定の変化；または
所定数の参加者による同時発話の開始
のうちの少なくとも一つを含む、請求項１または２記載の方法。
【請求項４】
前記スケジュールすることは、前記遷移イベントの生起を、前記マスキング・トリガーが生起するまで遅らせることを含む、請求項１ないし３のうちいずれか一項記載の方法。
【請求項５】
前記マスキング・トリガーは、前記オーディオ入力ストリームの一つにおける発話の開始または終了を含む、請求項１ないし４のうちいずれか一項記載の方法。
【請求項６】
前記マスキング・トリガーは、前記会議参加者の少なくとも一による所定のテキストの発声を含む、請求項１ないし５のうちいずれか一項記載の方法。
【請求項７】
前記オーディオ入力ストリームの一つにおけるボリュームおよび／または所定のスペクトル・フラックスの増大の存在が、前記オーディオ入力ストリームの前記一つにおけるマスキング・トリガーを示す、請求項１ないし６のうちいずれか一項記載の方法。
【請求項８】
発話の前記開始または終了は、前記オーディオ入力ストリームの一つにおける声活動フラグの値の変化によって表わされる、請求項３記載の方法。
【請求項９】
前記マスキング・イベントが、一連のオーディオ入力ストリームの聴覚シーン解析によって決定される、請求項１ないし８のうちいずれか一項記載の方法。
【請求項１０】
前記オーディオ入力ストリームは、少なくとも一つのCTX（連続伝送）オーディオ入力ストリームおよび少なくとも一つのDTX（離散伝送）オーディオ入力ストリームを含む、請求項１ないし９のうちいずれか一項記載の方法。
【請求項１１】
複数のオーディオ入出力装置からオーディオ入力アップリンク・ストリームを受領する複数のオーディオ・ストリーム入力ユニットであって、前記オーディオ入力アップリンク信号は、孤立して聴取しているときに聴取参加者に知覚可能であろう前記オーディオ・アップリンク・ストリームにおける変化の遷移イベント信号および前記オーディオ入力アップリンク・ストリームにおける所定のオーディオ・イベントを表わすマスキング・トリガー信号を含む、オーディオ・ストリーム入力ユニットと；
前記複数のオーディオ入出力装置のそれぞれに返すためのダウンリンク出力をそれぞれ形成する一連のオーディオ・サブ混合ユニットとを有しており、各オーディオ・サブ混合ユニットは、前記オーディオ・ストリーム入力ユニットの所定のものに相互接続されていて、それに関連する前記オーディオ入力アップリンク・ストリームを混合するものであり、前記オーディオ・サブ混合ユニットはさらに：
入力されたオーディオ・ストリームの混合の形を制御し、前記遷移イベント信号に応答して混合の形を変更する第一の制御ユニットと；
混合の形の前記変更を、前記オーディオ入力アップリンク・ストリームの少なくとも一つにおいてマスキング・トリガー信号が存在するような時まで遅らせるための第二の制御ユニットとをさらに有する、
オーディオ混合システム。
【請求項１２】
遠隔会議混合システムにおいて使うための装置であって、複数のオーディオ入力ストリームを受領し、それらのオーディオ入力ストリームに基づいて少なくとも一つのオーディオ出力ストリームを生成するよう構成されている装置のプロセッサによって実行されたときに、前記装置に請求項１ないし１０のうちいずれか一項記載の方法を実行させる、コンピュータにより解釈可能な命令を担持しているコンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願への相互参照
本願は2014年2月28日に出願された米国仮特許出願第61/946,030号の優先権を主張するものである。同出願の内容はここに参照によって組み込まれる。
【０００２】
発明の分野
本発明は、オーディオ遠隔会議（audio  teleconferencing）の分野に関し、特に、遠隔会議において変化をマスクするための変化盲（change  blindness）機構の利用を開示する。
【背景技術】
【０００３】
明細書を通じ、背景技術のいかなる議論も、決して、そのような技術がよく知られているまたは当技術分野における技術常識の一部をなすことを認めたものと考えられるべきではない。
【０００４】
複数の当事者がリモートに対話して会議を実行するビデオおよびオーディオ遠隔会議システムは重要な資源である。
【０００５】
多くのシステムが知られている。大半は、各参加者が、たとえば専用の遠隔会議装置、オーディオ入出力機能をもつ標準的なコンピュータ資源またはスマートフォン型の装置を使って他の参加者を聞くおよび／または見ることができることを保証する中央集中式または分散式のサーバー資源に依拠する。分散式のサーバー資源は、各会議参加者からのアップリンクされたオーディオ信号を一緒に適切に混合し、それらのオーディオ信号を各オーディオ出力装置による再生のためにダウンリンクすることを受け持つ。
【０００６】
背景として、典型的な（既知の）遠隔会議システムでは、ミキサーが各電話エンドポイントから、その電話エンドポイントによって捕捉されたオーディオ信号を担持するそれぞれの「アップリンク・ストリーム」を受領し、それぞれの「ダウンリンク・ストリーム」を各電話エンドポイントに送る。こうして、各電話エンドポイントは、他の電話エンドポイントによって捕捉されたそれぞれのオーディオ信号の混合を担持できるダウンリンク・ストリームを受領する。よって、電話会議において二以上の参加者が同時に話すとき、他の参加者は両方の参加者が話すのを聞くことができる。
【０００７】
ミキサーが、オーディオ信号の一つまたは複数においてある種の変動を知覚するのに応答して混合を変える適応的なアプローチを用いることが知られている（通例はそれが望ましい）。たとえば、オーディオ信号は、発話を含んでいない（すなわち背景雑音のみである）と判定することに応答して、混合から省略されてもよい。だが、間違った時点に混合を変えることは、参加者に聞こえるわずらわしいアーチファクトにつながることがある。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】欧州特許第1855455B1号、Enborn  et  al.
【特許文献２】米国特許第8,396,574号
【特許文献３】米国特許第8,428,280号
【非特許文献】
【０００９】
【非特許文献１】Most,  SB;  Simons,  DJ;  Scholl,  BJ;  Jimenez,  R;  Clifford,  E;  Chabris,  CF、"How  not  to  be  seen:  the  contribution  of  similarity  and  selective  ignoring  to  sustained  inattentional  blindness"、Psychol  Sci  12(1):9‐17、  (January  2001)、doi:10.1111/1467-9280.00303、PMID  11294235、（www.invisiblegorilla.comも参照）
【発明の概要】
【発明が解決しようとする課題】
【００１０】
本稿に開示されるさまざまな発明の方法、デバイス、装置およびシステムは、オーディオ会議混合の改善された形を提供しうる。
【課題を解決するための手段】
【００１１】
本開示の第一の側面によれば、混合遷移イベントを含む、会議参加者の入力オーディオ情報の複数のオーディオ入力ストリームを受け、出力オーディオ情報を含む複数のオーディオ出力ストリームを出力する型のオーディオ会議混合システムにおいて、混合遷移イベントの検出可能性を低減するよう前記オーディオ出力ストリームを混合する方法であって：（ａ）遷移イベントが起ころうとしていることを判別する段階と；（ｂ）マスキング・トリガーが起ころうとしていることを判別する段階と；（ｃ）前記遷移イベントを実質的に、前記マスキング・イベントが起こるときに起こるようスケジュールする段階とを含む、方法が提供される。
【００１２】
前記混合遷移イベントは、孤立して聴取しているときに聴取参加者に知覚可能であろうオーディオ入力ストリーム・エンコードにおける変化を含むことができる。
【００１３】
好ましくは、前記マスキング・トリガーは：発話の開始または終了；発話特性の所定の変化または所定数の参加者による同時発話の開始のうちの少なくとも一つを含むことができる。スケジュールすることは、前記遷移イベントの生起を、前記マスキング・トリガーが生起するまで遅らせることを含むことができる。
【００１４】
いくつかの実施形態では、前記マスキング・トリガーは、前記会議参加者の少なくとも一による所定のテキストの発声を含むことができる。いくつかの実施形態では、前記オーディオ入力ストリームの一つにおけるボリュームおよび／または所定のスペクトル・フラックス（spectral  flux）の増大の存在が、前記オーディオ入力ストリームの前記一つにおけるマスキング・トリガーを示すことができる。発話の開始または終了は、前記オーディオ入力ストリームの一つにおける声活動フラグの値の変化によって表わすことができる。いくつかの実施形態では、前記マスキング・イベントは、一連のオーディオ入力ストリームの聴覚シーン解析によって決定されることができる。
【００１５】
オーディオ入力ストリームは、少なくとも一つのCTX（continuous  transmission［連続伝送］）オーディオ入力ストリームおよび少なくとも一つのDTX（discrete  transmission［離散伝送］）オーディオ入力ストリームを含むことができる。
【００１６】
本開示のあるさらなる側面によれば、オーディオ混合システムが提供される。該オーディオ混合システムは、複数のオーディオ入出力装置からオーディオ入力アップリンク・ストリームを受領する複数のオーディオ・ストリーム入力ユニットであって、前記オーディオ入力アップリンク信号は、孤立して聴取しているときに聴取参加者に知覚可能であろう前記オーディオ・アップリンク・ストリームにおける変化の遷移イベント信号および前記オーディオ入力アップリンク・ストリームにおける所定のオーディオ・イベントを表わすマスキング・トリガー信号を含むことができる、オーディオ・ストリーム入力ユニットと、前記複数のオーディオ入出力装置のそれぞれに返すためのダウンリンク出力をそれぞれ形成する一連のオーディオ・サブ混合ユニットとを含む。各オーディオ・サブ混合ユニットは、前記オーディオ・ストリーム入力ユニットの所定のものに相互接続されていて、前記オーディオ入力アップリンク・ストリームをそれに関連して混合するものであり、前記オーディオ・サブ混合ユニットはさらに：入力されたオーディオ・ストリームの混合の形を制御し、前記遷移イベント信号に応答して混合の形を変更する第一の制御ユニットと；混合の形の前記変更を、前記オーディオ入力アップリンク・ストリームの少なくとも一つにおいてマスキング・トリガー信号が存在するような時まで遅らせるための第二の制御ユニットとをさらに有する。
【００１７】
本稿に開示されるさまざまな実施形態は、システムおよびサーバーが空間的および／またはさらなる連続的なオーディオ信号をミキサーおよび呈示されるシーンに統合することができる特定の用途をもちうる。具体的には、実施形態は、スケーラビリティーが、よってより低い計算上の複雑さおよび／または帯域幅使用が望まれる場合に、有用であることがある。実施形態は、システム制約条件がない場合に価値があることもある。その場合、使用は主として、ある程度の知覚的なシーン複雑さの低減を達成するものである。これも、異なる参加オーディオ信号の存在および混合への寄与を変えることによって行なわれる必要がある。さらに、呈示されるシーンへのアクションおよび変化が、他の要因またはユーザー制御入力からの入来制御信号に起因する場合のそのようなシステムを使うためのケースがある。そのようなケースにおいては、実施形態の使用は、音ストリームまたはオブジェクトの終了、レベル調整、空間的レンダリング属性への変化、処理への変化または通例オーディオ・ストリームの知覚される属性への突然の変化につながるであろう他の任意の変化といった活動の影響を和らげることができる。そのような突然の変化は、予期されず、よって知覚的な連続性という目標を達成するために問題となる。
【図面の簡単な説明】
【００１８】
ここでさまざまな実施形態について、単に例として、付属の図面を参照して述べる。
【図１】好ましい実施形態の適応的な混合構成の一つの形を概略的に示す図である。
【図２】好ましい実施形態の遠隔会議ミキサーを示す図である。
【図３】好ましい実施形態の遠隔会議ミキサーの動作の例示的なシーケンスのタイムラインを示す図である。
【図４】Ａは、オーディオ波形からイベントを判別するためのシステムの要素の例を示すブロック図であり、Ｂは、入力波形ならびにＡに示したようなシステムによって生成されうる対応する特徴およびイベントの例を示す図である。
【図５】Ａは、オーディオ波形からイベントを判別するための代替的なシステムの要素の例を示すブロック図であり、Ｂは、Ａに示したようなシステムによって抽出されうる特徴および検出されうるイベントの例を示す図である。
【図６】Ａ〜Ｃは、特徴抽出器およびイベント検出器を実装するための異なるシステム・トポロジーを示す図である。
【発明を実施するための形態】
【００１９】
好ましい実施形態は、オーディオ遠隔会議（付随するビデオ・ストリームはあってもなくてもよい）のための環境において動作する。
【００２０】
例示的なオーディオ遠隔会議システムが図１に示されている（１）。この構成では、一連の会議参加者が集団的にオーディオ入力および出力を提供する。たとえば、構成１では、第一の参加者２は、会議参加のためにコンピュータ６に相互接続されている一対のヘッドフォン５および入力マイクロフォン３を使う。コンピュータ６は、ネットワーク９を通じたミキサー１１とのアップリンク８およびダウンリンク７接続を提供する。
【００２１】
第二の群の参加者、たとえば２０は、立体音響化（spatialization）情報を含むオーディオ出力を提供するオーディオ装置２１を使う。オーディオ装置２１は、内部的な計算および通信能力をも提供し、ネットワーク２５、２６を介してミキサー１１と相互接続するアップリンク２３およびダウンリンク２４チャネルを含む。さらなる参加者も他の手段を介してミキサーに相互接続されることができる。
【００２２】
図１の構成は、ブーム・マイクロフォン３をもつバイノーラル・ヘッドセット５によって例示されるDTXエンドポイントを利用する複数の会議参加者２を含んでいる。前記複数のDTXエンドポイントのそれぞれは、DTXアップリンク・ストリーム８を、典型的にはネットワーク９を介して、遠隔会議ミキサー１１に呈する。ミキサーは各DTXエンドポイントについてダウンリンク・ストリーム７を生成する。該ダウンリンク・ストリーム７はネットワーク９を通じてエンドポイント２に送り返され、参加者２によって聞かれる。
【００２３】
スピーカーフォン装置２１によって例示される複数のCTXエンドポイントのそれぞれは、さらなる複数の会議参加者２０の発話２７を捕捉する。そのような装置によって、トリビアルでない背景雑音も捕捉されることがある。前記複数のCTXエンドポイントのそれぞれは、典型的にはネットワーク２５を介してCTXアップリンク・ストリーム２６をミキサー１１に呈する。一般性を失うことなく、ネットワーク２５はDTXエンドポイントによって使われるものと同じネットワークであってもよい。ミキサー１１は、各CTXエンドポイントについてダウンリンク・ストリーム２３を生成する。該ダウンリンク・ストリーム２３はネットワーク２５を通じて複数の参加者２０への再生のためにエンドポイント２１に送り返される。
【００２４】
遠隔会議システムにおいて、各参加者エンドポイントはアップリンク・オーディオ・ストリームを遠隔会議ミキサーに送り、遠隔会議ミキサーからダウンリンク・ストリームを受領する。そのようなシステムでは、アップリンクおよびダウンリンクは、デジタル式にエンコードされ、インターネット・プロトコルを通じた音声（VoIP:  voice  over  internet  protocol）ネットワークのような好適なパケット交換網を介して伝送されてもよく、あるいは公衆電話回線網（PSTN:  public  switched  telephone  network）のような回線交換網を通じて伝わってもよい。いずれにせよ、一般に各参加者が自分自身を除く他のすべての参加者の声を聞くよう各エンドポイントに送り返すダウンリンク・オーディオ・ストリームを生成することはミキサー１１の役割である。
【００２５】
そのようなシステムにおけるエンドポイントのあるクラスは、アップリンクにおいて不連続伝送（DTX:  discontinuous  transmission）を用いる。そのようなエンドポイントは、話者の口に近いマイクロフォン配置を用いること；背景雑音を除去する雑音抑制信号処理；人の発話があるときにのみアップリンク・ストリームを送ることの一つまたは複数によって、ネットワーク資源の使用を最小化しつつ了解性を最大化しようとする。
【００２６】
この戦略では、聴取者に聞こえる異常な雑音は少なくなりうるが、それほど自然に聞こえない経験につながることがある。これは第一には、雑音抑制信号処理は典型的には、背景雑音が定常的でないときはわずらわしい動的アーチファクトを導入するためであり、第二には雑音抑制が発話の等化に影響するからであり、第三には、声活動検出器（VAD:  voice  activity  detector）からの不完全な情報に基づく二分式の送る／送らないの決定は時に発話が切り落とされ、時に残留雑音が発話として伝送されることにつながるからである。
【００２７】
エンドポイントの第二のクラスは、アップリンクにおいて連続伝送（CTX:  continuous  transmission）を用いる。すなわち、VAD（もしあれば）が発話があると判定するかないと判定するかに関わりなく、オーディオ・ストリームを送る。ここでの意図は、しばしば、聴取経験の自然さを最大にし、リモート聴取者が、あたかも自分がその場にいるかのように発話定位または立体音響化の諸側面を実行できるようにすることである。よって、CTX装置は、両耳効果によるマスキングからの解放（release  from  masking）を許容するよう空間的ダイバーシチを保持するために複数のマイクロフォンを用いてもよい。CTX装置の設計者は、わずらわしい動的アーチファクトおよびスペクトル的な音色付けの可能性を最小限にするために、装置が実行する雑音抑制処理の量を制限しようとしてもよい。
【００２８】
一般に、DTX装置は、人間の発話をなすと見なさないものは何でも除去するか、抑制するか、あるいは他の仕方で送信するのを回避しようとする。一方、CTX装置は、透明であろうとし、できる限り最も知覚的に連続的で有意な仕方で何でも送信しようとする。
【００２９】
遠隔会議ミキサーを設計するときには、これらの意図を念頭に置くことが重要である。DTXエンドポイントのアップリンクは発話が検出されないときは実質的に無音なので、ミキサー１１は、聴取者にとっての知覚的帰結を伴うことなく、発話が検出されないときはそのアップリンク・ストリームを自由に破棄できてよい。しかしながら、CTXストリームを含むダウンリンク混合を形成するときは、ミキサーは、ストリームにどのように混合遷移を適用するかにおいて、慎重になる必要がある。たとえば、語りが検出されないときにCTXストリームを破棄することは、そのストリームに関連付けられた背景雑音がオフにされるのが聞こえることがあるので、聴取者によって容易に気づかれることがありうる。その遷移をマスクする他のCTXストリームが存在しない場合は特にそうである。聴取者は、システムが故障したのか、あるいはそのCTXエンドポイントが会議から切断されたのかと戸惑うことになりうる。そのような場合、自然な聴取経験を提供するという目標は満たされないであろう。
【００３０】
一般に、遠隔会議ミキサー１１の目標は、各参加者が、自分自身を除く他のすべての参加者からの発話を聞けるようにすることである。しかしながら、この目標にはいくつかの微妙な問題がある。たとえば、それぞれが背景雑音を含んでいる多くのCTXストリームが聴取者によって同時に聞かれる場合、聞こえる全背景雑音パワーは、わずらわしいまたは了解性に有害である点まで高まることがありうる。さらなる例として、みな同時に話している複数のアップリンク・ストリームを考える。結果は、有用な通信を助けるにはあまりに耳障りであることがある。この場合、二つまたは三つの最も知覚的に有意なストリームのみを通すほうがよいことがありうる。本著者を含む多くの著者は、これを達成するための方法を提案してきた。たとえば、特許文献１は一つのそのような方法論を開示しており、2013年9月25日に出願された国際特許出願第PCT/US2013/061658号もこれを達成する第二の方法を開示している。
【００３１】
さらに、ダウンリンク混合において単に動的にアップリンクを許容またはミュートする能力から、遠隔会議ミキサー１１はさらに、他の種類の混合遷移に影響できてもよい。たとえば、ダウンリンク混合においてアップリンク・ストリームの符号化ビットレートまたはオーディオ忠実度を下げることができてもよく、あるいは（アップリンクが複数のマイクロフォンからの空間的ダイバーシチを含むときは）ダウンリンク混合においてアップリンク・ストリームが聞かれる空間的忠実度を調整することができてもよい。ダウンリンクが、アレイもしくはスピーカーを通じてレンダリングするまたは頭部伝達関数（HRTF）を使ってヘッドフォンを通じて仮想化を実行するもののような空間的オーディオ・システムを使って聴取者に呈示される場合、ミキサーはさらに、ストリームがそこから発しているように聴取者に感じられる空間内の知覚される位置もしくは領域に影響することができてもよい。
【００３２】
特定の遠隔会議システムにおいてどの混合遷移がミキサーに利用可能であるかの詳細に関わりなく、ミキサーは、会議における参加者およびエンドポイントの挙動に基づいて動的にそのような遷移を行なうことができ、いくつかの型の遷移は、不用意に適用されると、聴取者に知覚可能となったり、聴取者にわずらわしいものとなったりすることがある。好ましい実施形態は、遠隔会議サーバーにおいて、遷移が聴取者によって容易に知覚可能ではなく、それにより聴取経験における知覚的な連続性および自然さを保持するような仕方で混合遷移を扱う新たな種類の方法を含む。そのために、人間の聴覚シーン解析（auditory  scene  analysis）における選択的注意（selective  attention）の現象を利用する。
【００３３】
選択的注意の現象の例は、おそらく、視覚的知覚の研究における変化盲（change  blindness）または非注意性盲目（inattentional  blindness）の概念との類推によって一番直接的に理解できる。たとえば、非注意性盲目は、シモンズとチャブリスの有名な「見えないゴリラ」実験（非特許文献１）によってよく例解されている。これは、バスケットボールの試合のビデオを見る人が、ボールがパスされる回数を数えるよう言われたとき、ゴリラの着ぐるみを着た人が画面の中央に歩いていって手を振るのに気づかないというものである。このゴリラもどきは目立つものであり、他の状況ではすぐに気づかれるだろうが、見る者の注意が他のところにそらされるために見る者が完全に気づかないことがしばしばある。
【００３４】
好ましい実施形態では、遠隔会議ミキサーにおいて混合遷移を行なう方法であって、普通ならすぐ気づかれるであろう混合遷移が、聴取者の注意を捉える他の何らかのイベントと同時に起こるよう同期されるために気づかれなくなるようなものが提供される。該他のイベントとしては、たとえば、新たな参加者が会議に加わることまたはしばらく語っていなかった参加者からの発話の始まりがある。
【００３５】
好ましい実施形態は、それにより、選択的注意および変化盲の概念を利用して、ダウンリンク・オーディオ・ストリームにおける知覚される連続性を改善するための方法のクラスを提供する。いくつかの実施形態では、遠隔会議ミキサーは一つまたは複数の中央サーバーにあってもよい。他の実施形態では、遠隔会議ミキサーはエンドポイントの一つまたは複数にあってもよい。
【００３６】
遠隔会議設備の技術分野で知られているように、ミキサー１１によってホストされる各会議について、各エンドポイントからアップリンク・ストリームが受領される。ミキサーは各エンドポイントのためのダウンリンク・ストリームを生成する。一般性を失うことなく、複数のアップリンク・ストリームからダウンリンク・ストリームを形成するためにミキサーが用いうる混合技法の例は次のものを含む：
混合：アップリンク・ストリームをデコードまたは部分的にデコードして、デコードされたまたは部分的にデコードされたオーディオ信号を足し合わせて、ダウンリンク・ストリームを再エンコードする。
トランスコード：アップリンクをデコードし、再エンコードしてダウンリンクのコンポーネントを形成する。
転送：アップリンク・ストリームにおけるエンコードされた情報の全部または一部をダウンリンク・ストリーム中にコピーする。
メタデータ調整：アップリンク・ストリームに関連付けられたメタデータを追加、除去または修正して、該アップリンク・ストリームがダウンリンク・エンドポイントにおいて聞いている参加者にレンダリングされる仕方を変更する。
【００３７】
時折、ミキサーは、特定のダウンリンク・ストリームを混合するときに遷移を実行する。遷移とは、孤立して（すなわち、いかなるマスキング・イベントもなしに）実施されたとしたらダウンリンク・エンドポイントにおける聴取参加者に可聴であり、知覚可能であろう、ダウンリンク・オーディオ・ストリームにおける任意の変化である。一般性を失うことなく、混合遷移の例は次のものを含む：混合されたダウンリンク・ストリームにおいてあるアップリンク・ストリームがオンもしくはオフになることまたはフェードインもしくはフェードアウト；ダウンリンク・ストリームの構成要素としてあるアップリンク・ストリームの転送の開始または終了；ダウンリンク・ストリームにおけるアップリンク・ストリームの空間的忠実度（fidelity）または表現（representation）の変更；ダウンリンク・ストリームの構成要素としてのあるアップリンク・ストリームのオーディオ品質の変更（たとえば、符号化ビットレートを調整することによる）；ダウンリンクが空間的もしくは位置的オーディオ・レンダリングができるとき、ダウンリンク・ストリームの空間的シーンにおけるあるアップリンク・ストリームの知覚される位置の変更；ダウンリンク混合における特定のアップリンク・ストリームの利得の、ステップ変化による低下または増大；実際のアップリンク・オーディオ・ストリームから、スペクトル的および（該当する場合には）空間的にアップリンク・ストリームに存在するノイズと同様である合成的に生成されたノイズ場へのスイッチングまたはクロスフェード。
【００３８】
ミキサーは、トリガーに応答して一つまたは複数の遷移を実行する。トリガーは、会議の状態から導出されたイベントである。一般性を失うことなく、トリガーの例は、次のものを含む：１）アップリンク・ストリーム上のVADフラグであって、そのアップリンク上での発話の開始または終了を伝達するもの。VADは、送り側クライアントにおいて実装されて、その結果はアップリンク・ストリーム内のメタデータに含められてもよい。あるいはまた、VADはミキサーにおいて実装され、アップリンク・ストリームに含まれるエンコードされたまたはデコードされたオーディオに基づいて発話存在判定を行なってもよい。２）VAD情報から導出されるヒューリスティック。たとえば、多弁性（verbosity）メトリックがミキサーによって用いられ、あるアップリンク・エンドポイントについて閾値を下回る場合、ダウンリンクにおいてフェードアウト遷移がトリガーされることができる。３）DTXアップリンクをもつエンドポイントからの語りバーストの開始または終了。４）同時語り手の最大数の超過。
【００３９】
多弁性メトリックまたはヒューリスティックの特徴付けの種々の形が使用できる。それには、各チャネルのパワースペクトル解析といった単純な施策も含まれる。より複雑な一つの多弁性指標が、2013年9月25日に出願された国際特許出願第PCT/US2013/061658号において得られる。同文献の内容はここに相互参照によって組み込まれる。
【００４０】
トリガーが呈される際、好ましい実施形態のキーとなる側面は、ミキサーが、そのトリガーから帰結する何らかの遷移を適用する前に好適なマスキング・イベントが生起するまで待つというものである。マスキング・イベントとは、聴取者の注意を捉えるまたは他の仕方で遷移をマスクすることができる任意のイベントである。一般性を失うことなく、マスキング・イベントの例は、次のものを含む：１）アップリンク上のVADであって、そのアップリンク上での発話の開始または終了を伝達するもの。特定のアップリンクにおける発話の開始は、しばらくの時間にわたってそのアップリンク上で発話が存在していなかった場合、特に、マスキング・イベントとして貴重でありうる。したがって、開始イベントは、そのアップリンク上で最後に発話が検出されて以来の時間の長さに基づいて等級付けまたはゲーティングされてもよい。２）アップリンク・エンドポイントで（その場合、結果はアップリンク・ストリームに埋め込まれる）またはミキサーで実装されている発話認識または他の分類アルゴリズムによって判別される特定の音節、単語または発話のクラスの存在。３）アップリンク・ストリームにおいて利用可能なオーディオに基づくまたはそれが導出されるもとになったマイクロフォン信号に基づく、ボリューム・レベル、スペクトル・フラックスまたは他のそのようなヒューリスティックにおけるジャンプ。４）ドルビー・ボリュームのような製品において用いられ、特許文献２、３において概説されるような既存の聴覚シーン解析ベースの技法を使って信号伝達されるイベント。
【００４１】
あるクラスの実施形態では、マスキング・イベントは二値である。すなわち、イベントが存在するかしないかである。ペンディングの遷移は単に、マスキング・イベントが呈される際に行なわれる。第二のクラスの実施形態では、イベントは、そのイベントがどのくらい効果的に聴取者の注意を捉えるかの推定値であるイベント規模（event  magnitude）に従って等級付けされることができる。この規模は、遷移がどのように行なわれるかを制御するために使われる。たとえば、大きな規模のイベントは、短期間の間にフェード遷移を生起させてもよい。一方、小さな規模のイベントは、長期間にわたってフェード遷移を生起させてもよい。さらなる例として、ダウンリンク混合中のアップリンクを、トリガーの結果として、一連のステップ利得変化遷移で減衰させることを望むミキサーを考える。この場合、各遷移において適用される減衰の量は、対応するイベント規模の関数であることができる。
【００４２】
一般性を失うことなく、イベント規模のベースとなりうる属性の例は次のものを含む：アップリンクにおける発話のボリューム・レベル；語りバーストにおける発話の開始におけるボリューム・レベル；ドルビー・ボリューム式のイベント検出器におけるイベントの規模；アップリンク・ストリームにおいて特定の単語、音節または句が検出された信頼度；およびアップリンク上での、語りバーストの開始において、前の語りバーストの終了以来経過した時間。
【００４３】
ミキサーは遠隔会議通話をオンデマンドで管理するところ、図２は、遠隔会議ミキサー１１の一つの例示的な形を概略的に示している。いくつかはDTX（３１、３２）、いくつかはCTX（３３）である複数のアップリンク・ストリームがミキサー１１に呈される。アップリンク・ストリームのそれぞれは、アンパック・ユニット３５、３６、３７を通過する。アップリンク・エンコード情報に依存して、アンパック・ユニットはアップリンク・ストリームをアンパックし、アップリンク・ストリームからVAD  ３８、マスキング・イベント情報およびオーディオ情報４０を抽出し、マスキング・イベント３９を識別する。これについては後述する。ミキサーは複数のダウンリンク・ストリーム４２、４３、４４を生成する。図には、ダウンリンク・ストリーム４３に関連付けられた混合装置４６が示されている。図には、他のダウンリンク・ストリーム４２、４４のそれぞれについて存在する同様の装置は示されていない。このダウンリンクについての混合制御ユニット１１は、他のダウンリンクに関連付けられたアンパック・ユニット３５、３７によって生成されたVADおよびマスキング・イベント信号に基づいて動作し、アップリンク３６以外の各アップリンクについての利得を生成する。これは、ダウンリンク４３はアップリンク３２を生成した同じエンドポイントYによって聞かれるからである。これらの利得はアップリンクからのオーディオをスケーリング４８、４９および混合５０して、ダウンリンク４３を通じて返すための再パッキングおよびエンコード５１のために好適な最終的なオーディオ・ストリームを生成するために使われる。
【００４４】
この好ましい実施形態では、対応するアンパック・ユニットのマスキング・イベント出力、たとえば３９は、たとえば、対応するVAD信号が閾値ΔTeventを超える期間にわたって低であったのちに低（発話検出なし）から高（発話が検出される）に遷移するときに短期間（たとえば20ms）にわたって呈される。閾値はたとえば10秒に設定できる。
【００４５】
DTXアップリンク（たとえば３１）に関する制御ユニット４７の挙動は、関連付けられたVAD信号が高であるときは常に対応する利得を1に設定するというものである。すなわち、DTXエンドポイントは、発話を送っているときは常に、ダウンリンクに混合される。CTXエンドポイント３３に関する制御ユニットの挙動は、対応するアップリンクのVADフラグが高であったとき以来経過した時間の長さが閾値ΔTtriggerを超えるときは常に内部トリガー信号を非アクティブにするというものである。この閾値はたとえば60秒に設定できる。トリガー信号は、対応するVADフラグが高であるときは常に呈される。トリガー信号が呈されていないときは、制御ユニットは、遷移を適用する前に、他のエンドポイントのどれかに対応するマスキング・イベント信号が呈されるまで待つ。遷移は、この好ましい実施形態の例では、CTXエンドポイントの利得を1から0に、たとえば3秒に設定できる時間の長さΔTtransitionにかけて低減することを含む。
【実施例】
【００４６】
図３は、上記の実施形態についての動作のタイムライン６０の例を示している。シーケンスは、CTXエンドポイントZが語りバースト６１を終了することで始まる。この後、二つの語りバースト６２、６３がエンドポイントXから検出される。次いでYがしばらく語り、三つの語りバースト６４、６５、６６が検出され、その後、Xが再び話す６７。時刻ttriggerにおいて、トリガー・イベント６３が生起する。ΔTtriggerを超える期間にわたってCTXエンドポイントZから発話が検出されていないからである。制御ユニットは、今や、すぐにフェードアウトする（７１）のではなく、マスキング・イベントの次のインスタンスに際して遷移を開始する状態にある。マスキング・イベント６８はYが語りはじめる時６４に生起するが、これは制御ユニットにとっては何の意味もない。トリガーより前に生起しており、ミキサーは現在、問題のエンドポイントYのためのダウンリンクにサービスしているところだからである。ΔTeventより長い無音期間７０後にXが語ること６７を再開すると、第二のイベントが信号伝達され（６９）、その受信に際して、制御ユニットは遷移を開始し、ダウンリンクYにおいてアップリンクZを数秒かけてフェードアウト７２させる。
【００４７】
図４のＡは、オーディオ波形からイベントを判別するシステムの要素の例を示すブロック図である。図４のＡに示されるコンポーネントの型および数は、単に例として示されている。代替的な実装はより多数の、より少数のおよび／または異なるコンポーネントを含んでいてもよい。システム４００はたとえば、図２に示し、上述した遠隔会議ミキサー１１のような遠隔会議ミキサーのインスタンスまたはコンポーネントであってもよい。いくつかの実装では、システム４００は、遠隔会議サーバーのコンポーネント、たとえばライン・カードであってもよい。しかしながら、図６のＡ〜Ｃを参照してのちにより詳細に述べるように、いくつかの実装では、システム４００の機能は、少なくとも部分的には、一つまたは複数の電話エンドポイントによって実装されてもよい。システム４００は、少なくとも部分的には、汎用の単一チップまたは複数チップ・プロセッサ、デジタル信号プロセッサ（DSP）、特定用途向け集積回路（ASIC）、フィールド・プログラマブル・ゲート・アレイ（FPGA）または他のプログラム可能型論理デバイス、離散的なゲートもしくはトランジスタ論理および／または離散的なハードウェア・コンポーネントを含んでいてもよい制御システムによって実装されてもよい。いくつかの実装では、システム４００は、一つまたは複数の非一時的な媒体に記憶された命令（たとえばソフトウェア）に従って実装されてもよい。そのような非一時的な媒体は、ランダム・アクセス・メモリ（RAM）デバイス、読み出し専用メモリ（ROM）デバイスなどを含むがそれに限られない、本稿に記載されるようなメモリ・デバイスを含んでいてもよい。
【００４８】
図４のＡに示した例では、システム４００は特徴抽出器４０１およびイベント検出器４０２を含む。ここで、特徴抽出器４０１は入力波形４０３を受領するものとして示されている。いくつかの例では、波形４０３は、発話および／または背景雑音に対応してもよい。波形４０３は、個別的な実装によって変わりうる。たとえば、特徴抽出器４０１が遠隔会議ミキサー、遠隔会議サーバーまたは同様の装置において実装される場合、波形４０３はアップリンク・ストリームからのアンパックされ、デコードされた波形であってもよい。しかしながら、特徴検出器４０１が電話エンドポイントにおいて実装される場合には、波形４０３は生のマイクロフォン信号または前処理されたマイクロフォン信号であってもよい。
【００４９】
この実装では、特徴抽出器４０１は、入力波形４０３を解析し、一つまたは複数の型の特徴４０４に対応する出力を生成することができる。いくつかの例が図４のＢに示され、下記で述べられる。
【００５０】
この例では、イベント検出器４０２は、特徴４０４を解析し、一つまたは複数の型のイベント４０５に対応する出力を生成することができる。いくつかの実装では、イベント４０５は、本稿の他所で記載されるマスキング・イベントであってもよい。よって、いくつかの例では、イベント４０５は発話の開始、発話の停止、特定の音節、単語もしくは発話のクラスの存在、ボリューム・レベル、スペクトル・フラックスまたは他のそのようなヒューリスティックの変化および／または聴覚シーン解析によって決定される基準に対応してもよい。いくつかの実装では、イベント検出器４０２の出力は、「二値」であって、イベントがあるかないかを示すだけでもよい。しかしながら、いくつかの例では、イベント検出器４０２の出力は、たとえば上記したような、イベント規模をも示してもよい。
【００５１】
図４のＢは、入力波形ならびに図４のＡに示したようなシステムによって生成されうる対応する特徴およびイベントの例を示している。この例では、特徴抽出器４０１は、入力波形４０３を解析し、レベルの変化およびピッチの変化に対応する出力を生成することができる。よって、図４のＢに示される例では、特徴４０４ａは波形４０３のレベルの変化に対応し、特徴４０４ｂは波形４０３のピッチの変化に対応する。
【００５２】
この例では、イベント検出器４０２は、それぞれ波形部分４０３ａ〜４０３ｄに対応する時刻t1〜t4におけるイベント４０５ａ〜４０５ｄを検出している。この例によれば、イベント検出器４０２の出力は、イベント規模を示してもよい。イベント規模は、イベント４０５ａ〜４０５ｄに対応する図４のＢに示される線の長さによって示されている。たとえば、イベント４０５ａはイベント４０５ｂより小さな規模をもつ。この例では、イベント検出器４０２は、波形４０３のレベルおよびピッチの両方における有意な変化（たとえば所定の閾値以上の変化）に対応する時刻におけるイベント４０５ａ〜４０５ｄを検出している。
【００５３】
図５のＡは、オーディオ波形からイベントを判別する代替的なシステムの要素の例を示すブロック図である。図５のＡに示されるコンポーネントの型および数は、単に例として示されている。代替的な実装はより多数の、より少数のおよび／または異なるコンポーネントを含んでいてもよい。システム５００はたとえば、図２に示し、上述した遠隔会議ミキサー１１のような遠隔会議ミキサーのインスタンスまたはコンポーネントであってもよい。いくつかの実装では、システム５００は、遠隔会議サーバーのコンポーネント、たとえばライン・カードであってもよい。しかしながら、図６のＡ〜Ｃを参照してのちにより詳細に述べるように、いくつかの実装では、システム５００の機能は、少なくとも部分的には、一つまたは複数の電話エンドポイントによって実装されてもよい。システム５００は、少なくとも部分的には、汎用の単一チップまたは複数チップ・プロセッサ、デジタル信号プロセッサ（DSP）、特定用途向け集積回路（ASIC）、フィールド・プログラマブル・ゲート・アレイ（FPGA）または他のプログラム可能型論理デバイス、離散的なゲートもしくはトランジスタ論理および／または離散的なハードウェア・コンポーネントを含んでいてもよい制御システムによって実装されてもよい。いくつかの実装では、システム５００は、一つまたは複数の非一時的な媒体に記憶された命令（たとえばソフトウェア）に従って実装されてもよい。そのような非一時的な媒体は、ランダム・アクセス・メモリ（RAM）デバイス、読み出し専用メモリ（ROM）デバイスなどを含むがそれに限られない、本稿に記載されるようなメモリ・デバイスを含んでいてもよい。
【００５４】
図５のＡに示した例では、システム５００は特徴抽出器４０１およびイベント検出器４０２を含む。この実装では、特徴抽出器４０１は声検出器（VAD）として機能できる。よって、この例では、特徴抽出器４０１によって出力される特徴はVAD結果５０４を含む。図５のＢを参照して後述するように、この例では、イベント検出器４０２は、図４のＡおよびＢを参照して上述したのとは異なる方法論によってイベント５０５を検出できる。
【００５５】
図５のＢは、図５のＡに示したようなシステムによって抽出されうる特徴および検出されうるイベントの例を示している。図５のＢに示される例では、図４のＢに示される同じ入力波形４０３が特徴抽出器４０１に入力される。この実装では、特徴抽出器４０１は、波形部分４０３ａが発話に対応せず、その代わり背景雑音に対応することを判別する。したがって、否定的なVAD結果が時刻t1において出力される。ここで、特徴抽出器４０１は、波形部分４０３ｂおよび４０３ｃに対応するVAD結果５０４ａを、時刻t2に始まって時刻t3に至るまで出力する。この例によれば、特徴抽出器４０１は、波形部分４０３ｄに対応するVAD結果５０４ｂを、時刻t4に始まって、出力する。
【００５６】
この例では、イベント検出器４０２は、非発話の所定の時間間隔後の発話の開始に対応するイベントを判別できる。非発話の所定の時間間隔は、実装によって変わりうる。たとえば、いくつかの実装では、非発話の所定の時間間隔は2秒、3秒、5秒、10秒、15秒、20秒、30秒、60秒などであってもよい。いくつかの実装によれば、非発話の所定の時間間隔は、図２を参照して述べたΔTtriggerに対応してもよい。
【００５７】
この例では、イベント検出器４０２は単一のイベント５０５のみを検出する。このインスタンスでは、イベント検出器４０２は二値のイベントを出力する。この例によれば、イベント検出器４０２は時刻t1においてはイベントを検出しない。特徴抽出器４０１が、波形部分４０３ａが発話に対応しないと判定しており、よって時刻t1ではVAD結果が出力されなかったからである。この実装では、イベント検出器４０２は、VAD結果５０４ａの始まりに対応する時刻t2においてイベント５０５を検出する。この特徴は、非発話の所定の時間間隔後の発話の開始に対応するからである。この例では、非発話の所定の時間間隔は時刻t3と時刻t4の間の時間間隔より大きい。したがって、イベント検出器４０２は、VAD結果５０４ｂの始まりに対応する時刻t4においてはイベントを検出しない。この特徴は、非発話の前記所定の時間間隔より短い非発話の時間間隔後の発話の開始に対応するからである。
【００５８】
図６のＡ〜Ｃは、特徴抽出器およびイベント検出器を実装するための異なるシステム・トポロジーを示している。図６のＡ〜Ｃに示されるコンポーネントの型および数は、単に例として示されている。代替的な実装はより多数の、より少数のおよび／または異なるコンポーネントを含んでいてもよい。システム６００Ａ〜６００Ｂは、少なくとも部分的には、汎用の単一チップまたは複数チップ・プロセッサ、デジタル信号プロセッサ（DSP）、特定用途向け集積回路（ASIC）、フィールド・プログラマブル・ゲート・アレイ（FPGA）または他のプログラム可能型論理デバイス、離散的なゲートもしくはトランジスタ論理および／または離散的なハードウェア・コンポーネントを含んでいてもよい制御システムによって実装されてもよい。いくつかの実装では、システム６００Ａ〜６００Ｂは、一つまたは複数の非一時的な媒体に記憶された命令（たとえばソフトウェア）に従って実装されてもよい。そのような非一時的な媒体は、ランダム・アクセス・メモリ（RAM）デバイス、読み出し専用メモリ（ROM）デバイスなどを含むがそれに限られない、本稿に記載されるようなメモリ・デバイスを含んでいてもよい。
【００５９】
図６のＡ〜Ｃに示した例では、システム６００Ａ〜６００Ｃは電話エンドポイント６０１Ａ〜６０１Ｃおよびアンパック・ユニット６０３Ａ〜６０３Ｃを含む。アンパック・ユニット６０３Ａ〜６０３Ｃのそれぞれは、いくつかの実装では、図２を参照して上記したアンパック・ユニット３５〜３７の一つと同様の機能を有していてもよい。アンパック・ユニット６０３Ａ〜６０３Ｃは、本稿の他所で開示されるもののような遠隔会議ミキサーの一部であってもよい。電話エンドポイント６０１Ａ〜６０１Ｃは、音を入力波形に変換するための一つまたは複数のマイクロフォン（図示せず）を含んでいてもよい。
【００６０】
図６Ａに示した実装によれば、電話エンドポイント６０１Ａは特徴抽出器４０１Ａを含み、アンパック・ユニット６０３Ｃはイベント検出器４０２Ａを含む。この例では、特徴抽出器４０１ＡはVAD機能ができる。よって、特徴抽出器４０１Ａは、入力波形６０１Ａを受領して、VAD結果５０４Ａをマルチプレクサ６０６Ａに出力することができる。この実装では、オーディオ・エンコーダ６０４Ａは、入力波形６０１Ａをエンコードし、エンコードされたオーディオ・データ６０７Ａをマルチプレクサ６０６Ａに出力することができる。ここで、マルチプレクサ６０６Ａは、VAD結果５０４Ａおよびエンコードされたオーディオ・データ６０７Ａを組み合わせることができる。電話エンドポイント６０１Ａはアップリンク・ストリーム６０５Ａをネットワーク６０２に出力することができる。
【００６１】
図６のＡに示される例では、アンパック・ユニット６０３Ａは、アップリンク・ストリーム６０５Ａを受領し、エンコードされたオーディオ・データ６０７ＡからVAD結果５０４Ａを分離することができるデマルチプレクサ６０９Ａを含む。この実装では、デマルチプレクサ６０９ＡはVAD結果５０４Ａをイベント検出器４０２Ａに出力することができる。イベント検出器４０２Ａはイベント４０５Ａを検出し、出力することができる。ここで、デマルチプレクサ６０９Ａは、エンコードされたオーディオ・データ６０７Ａをデコーダ６０８Ａに出力することができる。デコーダ６０８Ａはオーディオ・データ６０７Ａをデコードして、デコードされたオーディオ・データ６１３Ａを出力することができる。
【００６２】
図６のＢに示した例では、システム６００Ｂは電話エンドポイント６０１Ｂおよびアンパック・ユニット６０３Ｂを含む。この実装では、電話エンドポイント６０１Ｂは、入力波形６１０Ｂを受領し、エンコードされたオーディオ・データ６０７Ｂを出力できるオーディオ・エンコーダ６０４Ｂを含む。エンコードされたオーディオ・データ６０７Ｂは、アップリンク・ストリーム６０５Ｂにおいてネットワーク６０２に与えられる。
【００６３】
図６のＢに示した例では、アンパック・ユニット６０３Ｂはデコーダ６０８Ｂを含む。デコーダ６０８Ｂは、アップリンク・ストリーム６０５Ｂをデコードして、デコードされたオーディオ・データ６１３Ｂを出力することができる。この実装では、アンパック・ユニット６０３Ｂは特徴抽出器４０１Ｂを含む。特徴抽出器４０１Ｂはデコードされたオーディオ・データ６１３Ｂを受領し、特徴４０４を抽出することができる。この例では、特徴抽出器４０１Ｂは、特徴４０４をイベント検出器４０２Ｂに出力することができる。イベント検出器４０２Ｂは、イベント４０５Ｂを検出し、出力することができる。
【００６４】
図６のＣに示される実装によれば、電話エンドポイント６０１Ｃは特徴抽出器４０１Ｃおよびイベント検出器４０２Ｃを含む。この例では、特徴抽出器４０１ＣはVAD機能ができる。よって、特徴抽出器４０１Ｃは、入力波形６０１Ｃを受領して、VAD結果５０４Ｃをマルチプレクサ６０６Ｃおよびイベント検出器４０２Ｃに出力することができる。この実装では、オーディオ・エンコーダ６０４Ｃは、入力波形６１０Ｃをエンコードし、エンコードされたオーディオ・データ６０７Ｃをマルチプレクサ６０６Ｃに出力することができる。この例では、イベント検出器４０２Ｃは、VAD結果５０４Ｃに基づいてイベント４０５Ｃを検出し、イベント４０５Ｃをマルチプレクサ６０６Ｃに出力することができる。ここで、マルチプレクサ６０６Ｃは、VAD結果５０４Ｃ、イベント４０５Ｃおよびエンコードされたオーディオ・データ６０７Ｃを組み合わせることができる。これらはみなアップリンク・ストリーム６０５Ｃにおいてネットワーク６０２に与えられる。
【００６５】
図６のＣに示される例では、アンパック・ユニット６０３Ｃは、アップリンク・ストリーム６０５Ｃを受領し、エンコードされたオーディオ・データ６０７ＣからVAD結果５０４Ｃおよびイベント４０５Ｃを分離することができるデマルチプレクサ６０９Ｃを含む。この実装では、デマルチプレクサ６０９Ｃは、エンコードされたオーディオ・データ６０７Ｃをデコーダ６０８Ｃに出力することができる。デコーダ６０８Ｃはオーディオ・データ６０７Ｃをデコードして、デコードされたオーディオ・データ６１３Ｃを出力することができる。
【００６６】
まとめ
したがって、好ましい実施形態が、好適なトリガーを求めてオーディオ環境をモニタリングし、該トリガーが生起するような時点まで遷移を遅らせることによって、オーディオ会議遷移をマスクするための方法およびシステムを提供することは明らかであろう。
【００６７】
〈解釈〉
本明細書を通じて、「一つの実施形態」「いくつかの実施形態」または「ある実施形態」への言及は、その実施形態との関連で記述されている特定の特徴、構造または特性が本発明の少なくとも一つの実施形態に含まれることを意味する。よって、本明細書を通じた随所に「一つの実施形態では」「いくつかの実施形態では」または「ある実施形態では」という句が現われるのは、必ずしもみなが同じ実施形態を指しているのではないが、そうであることもありうる。さらに、具体的な特徴、構造または特性は、一つまたは複数の実施形態において、本開示から当業者には明白であろう任意の好適な仕方で組み合わされてもよい。
【００６８】
付属の請求項および本稿の記述において、有する、から構成される、含むという用語の任意のものは、少なくともその後続の要素／特徴を含むが他のものを排除しないことを意味するオープンな用語である。よって、請求項において使われるときの有するの該用語は、その後に挙げられる手段または要素または段階に制限するものとして解釈されるべきではない。たとえば、AおよびBを有する装置という表現の範囲は、要素AおよびBのみからなる装置に限定されるべきではない。本稿で使われる含む、含んでいるという用語の任意のものも、少なくともその用語に続く要素／特徴を含むが他のものを排除しないことを意味する。よって、含むは、有すると同義であり、有するを意味する。
【００６９】
本稿での用法では、用語「例示的」は、性質を示すのではなく、例を挙げる意味で使われる。すなわち、「例示的実施形態」は、必ず例示的な性質の実施形態であるのではなく、例として与えられている実施形態である。
【００７０】
本発明の例示的実施形態の上記の記述において、開示の流れをよくし、さまざまな発明側面の一つまたは複数のものの理解を助けるため、本発明のさまざまな特徴が時に単一の実施形態、図面またはその記述にまとめられていることを理解しておくべきである。しかしながら、この開示法は、請求される発明が、各請求項に明示的に記載されているよりも多くの事項を必要とするという意図を反映したものと解釈されるものではない。むしろ、付属の請求項が反映するように、発明の諸側面は、単一の上記の開示される実施形態の全事項よりも少ないものに存する。このように、付属の請求項は、ここに明示的に詳細な説明に組み込まれ、各請求項がそれ自身として本発明の別個の実施形態をなす。
【００７１】
さらに、本稿に記載されるいくつかの実施形態が他の実施形態に含まれるいくつかの特徴を含むが他の特徴を含まなくても、異なる実施形態の特徴の組み合わせは本発明の範囲内であり、異なる実施形態をなすことが意図されている。当業者はこれを理解するであろう。たとえば、付属の請求項では、請求される実施形態の任意のものが任意の組み合わせにおいて使用できる。
【００７２】
さらに、実施形態のいくつかは、本稿では方法または方法の要素の組み合わせであって、コンピュータ・システムのプロセッサによってまたは該機能を実行する他の手段によって実装されることができるものとして記述されている。よって、そのような方法または方法の要素を実行するための必要な命令をもつプロセッサは、前記方法または方法の要素を実行する手段をなす。さらに、装置実施形態の本稿に記載される要素は、本発明を実行するための該要素によって実行される機能を実行する手段の一例である。
【００７３】
一つまたは複数のコンピュータ可読媒体の任意の組み合わせが利用されうる。コンピュータ可読媒体は、コンピュータ可読信号媒体またはコンピュータ可読記憶媒体でありうる。コンピュータ可読記憶媒体は、たとえば、電子式、磁気式、光学式、電磁式、赤外線または半導体のシステム、装置またはデバイスまたは上記の任意の好適な組み合わせであってもよいが、それに限定されない。コンピュータ可読記憶媒体のより特定的な例（網羅的でないリスト）は、以下のものを含みうる：一つまたは複数のワイヤを有する電気接続、ポータブル・コンピュータ・ディスケット、ハードディスク、ランダム・アクセス・メモリ（RAM）、読み出し専用メモリ（ROM）、消去可能なプログラム可能な読み出し専用メモリ（EPROMまたはフラッシュ・メモリ）、光ファイバー、ポータブルなコンパクトディスク読み出し専用メモリ（CD-ROM）、光記憶デバイス、磁気記憶デバイスまたは上記の任意の好適な組み合わせ。本稿の文脈では、コンピュータ可読記憶媒体は、命令実行システム、装置またはシステムによってまたは命令実行システム、装置またはシステムとの関連で使うためのプログラムを含むまたは記憶することができる任意の有体の媒体でありうる。
【００７４】
コンピュータ可読信号媒体は、コンピュータ可読プログラム・コードがたとえばベースバンドでまたは搬送波の一部としてその中に具現されている伝搬されるデータ信号を含んでいてもよい。そのような伝搬される信号は多様な形をとってもよい。それは、電磁信号または光信号またはそれらの任意の好適な組み合わせを含むがそれに限られない。
【００７５】
コンピュータ可読信号媒体は、命令実行システム、装置またはシステムによってまたは命令実行システム、装置またはシステムとの関連で使うためのプログラムを通信、伝搬または転送することができる、コンピュータ可読記憶媒体ではない任意のコンピュータ可読媒体でありうる。
【００７６】
コンピュータ可読媒体に具現されるプログラム・コードは、無線、有線、光ファイバーケーブル、RFなどまたは上記の任意の好適な組み合わせを含むがそれに限られないいかなる適切な媒体を使って伝送されてもよい。
【００７７】
本発明の諸側面についての動作を実行するためのコンピュータ・プログラム・コードは、ジャバ、スモールトーク、C++などのようなオブジェクト指向プログラミング言語およびCプログラミング言語または同様のプログラミング言語のような通常の手続き型言語を含む一つまたは複数のプログラミング言語の任意の組み合わせで書かれてもよい。プログラム・コードは、完全にユーザーのコンピュータ上でスタンドアローンのソフトウェア・パッケージとして実行されてもよいし、あるいは部分的にはユーザーのコンピュータ上で部分的にはリモート・コンピュータ上で実行されてもよいし、あるいは完全にリモート・コンピュータまたはサーバー上で実行されてもよい。後者のシナリオでは、リモート・コンピュータは、ローカル・エリア・ネットワーク（LAN）または広域ネットワーク（WAN）を含むいかなる型のネットワークを通じてユーザーのコンピュータに接続されてもよく、あるいは（たとえばインターネット・サービス・プロバイダーを使ってインターネットを通じて）外部コンピュータに接続がされてもよい。
【００７８】
本稿で与えられる記述では、数多くの個別的詳細が記載される。しかしながら、本発明の実施形態がそうした個別的詳細なしでも実施されうることは理解される。他方、本記述の理解をかすませないために、よく知られた方法、構造および技法は詳細に示していない。
【００７９】
このように、本発明の好ましい実施形態であると思われることを記述してきたが、当業者は本発明の精神から外れることなく、それに他のおよびさらなる修正がなされてもよいことを認識するであろう。それらすべての変更および修正を本発明の範囲内にはいるものとして請求することが意図されている。たとえば、上記の公式はいずれも単に使用されうる手順の代表である。ブロック図から機能が追加または削除されてもよく、機能ブロックの間で動作が交換されてもよい。本発明の範囲内で記述される方法に段階が追加または削除されてもよい。
【図１】
2017510179.tif 000003
【図２】
2017510179.tif 000004
【図３】
2017510179.tif 000005
【図４】
2017510179.tif 000006
【図５】
2017510179.tif 000007
【図６】
2017510179.tif 000008
【手続補正書】
【提出日】平成28年4月4日(2016.4.4)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
混合遷移イベントを含む、会議参加者の入力オーディオ情報の複数のオーディオ入力ストリームを受け、出力オーディオ情報を含む複数のオーディオ出力ストリームを出力する型のオーディオ会議混合システムにおいて、前記オーディオ入力ストリームを混合する方法であって：
（ａ）遷移イベントが起ころうとしていることを判別する段階であって、前記遷移イベントは、マスキング・イベントが起こらないときに起これば聴取参加者に知覚可能であろう、前記オーディオ入力ストリームの前記混合への変化である、段階と；
（ｂ）前記オーディオ入力ストリームの一つにおいてマスキング・イベントが起ころうとしていることを判別する段階であって、前記マスキング・イベントは、前記遷移イベントが起こるときに起これば前記遷移イベントが聴取参加者にとって知覚可能でなくなるような、聴取参加者の注意を捉えうるイベントである、段階と；
（ｃ）前記遷移イベントを実質的に、前記マスキング・イベントが起こるときに起こるようスケジュールする段階であって、前記遷移イベントをスケジュールすることは、前記遷移イベントの生起を、前記マスキング・イベントが生起するまで遅らせることを含む、段階とを含む、
方法。
【請求項２】
前記マスキング・イベントは、前記オーディオ入力ストリームの一つにおける発話の開始または終了を含む、請求項１記載の方法。
【請求項３】
発話の前記開始または終了は、前記オーディオ入力ストリームの一つにおける声活動フラグの値の変化によって表わされる、請求項２記載の方法。
【請求項４】
前記マスキング・イベントは、前記会議参加者の少なくとも一による所定のテキストの発声を含む、請求項１ないし３のうちいずれか一項記載の方法。
【請求項５】
前記オーディオ入力ストリームの一つにおけるボリュームおよび／または所定のスペクトル・フラックスの増大の存在が、前記オーディオ入力ストリームの前記一つにおけるマスキング・イベントを示す、請求項１ないし４のうちいずれか一項記載の方法。
【請求項６】
前記マスキング・イベントが、一連のオーディオ入力ストリームの聴覚シーン解析によって決定される、請求項１ないし５のうちいずれか一項記載の方法。
【請求項７】
前記オーディオ入力ストリームは、少なくとも一つのCTX（連続伝送）オーディオ入力ストリームおよび少なくとも一つのDTX（離散伝送）オーディオ入力ストリームを含む、請求項１ないし６のうちいずれか一項記載の方法。
【請求項８】
請求項１ないし７のうちいずれか一項記載の方法を実行するよう構成されているオーディオ混合システム。
【請求項９】
遠隔会議混合システムにおいて使うための装置であって、複数のオーディオ入力ストリームを受領し、それらのオーディオ入力ストリームに基づいて少なくとも一つのオーディオ出力ストリームを生成するよう構成されている装置のプロセッサによって実行されたときに、前記装置に請求項１ないし７のうちいずれか一項記載の方法を実行させる、コンピュータにより解釈可能な命令を担持しているコンピュータ可読媒体。
【国際調査報告】
2017510179.tif 000009
2017510179.tif 000010