(57)【要約】【課題】再生されるオーディオ信号の音質を劣化させることなく、オーディオ信号の符号化データ量を削減可能なオーディオ符号化装置及びオーディオ符号化方法を提供する。【解決手段】オーディオ符号化装置１は、第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、各チャネルの信号をそれぞれ周波数信号に変換し、各チャネルの周波数信号から音の空間的な情報を表す空間情報を抽出し、空間情報が人の聴覚に与える影響の度合いを表す重要度を周波数ごとに算出し、重要度が所定の閾値よりも小さい周波数について、空間情報を周波数方向に平滑化するように空間情報を補正し、補正された空間情報を周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成する。【選択図】図１
2011013560.tif 000002
【特許請求の範囲】
【請求項１】
第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、前記各チャネルの信号を、それぞれ周波数信号に変換する時間周波数変換部と、
前記各チャネルの周波数信号をダウンミックスすることにより、前記第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成するダウンミックス部と、
前記オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成する低チャネル符号部と、
前記各チャネルの周波数信号から、音の空間的な情報を表す空間情報を抽出する空間情報抽出部と、
前記空間情報に基づいて、前記空間情報が人の聴覚に対する影響の度合いを表す重要度を周波数ごとに算出する重要度算出部と、
前記重要度が所定の閾値よりも小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を補正する空間情報補正部と、
前記補正された空間情報を、周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成する空間情報符号化部と、
前記低チャネルオーディオ符号と前記空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する多重化部と、
を有するオーディオ符号化装置。
【請求項２】
前記空間情報符号化部により生成された前記空間情報符号のデータ量が、あらかじめ決められた上限値よりも多い場合、前記所定の閾値を高く修正する補正幅制御部をさらに有し、
前記空間情報補正部は、前記修正された所定の閾値よりも前記重要度が小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を再補正し、
前記空間情報符号化部は、前記再補正された空間情報に基づいて前記空間情報符号を再生成し、
前記多重化部は、前記低チャネルオーディオ符号と前記再生成された空間情報符号を多重化することにより、前記符号化されたオーディオ信号を生成する、請求項１に記載のオーディオ符号化装置。
【請求項３】
前記補正幅制御部は、前記空間情報符号化部により生成された前記空間情報符号のデータ量が所定の下限値よりも少ない場合、前記所定の閾値を低く修正し、
前記空間情報補正部は、前記修正された所定の閾値よりも前記重要度が小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を再補正し、
前記空間情報符号化部は、前記再補正された空間情報に基づいて前記空間情報符号を再生成し、
前記多重化部は、前記低チャネルオーディオ符号と前記再生成された空間情報符号を多重化することにより、前記符号化されたオーディオ信号を生成する、請求項２に記載のオーディオ符号化装置。
【請求項４】
前記空間情報抽出部は、前記各チャネルの周波数信号間の類似度及び強度差を前記空間情報として抽出し、
前記空間情報補正部は、前記重要度が所定の閾値よりも小さい周波数について、前記類似度または前記強度差の少なくとも何れか一方を周波数方向に平滑化し、
前記空間情報符号化部は、前記補正された類似度及び強度差を、それぞれ周波数方向に差分することにより得られた差分類似度及び差分強度差を符号化することにより、前記空間情報符号を生成する、請求項１〜３の何れか一項に記載のオーディオ符号化装置。
【請求項５】
第１のフレームについて算出された差分類似度の符号データ量である類似度符号量と、差分強度差の符号データ量である強度差符号量を記憶する記憶部と、
前記類似度符号量が前記強度差符号量よりも多い場合、前記類似度に対する重み係数である類似度重みを、前記強度差に対する重み係数である強度差重みよりも大きく設定し、一方、前記類似度符号量が前記強度差符号量よりも少ない場合、前記類似度重みを、前記強度差重みよりも小さく設定する重み決定部をさらに有し、
前記重要度算出部は、前記第１のフレームよりも後の第２のフレームに対する重要度を、前記類似度重みが大きくなるほど前記重要度に対する前記第２のフレームおいて算出された前記類似度の寄与が大きくなり、かつ前記強度差重みが大きくなるほど前記重要度に対する前記第２のフレームおいて算出された前記強度差の寄与が大きくなるように決定する、請求項４に記載のオーディオ符号化装置。
【請求項６】
第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、前記各チャネルの信号を、それぞれ周波数信号に変換し、
前記各チャネルの周波数信号をダウンミックスすることにより、前記第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、
前記オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成し、
前記各チャネルの周波数信号から、音の空間的な情報を表す空間情報を抽出し、
前記空間情報に基づいて、前記空間情報が人の聴覚に対する影響の度合いを表す重要度を周波数ごとに算出し、
前記重要度が所定の閾値よりも小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を補正し、
前記補正された空間情報を、周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成し、
前記低チャネルオーディオ符号と前記空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する、
ことを含むオーディオ符号化方法。
【請求項７】
第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、前記各チャネルの信号を、それぞれ周波数信号に変換し、
前記各チャネルの周波数信号をダウンミックスすることにより、前記第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、
前記オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成し、
前記各チャネルの周波数信号から、音の空間的な情報を表す空間情報を抽出し、
前記空間情報に基づいて、前記空間情報が人の聴覚に対する影響の度合いを表す重要度を周波数ごとに算出し、
前記重要度が所定の閾値よりも小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を補正し、
前記補正された空間情報を、周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成し、
前記低チャネルオーディオ符号と前記空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する、
ことをコンピュータに実行させるオーディオ符号化用コンピュータプログラム。
【請求項８】
入力された動画像信号を符号化する動画像符号化部と、
入力された第１のチャネル数を持つオーディオ信号を符号化するオーディオ符号化部であって、
前記オーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、前記各チャネルの信号を、それぞれ周波数信号に変換し、
前記各チャネルの周波数信号をダウンミックスすることにより、前記第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、
前記オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成し、
前記各チャネルの周波数信号から、音の空間的な情報を表す空間情報を抽出し、
前記空間情報に基づいて、前記空間情報が人の聴覚に対する影響の度合いを表す重要度を周波数ごとに算出し、
前記重要度が所定の閾値よりも小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を補正し、
前記補正された空間情報を周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成し、
前記低チャネルオーディオ符号と前記空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する、オーディオ符号化部と、
前記動画像符号化部により符号化された動画像信号と前記オーディオ符号化部により符号化されたオーディオ信号を多重化することにより映像ストリームを生成する多重化部と、
を有する映像伝送装置。
【発明の詳細な説明】
【技術分野】
【０００１】
ここに開示される実施形態は、オーディオ符号化装置、オーディオ符号化方法及びオーディオ符号化用コンピュータプログラムならびに映像伝送装置に関する。
【背景技術】
【０００２】
近年、圧縮効率が高いオーディオ信号の符号化方式として、パラメトリックステレオ符号化方式が開発されている（例えば、特許文献１を参照）。パラメトリックステレオ符号化方式は、例えば、ステレオ信号から、音の広がりまたは定位を表す空間情報を抽出し、抽出された空間情報を符号化する。パラメトリックステレオ符号化方式は、例えば、Moving Picture Experts Group phase 4 (MPEG-4)のHigh-Efficiency Advanced Audio Coding version.2 (HE-AAC ver.2)において採用されている。
【０００３】
HE-AAC ver.2では、符号化対象となるステレオ信号が時間周波数変換され、その時間周波数変換により得られた周波数信号がダウンミックスされることにより、モノラル音声に対応する周波数信号が算出される。そしてモノラル音声に対応する周波数信号は、Advanced Audio Coding(AAC)符号化方式及びSpectral Band Replication(SBR)符号化方式により符号化される。一方、左右の周波数信号の類似度あるいは強度差が空間情報として算出され、この類似度及び強度差がそれぞれ量子化されることにより符号化される。このように、HE-AAC ver.2では、ステレオ信号から算出されたモノラル信号とデータ量の比較的少ない空間情報を符号化することで、ステレオ信号に対して高い圧縮効率が得られる。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特表２００７−５２４１２４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、周波数ごとの周波数信号値が大きく異なる場合など、空間情報のデータ量が多い場合、空間情報に対する符号化データ量が多くなってしまうことがある。特に、オーディオ符号化装置が固定ビットレートでステレオ信号を符号化する場合、空間情報の符号化データ量が多いほど、モノラル信号に対して割当可能な符号化データ量が減少してしまう。そのため、場合によっては、モノラル信号に対して割当られた符号化データ量が、AAC及びSBRによって符号化されたモノラル信号の符号化データ量よりも少なくなり、モノラル信号の符号の一部が廃棄されてしまう。そしてモノラル信号の符号の一部が廃棄されてしまうと、符号化されたステレオ信号を復号することにより再生されたステレオ信号の音質が劣化する。
【０００６】
そこで、本明細書は、再生されるオーディオ信号の音質を劣化させることなく、オーディオ信号の符号化データ量を削減可能なオーディオ符号化装置、オーディオ符号化方法及びオーディオ符号化用コンピュータプログラムならびに映像伝送装置を提供することを目的とする。
【課題を解決するための手段】
【０００７】
一つの実施形態によれば、オーディオ符号化装置が提供される。このオーディオ符号化装置は、第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、各チャネルの信号をそれぞれ周波数信号に変換する時間周波数変換部と、各チャネルの周波数信号をダウンミックスすることにより、第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成するダウンミックス部と、オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成する低チャネル符号部と、各チャネルの周波数信号から音の空間的な情報を表す空間情報を抽出する空間情報抽出部と、空間情報に基づいて、空間情報が人の聴覚に与える影響の度合いを表す重要度を周波数ごとに算出する重要度算出部と、重要度が所定の閾値よりも小さい周波数について、空間情報を周波数方向に平滑化するように空間情報を補正する空間情報補正部と、補正された空間情報を周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成する空間情報符号化部と、低チャネルオーディオ符号と空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する多重化部とを有する。
【０００８】
また他の実施形態によれば、オーディオ符号化方法が提供される。このオーディオ符号化方法は、第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより各チャネルの信号をそれぞれ周波数信号に変換し、各チャネルの周波数信号をダウンミックスすることにより、第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成し、各チャネルの周波数信号から音の空間的な情報を表す空間情報を抽出し、空間情報に基づいて、空間情報が人の聴覚に与える影響の度合いを表す重要度を周波数ごとに算出し、重要度が所定の閾値よりも小さい周波数について、空間情報を周波数方向に平滑化するように空間情報を補正し、補正された空間情報を周波数方向に差分することにより得られた差分空間情報を符号化することにより空間情報符号を生成し、低チャネルオーディオ符号と空間情報符号を多重化することにより、符号化されたオーディオ信号を生成することを含む。
【０００９】
さらに他の実施形態によれば、コンピュータに入力されたオーディオ信号を符号化させるオーディ符号化用コンピュータプログラムが提供される。このコンピュータプログラムは、第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、各チャネルの信号をそれぞれ周波数信号に変換し、各チャネルの周波数信号をダウンミックスすることにより、第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、オーディオ周波数信号を符号化することにより低チャネルオーディオ符号を生成し、各チャネルの周波数信号から音の空間的な情報を表す空間情報を抽出し、空間情報に基づいて、空間情報が人の聴覚に与える影響の度合いを表す重要度を周波数ごとに算出し、重要度が所定の閾値よりも小さい周波数について、空間情報を周波数方向に平滑化するように空間情報を補正し、補正された空間情報を周波数方向に差分することにより得られた差分空間情報を符号化することにより空間情報符号を生成し、低チャネルオーディオ符号と空間情報符号を多重化することにより、符号化されたオーディオ信号を生成することをコンピュータに実行させる命令を有する。
【００１０】
さらに他の実施形態によれば、映像伝送装置が提供される。この映像伝送装置は、入力された動画像信号を符号化する動画像符号化部と、入力された第１のチャネル数を持つオーディオ信号を符号化するオーディオ符号化部と、動画像符号化部により符号化された動画像信号とオーディオ符号化部により符号化されたオーディオ信号を多重化することにより映像ストリームを生成する多重化部とを有する。またオーディオ符号化部は、オーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより各チャネルの信号をそれぞれ周波数信号に変換し、各チャネルの周波数信号をダウンミックスすることにより、第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成し、各チャネルの周波数信号から音の空間的な情報を表す空間情報を抽出し、空間情報に基づいて、空間情報が人の聴覚に与える影響の度合いを表す重要度を周波数ごとに算出し、重要度が所定の閾値よりも小さい周波数について、空間情報を周波数方向に平滑化するように空間情報を補正し、補正された空間情報を周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成し、低チャネルオーディオ符号と空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する。
【００１１】
本発明の目的及び利点は、請求項において特に指摘されたエレメント及び組み合わせにより実現され、かつ達成される。
上記の一般的な記述及び下記の詳細な記述の何れも、例示的かつ説明的なものであり、請求項のように、本発明を限定するものではないことを理解されたい。
【発明の効果】
【００１２】
本明細書に開示されたオーディオ符号化装置、オーディオ符号化方法及びオーディオ符号化用コンピュータプログラムならびに映像伝送装置は、再生されるオーディオ信号の音質を劣化させることなく、オーディオ信号の符号化データ量を削減することができる。
【図面の簡単な説明】
【００１３】
【図１】一つの実施形態に係るオーディオ符号化装置の概略構成図である。
【図２】重要度と平滑化される類似度の関係を説明する図である。
【図３】類似度に対する量子化テーブルの一例を示す図である。
【図４】インデックスの差分値と類似度符号の関係を示すテーブルの一例を示す図である。
【図５】強度差に対する量子化テーブルの一例を示す図である。
【図６】閾値を変化させたときの重要度と平滑化される類似度の関係を説明する図である。
【図７】PS符号生成処理の動作を示すフローチャートである。
【図８】符号化されたステレオ信号が格納されたデータ形式の一例を示す図である。
【図９】オーディオ符号化処理の動作を示すフローチャートである。
【図１０】（ａ）はオリジナルのオーディオ信号の波形の一例を示す図であり、（ｂ）は従来技術のパラメトリックステレオ符号化方式により符号化されたオーディオ信号を再生した波形の一例を示す図であり、（ｃ）は本実施形態に係るオーディオ符号化装置により符号化されたオーディオ信号を再生した波形の一例を示す図である。
【図１１】他の実施形態に係るオーディオ符号化装置の概略構成図である。
【図１２】何れかの実施形態に係るオーディオ符号化装置が組み込まれた映像伝送装置の概略構成図である。
【発明を実施するための形態】
【００１４】
以下、図を参照しつつ、一つの実施形態による、オーディオ符号化装置について説明する。
このオーディオ符号化装置は、パラメトリックステレオ符号化方式に従って、ステレオ信号を符号化する。その際、このオーディオ符号化装置は、人の聴覚的に重要でない周波数帯域の空間情報を周波数方向に平滑化することにより、ステレオ信号の符号化データ量を削減する。
【００１５】
図１は、一つの実施形態によるオーディオ符号化装置１の概略構成図である。図１に示すように、オーディオ符号化装置１は、時間周波数変換部１１ａ、１１ｂと、ダウンミックス部１２と、周波数時間変換部１３と、SBR符号化部１４と、AAC符号化部１５と、PS符号化部１６と、多重化部１７とを有する。
【００１６】
オーディオ符号化装置１が有するこれらの各部は、それぞれ別個の回路として形成される。あるいはオーディオ符号化装置１が有するこれらの各部は、その各部に対応する回路が集積された一つの集積回路としてオーディオ符号化装置１に実装されてもよい。さらに、オーディオ符号化装置１が有するこれらの各部は、オーディオ符号化装置１が有するプロセッサ上で実行されるコンピュータプログラムにより実現される、機能モジュールであってもよい。
【００１７】
時間周波数変換部１１ａは、オーディオ符号化装置１に入力された時間領域のステレオ信号のうち、左側ステレオ信号をフレーム単位で時間周波数変換することにより、左側ステレオ信号を左側周波数信号に変換する。一方、時間周波数変換部１１ｂは、右側ステレオ信号をフレーム単位で時間周波数変換することにより、右側ステレオ信号を右側周波数信号に変換する。
本実施形態では、時間周波数変換部１１ａは、次式のQuadrature Mirror Filter(QMF)フィルタバンクを用いて、左側ステレオ信号L[n]を左側周波数信号L[k][n]に変換する。同様に、時間周波数変換部１１ｂは、QMFフィルタバンクを用いて、右側ステレオ信号R[n]を右側周波数信号R[k][n]に変換する。
【数１】
2011013560.tif 000003
ここでnは時間を表す変数であり、１フレームのステレオ信号を時間方向に128等分したときのn番目の時間を表す。なお、フレーム長は、例えば、10〜80msecの何れかとすることができる。またkは周波数帯域を表す変数であり、周波数信号が有する周波数帯域を64等分したときのk番目の周波数帯域を表す。またQMF[k][n]は、時間n、周波数kの周波数信号を出力するためのQMFである。
なお、時間周波数変換部１１ａ、１１ｂは、高速フーリエ変換、離散コサイン変換、修正離散コサイン変換など、他の時間周波数変換処理を用いて、左側ステレオ信号及び右側ステレオ信号を、それぞれ、左側周波数信号及び右側周波数信号に変換してもよい。
【００１８】
時間周波数変換部１１ａは、フレーム単位で左側周波数信号を算出する度に、左側周波数信号をダウンミックス部１２及びPS符号化部１６へ出力する。同様に、時間周波数変換部１１ｂは、フレーム単位で右側周波数信号を算出する度に、右側周波数信号をダウンミックス部１２及びPS符号化部１６へ出力する。
【００１９】
ダウンミックス部１２は、左側周波数信号と右側周波数信号を受け取る度に、左側周波数信号と右側周波数信号をダウンミックスすることにより、モノラル周波数信号を生成する。例えば、ダウンミックス部１２は、次式に従ってモノラル周波数信号M[k][n]を算出する。
【数２】
2011013560.tif 000004
ここでLRe[k][n]は、左側周波数信号のうちの実部を表し、LIm[k][n]は、左側周波数信号のうちの虚部を表す。またRRe[k][n]は、右側周波数信号のうちの実部を表し、RIm[k][n]は、右側周波数信号のうちの虚部を表す。
ダウンミックス部１２は、モノラル周波数信号を生成する度に、そのモノラル周波数信号を周波数時間変換部１３及びSBR符号化部１４へ出力する。
【００２０】
周波数時間変換部１３は、モノラル周波数信号を受け取る度に、モノラル周波数信号を時間領域のモノラル信号に変換する。例えば、時間周波数変換部１１ａ、１１ｂがQMFフィルタバンクを用いる場合、周波数時間変換部１３は、次式に示す複素型のQMFフィルタバンクを用いてモノラル周波数信号M[k][n]を周波数時間変換する。
【数３】
2011013560.tif 000005
ここでIQMF[k][n]は、時間n、周波数kを変数とする複素型のQMFである。
【００２１】
なお、左側周波数信号及び右側周波数信号が、高速フーリエ変換、離散コサイン変換、修正離散コサイン変換など、他の時間周波数変換処理により生成されている場合、周波数時間変換部１３は、左右の周波数信号を算出するために使用された時間周波数変換処理の逆変換を使用する。
周波数時間変換部１３は、モノラル周波数信号M[k][n]を周波数時間変換することにより得られたモノラル信号Mt[n]をAAC符号化部１５へ出力する。
【００２２】
SBR符号化部１４は、低チャネル符号化部の一例であり、モノラル周波数信号を受け取る度に、モノラル周波数信号のうち、高周波数帯域に含まれる成分である高域成分を、SBR符号化方式にしたがって符号化する。これにより、SBR符号化部１４は、低チャネルオーディオ符号の一例であるSBR符号を生成する。
例えば、SBR符号化部１４は、特開２００８−２２４９０２号公報に開示されているように、SBR符号化の対象となる高域成分と強い相関のあるモノラル周波数信号の低域成分を複製する。なお、低域成分は、SBR符号化部１４が符号化対象とする高域成分が含まれる高周波数帯域よりも低い低周波数帯域に含まれるモノラル周波数信号の成分であり、後述するAAC符号化部１５により符号化される。そしてSBR符号化部１４は、複製された高域成分の電力を、元の高域成分の電力と一致するように調整する。またSBR符号化部１４は、元の高域成分のうち、低域成分との差異が大きく、低域成分を複写しても、高域成分を近似できない成分を補助情報とする。そしてSBR符号化部１４は、複製に利用された低域成分と対応する高域成分の位置関係を表す情報と、電力調整量と補助情報を量子化することにより符号化する。
SBR符号化部１４は、上記の符号化された情報であるSBR符号を多重化部１７へ出力する。
【００２３】
AAC符号化部１５は、低チャネル符号化部の一例であり、モノラル信号を受け取る度に、低域成分をAAC符号化方式にしたがって符号化することにより、低チャネルオーディオ符号の一例であるAAC符号を生成する。そこで、AAC符号化部１５は、例えば、特開２００７−１８３５２８号公報に開示されている技術を利用できる。具体的には、AAC符号化部１５は、受け取ったモノラル信号を離散コサイン変換することにより、再度モノラル周波数信号を生成する。そしてAAC符号化部１５は、再生成したモノラル周波数信号から心理聴覚エントロピー（Perceptual Entropy、PE）を算出する。PEは、リスナーが雑音を知覚することがないようにそのブロックを量子化するために必要な情報量を表す。そしてこのPEは、打楽器が発する音のようなアタック音など、信号レベルが短時間で変化する音に対して大きな値となる特性を持つ。そこで、AAC符号化部１５は、PEの値が比較的大きくなるフレームに対しては、窓を短くし、PEの値が比較的小さくなるブロックに対しては、窓を長くする。例えば、短い窓は、256個のサンプルを含み、長い窓は、2048個のサンプルを含む。AAC符号化部１５は、決定された長さを持つ窓を用いてモノラル信号に対して修正離散コサイン変換（Modified Discrete Cosine Transform、MDCT）を実行することにより、モノラル信号をMDCT係数の組に変換する。
そしてAAC符号化部１５は、MDCT係数の組を量子化し、その量子化されたMDCT係数の組を可変長符号化する。
AAC符号化部１５は、可変長符号化されたMDCT係数の組と、量子化係数など関連する情報を、AAC符号として多重化部１７へ出力する。
【００２４】
PS符号化部１６は、フレーム単位で算出された左側周波数信号及び右側周波数信号を受け取る度に、左側周波数信号及び右側周波数信号から空間情報を算出し、その空間情報を符号化することによりPS符号を生成する。そのために、PS符号化部１６は、空間情報抽出部２１と、重要度算出部２２と、類似度補正部２３と、強度差補正部２４と、類似度量子化部２５と、強度差量子化部２６と、補正幅制御部２７と、PS符号生成部２８を有する。
【００２５】
空間情報抽出部２１は、空間情報として、音の広がりを表す情報である左側周波数信号及び右側周波数信号の類似度と、音の定位を表す情報である左側周波数信号と右側周波数信号の強度差を算出する。例えば、空間情報抽出部２１は、次式に従って類似度ICC(k)及び強度差IID(k)を算出する。
【数４】
2011013560.tif 000006
ただしNは、１フレームに含まれる時間方向のサンプル点数であり、本実施形態では、Nは128である。
空間情報抽出部２１は、算出した類似度を重要度算出部２２及び類似度補正部２３へ出力する。また空間情報抽出部２１は、算出した強度差を重要度算出部２２及び強度差補正部２４へ出力する。
【００２６】
重要度算出部２２は、類似度と強度差から、各周波数に対する重要度を算出する。重要度は、空間情報が人の聴覚に与える影響の度合いを表し、重要度が高い空間情報ほど、再生されたステレオ信号の音質に影響する。そのため、類似度が大きいほど、また強度差の絶対値が大きいほど、重要度は高くなる。
例えば、重要度算出部２２は、次式にしたがって周波数kに対する重要度w(k)を算出する。
【数５】
2011013560.tif 000007
ここでICCnorm(k)は、類似度ICC(k)を正規化した正規化類似度であり、0〜1の何れかの値を有する。またIIDnorm(k)は、強度差IDD(k)を正規化した正規化強度差であり、0〜1の何れかの値を有する。ただし、強度差IDD(k)は、-50dB〜+50dBの何れかの値を有するものとする。さらに、α及びβは、それぞれ、重み付け係数である。例えば、α＝１、β＝１とすることができる。
重要度算出部２２は、各周波数に対する重要度を類似度補正部２３及び強度差補正部２４へ出力する。
【００２７】
類似度補正部２３は、空間情報補正部の一例であり、補正幅制御部２７から入力された所定の閾値以下の周波数に対する類似度及を周波数方向に平滑化する。また強度差補正部２４も、空間情報補正部の一例であり、補正幅制御部２７から入力された所定の閾値以下の周波数に対する強度差を周波数方向に平滑化する。
【００２８】
何れかの周波数に対する類似度が平滑化されると、その周波数に対する類似度と、その周波数の近傍の周波数に対する類似度との差が小さくなる。そのため、類似度が平滑化された周波数では、周波数方向に類似度を差分することにより得られる類似度の差分値が小さくなる。類似度の差分値が小さければ、その類似度の差分値に割り当てられる符号化ビット数も少なくて済む。したがって、類似度補正部２３は、重要度が所定の閾値以下の周波数に対する類似度を周波数方向に平滑化することにより、空間情報の符号化データ量を削減することができる。
同様に、強度差補正部２４も、重要度が所定の閾値以下の周波数に対する強度差を周波数方向に平滑化することにより、空間情報の符号化データ量を削減することができる。
【００２９】
図２は、重要度と平滑化される類似度の関係を説明する図である。図２において、上のグラフ及び下のグラフの横軸は、それぞれ周波数を表す。また上のグラフの縦軸は類似度を表す。一方、下のグラフの縦軸は重要度を表す。また上のグラフにおいて、折線２０１は、平滑化される前の元の類似度ICC(k)を表し、折線２０２は、平滑化された後の類似度ICC'(k)を表す。また下のグラフにおいて、折線２０３は、周波数kに対する重要度w(k)を表す。さらに一点鎖線２０４は、閾値Thwを表す。
図２に示されるように、周波数帯域kwにおいて、重要度w(k)は閾値Thwより低くなっている。そこで、類似度補正部２４は、周波数帯域kwに含まれる各周波数に対する類似度ICC(k)を周波数方向に平滑化する。このため、周波数帯域kwでは、周波数の変化に対する平滑化された類似度ICC'(k)の変化は、補正前の類似度ICC(k)の変化よりも小さい。
【００３０】
類似度補正部２３は、例えば、次式にしたがって類似度ICC(k)を周波数方向に平均化することにより、平滑化された類似度ICC'(k)を算出する。
【数６】
2011013560.tif 000008
ただし、k1は、平滑化される周波数帯域の下限値を表し、k2は、平滑化される周波数帯域の上限値を表す。また、重要度w(k)が閾値Thw未満となる周波数帯域が複数存在する場合、類似度補正部２３は、それら複数の周波数について、（７）式を用いて類似度ICC(k)をそれぞれ平滑化する。
【００３１】
あるいは、類似度補正部２３は、k1〜k2の周波数帯域について、次式にしたがって類似度ICC(k)に対してローパスフィルタリング処理を行うことにより、類似度ICC(k)を平滑化してもよい。
【数７】
2011013560.tif 000009
ただし、γは重み係数であり、例えば、γは0.9に設定される。
さらに、類似度補正部２３は、（８）式の代わりに、次式のような２次以上のローパスフィルタを用いてもよい。
【数８】
2011013560.tif 000010
ただし、η、ζは、それぞれ重み係数であり、例えば、η=0.5、ζ=0.4に設定される。
類似度補正部２３は、平滑化された類似度を類似度量子化部２５へ出力する。
【００３２】
強度差補正部２４は、類似度補正部２３と同様に、重要度が所定の閾値となる周波数帯域において、周波数方向に強度差を平均するか、または強度差に対してローパスフィルタ処理を実行することにより、強度差を周波数方向に平滑化できる。
そのために、強度差補正部２４は、例えば、上記の（７）〜（９）式の何れかにおいて、類似度ICC(k)を強度差IIC(k)で置換することにより、平滑化された強度差IID’(k)を算出できる。
強度差補正部２４は、平滑化された強度差を強度差量子化部２６へ出力する。
【００３３】
類似度量子化部２５は、空間情報符号化部の一例であり、平滑化された類似度を空間情報符号の一つとして符号化する。そのために、類似度量子化部２５は、類似度の値とインデックス値の対応を示した量子化テーブルを参照する。そして類似度量子化部２５は、量子化テーブルを参照することにより、各周波数について平滑化された類似度ICC'(k)と最も値が近いインデックス値を決定する。なお、量子化テーブルは、予め、類似度量子化部２５が有するメモリに格納される。
【００３４】
図３は、類似度に対する量子化テーブルの一例を示す図である。図３に示す量子化テーブル３００において、上側の行３１０の各欄はインデックス値を表し、下側の行３２０の各欄は、同じ列のインデックス値に対応する類似度の代表値を表す。また、類似度が取りうる値の範囲は-1〜+1である。例えば、周波数kに対する類似度が0.6である場合、量子化テーブル３００では、インデックス値3に対応する類似度の代表値が、周波数kに対する類似度に最も近い。そこで、類似度量子化部２５は、周波数kに対するインデックス値を3に設定する。
【００３５】
次に、類似度量子化部２５は、各周波数について、周波数方向に沿ってインデックス間の差分値を求める。例えば、周波数kに対するインデックス値が3であり、周波数(k-1)に対するインデックス値が0であれば、類似度量子化部２５は、周波数kに対するインデックスの差分値を3とする。
【００３６】
類似度量子化部２５は、インデックス値の差分値と類似度符号の対応を示した符号化テーブルを参照する。そして類似度量子化部２５は、符号化テーブルを参照することにより、各周波数についてインデックス間の差分値に対する類似度符号idxicc(k)を決定する。なお、符号化テーブルは、予め、類似度量子化部２５が有するメモリに格納される。また、類似度符号は、例えば、ハフマン符号あるいは算術符号など、出現頻度が高い差分値ほど符号長が短くなる可変長符号とすることができる。
図４は、インデックスの差分値と類似度符号の関係を示すテーブルの一例を示す図である。この例では、類似度符号はハフマン符号である。図４に示す符号化テーブル４００において、左側の列の各欄はインデックスの差分値を表し、右側の列の各欄は、同じ行のインデックスの差分値に対応する類似度符号を表す。例えば、周波数kに対するインデックスの差分値が3である場合、類似度量子化部２５は、符号化テーブル４００を参照することにより、周波数kに対する類似度符号idxicc(k)を"111110"に設定する。
類似度量子化部２５は、各周波数について求めた類似度符号を、補正幅制御部２７へ出力する。
【００３７】
強度差量子化部２６は、空間情報符号化部の一例であり、平滑化された強度差を空間情報符号の他の一つとして符号化する。そのために、強度差量子化部２６は、強度差の値とインデックス値との対応関係を示した量子化テーブルを参照する。そして強度差量子化部２６は、量子化テーブルを参照することにより、各周波数について平滑化された強度差IID'(k)と最も値が近いインデックス値を決定する。強度差量子化部２６は、各周波数について、周波数方向に沿ってインデックス間の差分値を求める。例えば、周波数kに対するインデックス値が2であり、周波数(k-1)に対するインデックス値が4であれば、強度差量子化部２６は、周波数kに対するインデックスの差分値を-2とする。
【００３８】
強度差量子化部２６は、インデックス間の差分値と強度差符号の対応を示した符号化テーブルを参照する。そして強度差量子化部２６は、符号化テーブルを参照することにより、各周波数kの差分値に対する強度差符号idxiid(k)を決定する。強度差符号は、類似度符号と同様に、例えば、ハフマン符号あるいは算術符号など、出現頻度が高い差分値ほど符号長が短くなる可変長符号とすることができる。
なお、量子化テーブル及び符号化テーブルは、予め、強度差量子化部２６が有するメモリに格納される。
【００３９】
図５は、強度差に対する量子化テーブルの一例を示す図である。図５に示す量子化テーブル５００において、行５１０及び５３０の各欄はインデックス値を表し、行５２０及び５４０の各欄は、それぞれ、同じ列の行５１０及び５３０の各欄に示されたインデックス値に対応する強度差の代表値を表す。
例えば、周波数kに対する強度差が10.8dBである場合、量子化テーブル５００では、インデックス値4に対応する強度差の代表値が、周波数kに対する強度差に最も近い。そこで、強度差量子化部２６は、周波数kに対するインデックス値を4に設定する。
強度差量子化部２６は、各周波数について求めた強度差符号を、補正幅制御部２７へ出力する。
【００４０】
補正幅制御部２７は、PS符号化部１６により生成されるPS符号のビットレートが所定の範囲に収まるように、類似度補正部２３及び強度差補正部２４で使用される、重要度に対する閾値を調整する。
【００４１】
図６（ａ）及び図６（ｂ）は、閾値を変化させたときの重要度と平滑化される類似度の関係を説明する図である。図６（ａ）及び図６（ｂ）において、上のグラフ及び下のグラフの横軸は、それぞれ周波数を表す。また上のグラフの縦軸は類似度を表す。一方、下のグラフの縦軸は重要度を表す。また図６（ａ）及び図６（ｂ）の上のグラフにおいて、折線６０１は、平滑化される前の元の類似度ICC(k)を表し、折線６０２及び６０３は、それぞれ、平滑化された後の類似度ICC'(k)を表す。また図６（ａ）及び図６（ｂ）の下のグラフにおいて、折線６０４は、各周波数kに対する重要度w(k)を表す。さらに一点鎖線６０５及び６０６は、それぞれ閾値を表す。
【００４２】
図６（ａ）に示されるように、閾値がThw1に設定されている場合、周波数帯域kw1において、重要度w(k)は閾値Thw1より低くなっている。この場合、周波数帯域kw1に含まれる各周波数に対する類似度ICC(k)のみが平滑化される。しかし、平滑化される類似度の範囲が狭いため、類似度符号のデータ量が多すぎる可能性がある。一方、図６（ｂ）に示されるように、閾値がThw1よりも高いThw2に設定されている場合、周波数帯域kw1よりも広い周波数帯域kw2において、重要度w(k)は閾値Thw2よりも低くなる。このため、類似度が平滑化される周波数帯域も広くなる。このように、閾値が高くなるほど、類似度が平滑化される周波数帯域も広くなるので、類似度符号のデータ量も少なくなる。なお、強度差に関しても、重要度に対する閾値が高くなるほど、強度差が平滑化される周波数帯域も広くなるので、強度差符号のデータ量も少なくなる。
【００４３】
そこで、補正幅制御部２７は、類似度量子化部２５から受け取った類似度符号と強度差量子化部２６から受け取った強度差符号の合計ビットレートを算出する。
その際、補正幅制御部２７は、類似度符号及び強度差符号のそれぞれのビット長を計算し、そのビット長を合計することにより、合計ビットレートを算出する。
あるいは、補正幅制御部２７は、あらかじめ類似度符号及び強度差符号のビット長を示したテーブルを参照することで各符号のビット長を求めることにより、合計ビットレートを算出してもよい。
【００４４】
補正幅制御部２７は、合計ビットレートが所定の上限値よりも大きい場合、重要度に対する閾値Thwを高く修正する。例えば、補正幅制御部２７は、閾値Thwに1.1を乗じた値を、改めて閾値Thwとする。そして補正幅制御部２７は、類似度補正部２３及び強度差補正部２４にその修正された閾値Thwを渡す。また補正幅制御部２７は、類似度符号及び強度差符号を廃棄する。そしてPS符号化部１６は、類似度補正部２３及び強度差補正部２４に、修正された閾値Thwを用いて類似度及び強度差を再度平滑化させ、かつ、類似度量子化部２５及び強度差量子化部２６に類似度符号及び強度差符号を再度求めさせる。
【００４５】
逆に、類似度符号と強度差符号の合計ビットレートが小さすぎると、空間情報が過度に失われている可能性がある。この場合、オーディオ符号化装置１により符号化されたステレオ信号を再生したときの音質が過度に劣化してしまうおそれがある。そこで、類似度符号と強度差符号の合計ビットレートが所定の下限値よりも小さい場合、補正幅制御部２７は、重要度に対する閾値を低く修正する。例えば、補正幅制御部２７は、閾値Thwに0.95を乗じた値を、改めて閾値Thwとする。この場合も、補正幅制御部２７は、類似度補正部２３及び強度差補正部２４にその修正された閾値Thwを渡す。また補正幅制御部２７は、類似度符号及び強度差符号を廃棄する。そしてPS符号化部１６は、類似度補正部２３及び強度差補正部２４に、修正された閾値Thwを用いて類似度及び強度差を再度平滑化させ、かつ、類似度量子化部２５及び強度差量子化部２６に類似度符号及び強度差符号を再度求めさせる。
【００４６】
なお、所定の上限値は、SBR符号及びAAC符号が全て伝送される場合に、PS符号に割当可能なビットレートの上限値とすることが好ましい。また所定の下限値は、リスナーが、オーディオ符号化装置１により符号化されたステレオ信号を再生した音声の劣化に気付かない許容最低限度のビットレートに設定されることが好ましい。
例えば、オーディオ符号化装置１が、HE-AAC ver.2方式に従って48kHzの帯域を有するステレオ信号を32kbpsのビットレートで符号化する場合、上限値は、3〜5kbpsの何れか、例えば、4kbpsに設定される。一方、下限値は、0〜1kbpsの何れか、例えば、0.1kbpsに設定される。
【００４７】
類似度符号と強度差符号の合計ビットレートが所定の下限値から所定の上限値の範囲に含まれる場合、補正幅制御部２７は、類似度符号と強度差符号をPS符号生成部２８へ出力する。
【００４８】
PS符号生成部２８は、補正幅制御部２７から受け取った、類似度符号idxicc(k)と強度差符号idxiid(k)を用いてPS符号を生成する。例えば、PS符号生成部２８は、類似度符号idxicc(k)及び強度差符号idxiid(k)を所定の順序に従って配列することにより、PS符号を生成する。この所定の順序については、例えば、ISO/IEC 14496-3:2005、8.4章 “Payloads for the audio object type SSC”に記述されている。
PS符号生成部２８は、生成したPS符号を多重化部１７へ出力する。
【００４９】
図７は、PS符号生成処理の動作フローチャートを示す。なお、図７に示されたフローチャートは、１フレーム分のステレオ周波数信号に対する処理を表す。PS符号化部１６は、左側ステレオ周波数信号及び右側ステレオ周波数信号が入力される度に、図７に示されたPS符号生成処理を実行する。
【００５０】
先ず、空間情報抽出部２１は、空間情報として各周波数に対する左右の周波数信号間の類似度ICC(k)及び強度差IID(k)を算出する（ステップＳ１０１）。そして空間情報抽出部２１は、算出した類似度を重要度算出部２２及び類似度補正部２３へ出力する。また空間情報抽出部２１は、算出した強度差を重要度算出部２２及び強度差補正部２４へ出力する。
次に、重要度算出部２２は、類似度ICC(k)及び強度差IID(k)に基づいて、各周波数に対する重要度w(k)を算出する（ステップＳ１０２）。重要度算出部２２は、各周波数に対する重要度を類似度補正部２３及び強度差補正部２４へ出力する。
類似度補正部２３は、重要度w(k)が閾値Thw未満となる周波数klの類似度ICC(kl)を周波数方向に平滑化する。同様に、強度差補正部２４は、重要度w(k)が閾値Thw未満となる周波数klの強度差IID(kl)を周波数方向に平滑化する（ステップＳ１０３）。類似度補正部２３は、平滑化された類似度ICC'(k)を類似度量子化部２５へ出力する。また強度差補正部２４は、平滑化された強度差IID'(k)を強度差量子化部２６へ出力する。
【００５１】
類似度量子化部２５は、平滑化された類似度ICC'(k)を符号化することにより類似度符号idxicc(k)を決定する。また強度差量子化部２６は、平滑化された強度差IID'(k)を符号化することにより強度差符号idxiid(k)を決定する（ステップＳ１０４）。類似度量子化部２５は、各周波数について求めた類似度符号idxicc(k)を、補正幅制御部２７へ出力する。また強度差量子化部２６は、各周波数について求めた強度差符号idxiid(k)を、補正幅制御部２７へ出力する。
【００５２】
その後、補正幅制御部２７は、類似度符号idxicc(k)と強度差符号idxiid(k)の合計ビットレートSumBRを算出する（ステップＳ１０５）。そして補正幅制御部２７は、合計ビットレートSumBRが上限値ThBH以下か否か判定する（ステップＳ１０６）。合計ビットレートSumBRが上限値ThBHよりも高い場合（ステップＳ１０６−Ｎｏ）、補正幅制御部２７は、閾値Thwを高く修正する（ステップＳ１０７）。そして補正幅制御部２７は、修正された閾値Thwを類似度補正部２３及び強度差補正部２４へ渡す。そしてPS符号化部１６は、合計ビットレートSumBRが上限値ThBH以下となるまで、ステップＳ１０３〜Ｓ１０７の処理を繰り返す。
【００５３】
一方、ステップＳ１０６において、合計ビットレートSumBRが上限値ThBH以下である場合（ステップＳ１０６−Ｙｅｓ）、補正幅制御部２７は、合計ビットレートSumBRが下限値ThBL以上か否か判定する（ステップＳ１０８）。合計ビットレートSumBRが下限値ThBLよりも低い場合（ステップＳ１０８−Ｎｏ）、補正幅制御部２７は、閾値Thwを低く修正する（ステップＳ１０９）。ただしこの場合、補正幅制御部２７は、処理が無限ループに入ることを避けるため、ステップＳ１０７において閾値Thwを調節する量よりも少ない量だけ、閾値Thwを調節することが好ましい。そして補正幅制御部２７は、修正された閾値Thwを類似度補正部２３と強度差補正部２４へ渡す。そしてPS符号化部１６は、合計ビットレートSumBRが下限値ThBL以上となるまで、ステップＳ１０３〜Ｓ１０９の処理を繰り返す。
【００５４】
一方、ステップＳ１０８において、合計ビットレートSumBRが下限値ThBL以上である場合（ステップＳ１０８−Ｙｅｓ）、補正幅制御部２７は、類似度符号idxicc(k)と強度差符号idxiid(k)をPS符号生成部２８へ出力する。
PS符号生成部２８は、類似度符号idxicc(k)と強度差符号idxiid(k)を所定の順序に従って配列することによりPS符号を生成する（ステップＳ１１０）。
PS符号生成部２８は、PS符号を多重化部１７へ出力する。そしてPS符号化部１６は、PS符号生成処理を終了する。
なお、下限値ThBLは0に設定されてもよい。この場合、ステップＳ１０８及びＳ１０９の処理は省略される。
【００５５】
多重化部１７は、AAC符号、SBR符号及びPS符号を所定の順序に従って配列することにより多重化する。そして多重化部１７は、その多重化により生成された符号化ステレオ信号を出力する。
図８は、符号化されたステレオ信号が格納されたデータ形式の一例を示す図である。この例では、符号化されたステレオ信号は、MPEG-4 ADTS(Audio Data Transport Stream)形式に従って作成される。
図８に示される符号化データ列８００において、データブロック８１０にAAC符号は格納される。またADTS形式のFILLエレメントが格納されるブロック８２０の一部領域にSBR符号及びPS符号が格納される。特にPS符号は、SBR符号の中のSBR拡張領域８３０に格納される。
【００５６】
図９は、オーディオ符号化処理の動作フローチャートを示す。なお、図９に示されたフローチャートは、１フレーム分のステレオ信号に対する処理を表す。オーディオ符号化装置１は、ステレオ信号を受信し続けている間、フレームごとに図９に示されたオーディオ符号化処理の手順を繰り返し実行する。
【００５７】
時間周波数変換部１１ａは、入力されたステレオ信号のうち、左側ステレオ信号を時間周波数変換することにより、左側周波数信号に変換する。また時間周波数変換部１１ｂは、入力されたステレオ信号のうち、右側ステレオ信号を時間周波数変換することにより右側周波数信号に変換する（ステップＳ２０１）。時間周波数変換部１１ａは、左側周波数信号をダウンミックス部１２及びPS符号化部１６へ出力する。同様に、時間周波数変換部１１ｂは、右側周波数信号をダウンミックス部１２及びPS符号化部１６へ出力する。
【００５８】
次に、ダウンミックス部１２は、左側周波数信号及び右側周波数信号をダウンミックスすることにより、ステレオ信号よりもチャネル数の少ないモノラル周波数信号を生成する（ステップＳ２０２）。ダウンミックス部１２は、モノラル周波数信号を周波数時間変換部１３及びSBR符号化部１４へ出力する。
SBR符号化部１４は、モノラル周波数信号のうち、高域成分をSBR符号化する（ステップＳ２０３）。そしてSBR符号化部１４は、複製に利用された低域成分と対応する高域成分の位置関係を表す情報などのSBR符号を多重化部１７へ出力する。
【００５９】
また、周波数時間変換部１３は、モノラル周波数信号を周波数時間変換することによりモノラル信号に変換する（ステップＳ２０４）。そして周波数時間変換部１３は、モノラル信号をAAC符号化部１５へ出力する。
AAC符号化部１５は、モノラル信号のうち、SBR符号化部１４によりSBR符号化されない低域成分をAAC符号化する（ステップＳ２０５）。そしてAAC符号化部１５は、AAC符号を多重化部１７へ出力する。
【００６０】
また、PS符号化部１６は、左側周波数信号及び右側周波数信号から空間情報を算出する。そしてPS符号化部１６は、算出された空間情報をPS符号化する（ステップＳ２０６）。そしてPS符号化部１６は、PS符号を多重化部１７へ出力する。
【００６１】
最後に、多重化部１７は、生成されたSBR符号、AAC符号及びPS符号を多重化することにより、符号化されたステレオ信号を生成する（ステップＳ２０７）。
多重化部１７は、符号化されたステレオ信号を出力する。そしてオーディオ符号化装置１は、符号化処理を終了する。
なお、オーディオ符号化装置１は、ステップＳ２０２〜Ｓ２０５の処理とステップＳ２０６の処理を並列に実行してもよい。あるいは、オーディオ符号化装置１は、ステップＳ２０２〜Ｓ２０５の処理を行う前にステップＳ２０６の処理を実行してもよい。
【００６２】
図１０（ａ）は、鉄琴の音を録音したオリジナルのステレオ信号の波形の一例を示す図である。また図１０（ｂ）は、従来技術のパラメトリックステレオ符号化方式により、固定ビットレート32kbpsで符号化されたステレオ信号を再生した波形の一例を示す図である。そして図１０（ｃ）は、本実施形態に係るオーディオ符号化装置１により、固定ビットレート32kbpsで符号化されたステレオ信号を再生した波形の一例を示す図である。
図１０（ａ）〜図１０（ｃ）において、横軸は時間を表し、縦軸は振幅を表す。また、図１０（ａ）において、上側の波形１０１０は、オリジナルの左側ステレオ信号の波形であり、下側の波形１０２０は、オリジナルの右側ステレオ信号の波形である。また図１０（ｂ）において、上側の波形１１１０は、従来技術のパラメトリックステレオ符号化方式により符号化されたステレオ信号を再生した左側ステレオ信号の波形である。一方、下側の波形１１２０は、従来技術のパラメトリックステレオ符号化方式により符号化されたステレオ信号を再生した右側ステレオ信号の波形である。さらに、図１０（ｃ）において、上側の波形１２１０は、オーディオ符号化装置１により符号化されたステレオ信号を再生した左側ステレオ信号の波形である。一方、下側の波形１２２０は、オーディオ符号化装置１により符号化されたステレオ信号を再生した右側ステレオ信号の波形である。
【００６３】
図１０（ａ）では、波形１０１０及び１０２０は時間的に連続してある程度の振幅を有している。すなわち、オリジナルのステレオ信号は、連続的な音である。しかし、図１０（ｂ）では、時間帯１１３０において、波形１１１０及び１１２０は、振幅がほぼ0になっている。すなわち、時間帯１１３０において音が途切れてしまう。このように、従来技術のパラメトリックステレオ符号化方式により符号化されたステレオ信号では、一部のデータが失われてしまっている。
これに対し、図１０（ｃ）では、波形１２１０及び１２２０は、波形１０１０及び１０２０と同様に、時間的に連続してある程度の振幅を有している。このように、オーディオ符号化装置１により符号化されたステレオ信号を復号することにより、オリジナルのステレオ信号を良好に再現できることが分かる。
【００６４】
以上に説明してきたように、このオーディオ符号化装置は、空間情報が小さく、人の聴覚的に重要でない周波数帯域の空間情報を周波数方向に平滑化することにより、PS符号のビットレートを低減する。そのため、このオーディオ符号化装置は、AAC符号及びSBR符号に割当可能なビットレートを増やすことができる。したがって、このオーディオ符号化装置は、再生されるステレオ信号の音質を劣化させることなく、ステレオ信号の符号化データ量を削減することができる。
【００６５】
なお、本発明は上記の実施形態に限定されるものではない。他の実施形態によれば、オーディオ符号化装置は、モノラル周波数信号を他の符号化方式に従って符号化してもよい。例えば、オーディオ符号化装置は、モノラル周波数信号全体をAAC符号化方式にしたがって符号化してもよい。この場合、図１に示されたオーディオ符号化装置において、SBR符号化部は省略される。
また、重要度に対する閾値Thwの値は固定されてもよい。この場合、補正幅制御部は省略される。そして、類似度量子化部は類似度符号を直接PS符号生成部へ出力する。同様に、強度差量子化部も強度差符号を直接PS符号生成部へ出力する。
【００６６】
さらに他の実施形態によれば、PS符号化部の重要度算出部は、重要度を求めるために、着目するフレームよりも前のフレームについての類似度符号及び強度差符号のデータ量に基づいて、着目するフレームの類似度及び強度差に対する重み係数を変更してもよい。
【００６７】
図１１は、他の実施形態に係るオーディオ符号化装置の概略構成図である。図１１に示されるオーディオ符号化装置２の各構成要素には、図１に示されたオーディオ符号化装置１の対応する構成要素と同一の参照番号を付した。オーディオ符号化装置２は、オーディオ符号化装置１と比較して、重要度を算出するために使用される重み係数を決定するためのバッファ３１及び重み決定部３２を有する点で異なる。そこで、以下では、重要度算出に関連する各部について説明する。オーディオ符号化装置２のその他の点については、上述したオーディオ符号化装置１の説明を参照されたい。
【００６８】
バッファ３１は、補正幅制御部２７が各フレームについて類似度符号及び強度差符号を出力する度に、その類似度符号のビットレートBRICCi及び強度差符号のビットレートBRIIDiを受け取る。ただし、iはフレーム番号である。そしてバッファ３１は、類似度符号のビットレート及び強度差符号のビットレートを記憶する。
【００６９】
重み決定部３２は、上記の（６）式において重要度を算出するために使用される重み係数α、βを、過去のフレームに対して算出された類似度符号のビットレート及び強度差符号のビットレートに基づいて決定する。そこで重み決定部３２は、現在のフレームに対する左右の周波数信号が入力されたことを空間情報抽出部２１から通知されると、バッファ３１から、PS符号化対象である現在のフレームtよりも一つ前のフレーム(t-1)に対して算出された類似度符号のビットレートBRICCt-1及び強度差符号のビットレートBRIIDt-1をバッファ３１から読み出す。
【００７０】
一般に、空間情報の性質は、時間的に緩やかに変化する。そのため、過去の空間情報と現在の空間情報にはある程度相関があると想定される。そこで、現在のフレームよりも一つ前のフレームにおける類似度符号のデータ量が強度差符号のデータ量よりも多ければ、現在のフレームにおいて強度差より類似度の方が聴覚的に重要である可能性が高い。逆に、現在のフレームよりも一つ前のフレームにおける類似度符号のデータ量が強度差符号のデータ量よりも少なければ、現在のフレームにおいて類似度より強度差の方が聴覚的に重要である可能性が高い。
そこで、重み決定部３２は、類似度と強度差のうち、一つ前のフレームにおいて符号化後のデータ量が多い方の重み係数を他方の重み係数よりも大きくする。
【００７１】
例えば、類似度符号のビットレートBRICCt-1が強度差符号のビットレートBRIIDt-1よりも大きい場合、重み決定部３２は、類似度に対する重み係数である類似度重みαを1よりも大きな値、例えば1.2とし、強度差に対する重み係数である強度差重みβを1よりも小さな値、例えば0.8とする。
逆に、類似度符号のビットレートBRICCt-1が強度差符号のビットレートBRIIDt-1よりも小さい場合、重み決定部３２は、類似度重みαを1よりも小さな値、例えば0.8とし、強度差重みβを1よりも大きな値、例えば1.2とする。
また、類似度符号のビットレートBRICCt-1が強度差符号のビットレートBRIIDt-1と等しい場合、重み決定部３２は、類似度重みα、強度差重みβとも1とする。
なお、重み決定部３２は、類似度符号のビットレートBRICCt-1と強度差符号のビットレートBRIIDt-1との差が大きくなるほど、類似度重みαと強度差重みβの差も大きくなるように、類似度重みαと強度差重みβを決定してもよい。ただし、重要度w(k)の値を正規化するため、αとβの合計は、常に一定の値、例えば2となることが好ましい。
重み決定部３２は、類似度重みα及び強度差重みβを重要度算出部２２へ出力する。
【００７２】
重要度算出部２２は、重み決定部３２から受け取った類似度重みα及び強度差重みβを（６）式に代入することにより、各周波数に対する重要度w(k)を算出する。
このように、オーディオ符号化装置２は、重要度を算出する際、類似度と強度差のうち、過去のフレームにおいて符号化されたデータ量が多い方に対する重み係数を他方よりも大きくする。これにより、類似度重みが大きくなるほど重要度に対する類似度の寄与が大きくなり、かつ強度差重みが大きくなるほど重要度に対する強度差の寄与が大きくなる。そのため、オーディオ符号化装置２は、聴覚的な重要度をより適切に評価できるので、平滑化される空間情報の周波数帯域をより適切に設定できる。したがって、オーディオ符号化装置２は、ステレオ信号を符号化することによる音質の劣化度合いをより低減できる。
【００７３】
さらに、上記の各実施形態において、PS符号化部は、重要度が所定の閾値未満となる周波数における類似度あるいは強度差の何れか一方のみを平滑化してもよい。
【００７４】
また、上記の各実施形態において、補正幅制御部は、SBR符号とAAC符号の合計ビットレートと最大転送ビットレートの差を、類似度符号と強度差符号の合計ビットレートに対する上限値としてもよい。この場合、オーディオ符号化装置は、同一フレームのステレオ信号に対して、SBR符号化部によるSBR符号化処理及びAAC符号化部によるAAC符号化処理を先に実行する。そして補正幅制御部は、SBR符号化部からSBR符号のビットレートを通知されるとともに、AAC符号化部からAAC符号のビットレートを通知された後、上限値を決定する。
あるいは、補正幅制御部は、同一フレームのSBR符号とAAC符号の合計ビットレートを用いる代わりに、一つ前のフレームのSBR符号とAAC符号の合計ビットレートを用いて上限値を決定してもよい。
【００７５】
また、符号化の対象となるオーディオ信号は、ステレオ信号に限られない。例えば、符号化の対象となるオーディオ信号は、3.1chまたは5.1chなど、複数のチャネルを持つオーディオ信号であってもよい。この場合も、オーディオ符号化装置は、各チャネルのオーディオ信号を時間周波数変換することにより、各チャネルの周波数信号を算出する。そしてオーディオ符号化装置は、各チャネルの周波数信号をダウンミックスすることにより、元のオーディオ信号よりもチャネル数が少ない周波数信号を生成する。その後、オーディオ符号化装置は、そのダウンミックスされた周波数信号を、例えば、AAC符号化方式及びSBR符号化方式に従って符号化する。一方、オーディオ符号化装置は、各チャネル間の類似度及び強度差を空間情報としてそれぞれ算出し、それら空間情報の重要度を上記と同様に算出する。そしてオーディオ符号化装置は、上記の実施形態と同様に、重要度が所定の閾値よりも低い周波数に対する空間情報を、周波数方向に平滑化した後、その空間情報をPS符号化する。
【００７６】
また、上記の実施形態におけるオーディオ符号化装置は、コンピュータ、ビデオ信号の録画機または映像伝送装置など、オーディオ信号を伝送または記録するために利用される各種の機器に実装される。
【００７７】
図１２は、上記の何れかの実施形態に係るオーディオ符号化装置が組み込まれた映像伝送装置の概略構成図である。映像伝送装置１００は、映像取得部１０１と、音声取得部１０２と、映像符号化部１０３と、音声符号化部１０４と、多重化部１０５と、通信処理部１０６と、出力部１０７とを有する。
【００７８】
映像取得部１０１は、動画像信号をビデオカメラなどの他の装置から取得するためのインターフェース回路を有する。そして映像取得部１０１は、映像伝送装置１００に入力された動画像信号を映像符号化部１０３へ渡す。
【００７９】
音声取得部１０２は、ステレオ音声信号をマイクロフォンなどの他の装置から取得するためのインターフェース回路を有する。そして音声取得部１０２は、映像伝送装置１００に入力されたステレオ音声信号を音声符号化部１０４へ渡す。
【００８０】
映像符号化部１０３は、動画像信号のデータ量を圧縮するために、動画像信号を符号化する。そのために、映像符号化部１０３は、例えば、MPEG-2、MPEG-4、H.264 MPEG-4 Advanced Video Coding（H.264 MPEG-4 AVC）などの動画像符号化規格に従って動画像信号を符号化する。そして映像符号化部１０３は、符号化動画像データを多重化部１０５へ出力する。
【００８１】
音声符号化部１０４は、上記の何れかの実施形態のオーディオ符号化装置を有する。そして音声符号化部１０４は、ステレオ音声信号からモノラル信号と空間情報を生成する。音声符号化部１０４は、そのモノラル信号をAAC符号化処理及びSBR符号化処理によって符号化する。また音声符号化部１０４は、空間情報をPS符号化処理によって符号化する。音声符号化部１０４は、生成されたAAC符号、SBR符号及びPS符号を多重化することにより、符号化オーディオデータを生成する。そして音声符号化部１０４は、符号化オーディオデータを多重化部１０５へ出力する。
【００８２】
多重化部１０５は、符号化動画像データと符号化オーディオデータを多重化する。そして多重化部１０５は、MPEG-2トランスポートストリームなどの映像データの伝送用の所定の形式に従ったストリームを作成する。
多重化部１０５は、符号化動画像データと符号化オーディオデータが多重化されたストリームを通信処理部１０６へ出力する。
【００８３】
通信処理部１０６は、符号化動画像データと符号化オーディオデータが多重化されたストリームを、TCP/IPなどの所定の通信規格にしたがったパケットに分割する。また通信処理部１０６は、各パケットに、宛先情報などが格納された所定のヘッダを付す。そして通信処理部１０６は、パケットを出力部１０７へ渡す。
【００８４】
出力部１０７は、映像伝送装置１００を通信回線に接続するためのインターフェース回路を有する。そして出力部１０７は、通信処理部１０６から受け取ったパケットを通信回線へ出力する。
【００８５】
ここに挙げられた全ての例及び特定の用語は、読者が、本発明及び当該技術の促進に対する本発明者により寄与された概念を理解することを助ける、教示的な目的において意図されたものであり、本発明の優位性及び劣等性を示すことに関する、本明細書の如何なる例の構成、そのような特定の挙げられた例及び条件に限定しないように解釈されるべきものである。本発明の実施形態は詳細に説明されているが、本発明の精神及び範囲から外れることなく、様々な変更、置換及び修正をこれに加えることが可能であることを理解されたい。
【００８６】
以上説明した実施形態及びその変形例に関し、更に以下の付記を開示する。
（付記１）
第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、前記各チャネルの信号を、それぞれ周波数信号に変換する時間周波数変換部と、
前記各チャネルの周波数信号をダウンミックスすることにより、前記第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成するダウンミックス部と、
前記オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成する低チャネル符号部と、
前記各チャネルの周波数信号から、音の空間的な情報を表す空間情報を抽出する空間情報抽出部と、
前記空間情報に基づいて、前記空間情報が人の聴覚に対する影響の度合いを表す重要度を周波数ごとに算出する重要度算出部と、
前記重要度が所定の閾値よりも小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を補正する空間情報補正部と、
前記補正された空間情報を、周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成する空間情報符号化部と、
前記低チャネルオーディオ符号と前記空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する多重化部と、
を有するオーディオ符号化装置。
（付記２）
前記空間情報符号化部により生成された前記空間情報符号のデータ量が、あらかじめ決められた上限値よりも多い場合、前記所定の閾値を高く修正する補正幅制御部をさらに有し、
前記空間情報補正部は、前記修正された所定の閾値よりも前記重要度が小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を再補正し、
前記空間情報符号化部は、前記再補正された空間情報に基づいて前記空間情報符号を再生成し、
前記多重化部は、前記低チャネルオーディオ符号と前記再生成された空間情報符号を多重化することにより、前記符号化されたオーディオ信号を生成する、付記１に記載のオーディオ符号化装置。
（付記３）
前記補正幅制御部は、前記低チャネルオーディオ符号のデータ量を予め設定された最大転送データ量から減算することにより、前記上限値を決定する、付記２に記載のオーディオ符号化装置。
（付記４）
前記補正幅制御部は、前記空間情報符号化部により生成された前記空間情報符号のデータ量が所定の下限値よりも少ない場合、前記所定の閾値を低く修正し、
前記空間情報補正部は、前記修正された所定の閾値よりも前記重要度が小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を再補正し、
前記空間情報符号化部は、前記再補正された空間情報に基づいて前記空間情報符号を再生成し、
前記多重化部は、前記低チャネルオーディオ符号と前記再生成された空間情報符号を多重化することにより、前記符号化されたオーディオ信号を生成する、付記２または３に記載のオーディオ符号化装置。
（付記５）
前記空間情報抽出部は、前記各チャネルの周波数信号間の類似度及び強度差を前記空間情報として抽出し、
前記空間情報補正部は、前記重要度が所定の閾値よりも小さい周波数について、前記類似度または前記強度差の少なくとも何れか一方を周波数方向に平滑化し、
前記空間情報符号化部は、前記補正された類似度及び強度差を、それぞれ周波数方向に差分することにより得られた差分類似度及び差分強度差を符号化することにより、前記空間情報符号を生成する、付記１〜４の何れか一項に記載のオーディオ符号化装置。
（付記６）
第１のフレームについて算出された差分類似度の符号データ量である類似度符号量と、差分強度差の符号データ量である強度差符号量を記憶する記憶部と、
前記類似度符号量が前記強度差符号量よりも多い場合、前記類似度に対する重み係数である類似度重みを、前記強度差に対する重み係数である強度差重みよりも大きく設定し、一方、前記類似度符号量が前記強度差符号量よりも少ない場合、前記類似度重みを、前記強度差重みよりも小さく設定する重み決定部をさらに有し、
前記重要度算出部は、前記第１のフレームよりも後の第２のフレームに対する重要度を、前記類似度重みが大きくなるほど前記重要度に対する前記第２のフレームおいて算出された前記類似度の寄与が大きくなり、かつ前記強度差重みが大きくなるほど前記重要度に対する前記第２のフレームおいて算出された前記強度差の寄与が大きくなるように決定する、付記５に記載のオーディオ符号化装置。
（付記７）
第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、前記各チャネルの信号を、それぞれ周波数信号に変換し、
前記各チャネルの周波数信号をダウンミックスすることにより、前記第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、
前記オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成し、
前記各チャネルの周波数信号から、音の空間的な情報を表す空間情報を抽出し、
前記空間情報に基づいて、前記空間情報が人の聴覚に対する影響の度合いを表す重要度を周波数ごとに算出し、
前記重要度が所定の閾値よりも小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を補正し、
前記補正された空間情報を、周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成し、
前記低チャネルオーディオ符号と前記空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する、
ことを含むオーディオ符号化方法。
（付記８）
第１のチャネル数を持つオーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、前記各チャネルの信号を、それぞれ周波数信号に変換し、
前記各チャネルの周波数信号をダウンミックスすることにより、前記第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、
前記オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成し、
前記各チャネルの周波数信号から、音の空間的な情報を表す空間情報を抽出し、
前記空間情報に基づいて、前記空間情報が人の聴覚に対する影響の度合いを表す重要度を周波数ごとに算出し、
前記重要度が所定の閾値よりも小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を補正し、
前記補正された空間情報を、周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成し、
前記低チャネルオーディオ符号と前記空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する、
ことをコンピュータに実行させるオーディオ符号化用コンピュータプログラム。
（付記９）
入力された動画像信号を符号化する動画像符号化部と、
入力された第１のチャネル数を持つオーディオ信号を符号化するオーディオ符号化部であって、
前記オーディオ信号に含まれる各チャネルの信号を所定の時間長を持つフレーム単位で時間周波数変換することにより、前記各チャネルの信号を、それぞれ周波数信号に変換し、
前記各チャネルの周波数信号をダウンミックスすることにより、前記第１のチャネル数よりも少ない第２のチャネル数を持つオーディオ周波数信号を生成し、
前記オーディオ周波数信号を符号化することにより、低チャネルオーディオ符号を生成し、
前記各チャネルの周波数信号から、音の空間的な情報を表す空間情報を抽出し、
前記空間情報に基づいて、前記空間情報が人の聴覚に対する影響の度合いを表す重要度を周波数ごとに算出し、
前記重要度が所定の閾値よりも小さい周波数について、前記空間情報を周波数方向に平滑化するように、前記空間情報を補正し、
前記補正された空間情報を周波数方向に差分することにより得られた差分空間情報を符号化することにより、空間情報符号を生成し、
前記低チャネルオーディオ符号と前記空間情報符号を多重化することにより、符号化されたオーディオ信号を生成する、オーディオ符号化部と、
前記動画像符号化部により符号化された動画像信号と前記オーディオ符号化部により符号化されたオーディオ信号を多重化することにより映像ストリームを生成する多重化部と、
を有する映像伝送装置。
【符号の説明】
【００８７】
１、２    オーディオ符号化装置
１１ａ、１１ｂ    時間周波数変換部
１２    ダウンミックス部
１３    周波数時間変換部
１４    SBR符号化部
１５    AAC符号化部
１６    PS符号化部
１７    多重化部
２１    空間情報抽出部
２２    重要度算出部
２３    類似度補正部
２４    強度差補正部
２５    類似度量子化部
２６    強度差量子化部
２７    補正幅制御部
２８    PS符号生成部
３１    バッファ
３２    重み決定部
１００    映像伝送装置
１０１    映像取得部
１０２    音声取得部
１０３    映像符号化部
１０４    音声符号化部
１０５    多重化部
１０６    通信処理部
１０７    出力部
【図１】
2011013560.tif 000011
【図２】
2011013560.tif 000012
【図３】
2011013560.tif 000013
【図４】
2011013560.tif 000014
【図５】
2011013560.tif 000015
【図６】
2011013560.tif 000016
【図７】
2011013560.tif 000017
【図８】
2011013560.tif 000018
【図９】
2011013560.tif 000019
【図１１】
2011013560.tif 000020
【図１２】
2011013560.tif 000021
【図１０】
2011013560.tif 000022