(57)【要約】  ディープラーニングに基づく音質特性処理方法及びシステムを提供する。当該方法は、処理対象のオーディオデータを含むユーザ好みデータ（ｓ１）に対して特徴抽出（ｓ２）を実行して、処理対象のオーディオデータのデータ特徴を取得することと、データ特徴に基づいて、訓練済みのベースラインモデルを用いて（ｓ３）処理対象のオーディオデータの音質処理結果を生成すること（ｓ４）と、を含み、ベースラインモデルは、広範な大衆または単一ユーザのオーディオデータ、行動データ、および他の関連データを用いて訓練されたニューラルネットワークモデルである。ディープラーニング法に基づいて音質特性を処理し、ユーザフィードバックデータを用いてモデルオンライン学習を行うことにより、ユーザパーソナライズ音質調整が実現される。
2021525493.tif 000002
【特許請求の範囲】
【請求項１】
処理対象のオーディオデータを含むユーザ好みデータに対して特徴抽出を実行して、前記処理対象のオーディオデータのデータ特徴を取得することと、
前記データ特徴に基づいて、訓練済みのベースラインモデルを用いて前記処理対象のオーディオデータの音質処理結果を生成することと、を含み、
前記ベースラインモデルは、広範な大衆または単一ユーザのオーディオデータ、行動データ、および他の関連データを用いて訓練されたニューラルネットワークモデルであることを特徴とするディープラーニングに基づく音質特性処理方法。
【請求項２】
ユーザ好みデータは、音質特性に対するユーザの好みを反映したデータを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項３】
前記ユーザ好みデータは、ユーザ行動データ、ユーザオーディオリストデータ、再生中のオーディオデータ、環境ノイズデータ、デバイスデータ、および他のパラメータデータのうちの少なくとも１つを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項４】
前記特徴抽出のことは、ＦＦＴ、ＳＴＦＴ、ＭＦＣＣ、１つまたは複数のフレームの時間領域波形、および他の人工的に設計された特徴のうちの少なくとも１つを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項５】
前記データ特徴は、時間領域および／または周波数領域の特徴を含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項６】
前記ベースラインモデルの訓練方法は、
訓練データに基づいて特徴抽出を行って訓練データのデータ特徴を取得し、前記データ特徴を入力レイヤーとして入力し、前記音質特性を反映できる特徴を出力レイヤーターゲットとして訓練して前記ベースラインモデルを取得すること、または、ユーザ好みデータを特徴抽出し、教師なしディープラーニング法を用いて前記ベースラインモデルを取得することを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項７】
前記音質特性は、経験融合タイプ、人為的損傷タイプ、音質設定フィードバック可能タイプ、経験公式調整可能タイプ、信号領域計算可能タイプ、ノイズ雑音タイプ、または他のタイプを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項８】
前記経験融合タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベースに基づいて、オーディオデータのカテゴリラベル特徴および前記オーディオデータのデータ特徴を抽出することと、
前記オーディオデータのデータ特徴を入力レイヤーデータとし、前記カテゴリラベル特徴を出力レイヤーデータとして、経験融合タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項７に記載の音質特性処理方法。
【請求項９】
前記人為的損傷タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内の高品質のオーディオデータサンプルに基づいて人為的処理を行って損失のある低品質のオーディオデータサンプルを取得し、前記損失のある低品質のオーディオデータサンプルおよび前記高品質のオーディオデータサンプルに対してそれぞれ特徴抽出を行って低品質のオーディオデータ特徴および高品質のオーディオデータ特徴を取得することと、
前記低品質のオーディオデータ特徴を入力レイヤーデータとし、高品質のオーディオデータ特徴を出力レイヤーデータとして、人為的損傷タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項７に記載の音質特性処理方法。
【請求項１０】
前記音質設定フィードバック可能タイプの音質特性のベースラインモデルの訓練は、
大衆ユーザのオーディオデータにおける環境データと、前記環境データに対応する行動データとに基づいて、それぞれ特徴抽出を行い、前記環境データの環境パラメータ特徴と前記行動データの音質特性設定特徴を取得することと、
前記環境パラメータ特徴を入力レイヤーデータとし、前記音質特性設定特徴を出力レイヤーデータとして、音質設定フィードバック可能タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項７に記載の音質特性処理方法。
【請求項１１】
前記経験公式調整可能タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内のオーディオデータに基づいて特徴抽出を行い、オリジナルデータ特徴を取得することと、
前記オーディオデータに対して音質特性調整を行い、調整後のオーディオデータに対して特徴を抽出して調整パラメータ特徴を取得し、主観評価実験を通じて前記調整パラメータ特徴を主観評価にマッピングするネットワークモデルを確立し、最適化音質特性調整パラメータを取得することと、
前記オリジナルデータ特徴を入力レイヤーデータとし、前記最適化音質特性調整パラメータを出力レイヤーデータとして、前記経験公式調整可能タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項７に記載の音質特性処理方法。
【請求項１２】
前記信号領域計算可能タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内のオーディオデータに基づいて特徴抽出を行い、音質特性特徴を取得することと、
前記音質特性特徴をクラスタリングしてクラスタモデルを取得することと、
個人ユーザが好むオーディオデータに基づいて特徴抽出を行い、個人ユーザが好む音質特性特徴を取得し、前記クラスタモデルを入力して個人ユーザが好む音質特性分布特徴ベクトルを生成することと、
前記個人ユーザが好む音質特性分布特徴ベクトルに基づいて、前記信号領域計算可能タイプの音質特性のベースラインモデルとして、教師なしニューラルネットワークモデルを訓練することと、を含むことを特徴とする請求項７に記載の音質特性処理方法。
【請求項１３】
前記ノイズ雑音タイプの音質特性の分類ベースラインモデルの訓練は、
オーディオデータベース内の雑音又は正常音のカテゴリラベル特徴を含むオーディオデータに基づいて特徴抽出を行い、データ特徴及びそれに対応するカテゴリラベル特徴を取得することと、
前記データ特徴とそれに対応するカテゴリラベル特徴とに基づいて、ノイズ雑音タイプの音質特性を取得するための分類ベースラインモデルを訓練することと、を含むことを特徴とする請求項７に記載の音質特性処理方法。
【請求項１４】
前記音質処理結果を生成することは、
前記ノイズ雑音タイプの音質特性の分類ベースラインモデルの雑音判別結果に応じて前記処理対象のオーディオデータを処理されることと、前記雑音判別結果がフィルタリング可能な雑音カテゴリに属する場合、訓練済みのノイズ低減ベースラインモデルを用いてノイズ低減されたオーディオデータを取得することと、前記雑音判別結果がフィルタリング不可能な雑音カテゴリに属する場合には、前記処理対象のオーディオデータをユーザに提示するか、または削除させることと、を含むことを特徴とする請求項１３に記載の音質特性処理方法。
【請求項１５】
前記他のタイプの音質特性のベースラインモデルの訓練は、
オーディオデータベースに基づいて、他のタイプの音質特性を直接又は間接的に反映できるオーディオデータを取得することと、
前記他のタイプの音質特性を反映したオーディオデータに基づいて特徴抽出を行い、他のタイプの音質特性特徴抽出モデルを形成し、他のタイプの音質特性特徴を取得することと、
前記他のタイプの音質特性特徴を入力レイヤーとし、前記他のタイプの音質特性特徴を主観的に評価されたネットワークモデルにマッピングすることによって取得する主観的な感覚評価を出力レイヤーとするか、又は前記他のタイプの音質特性に対する個人ユーザの好み特徴に基づいて、他のタイプの音質特性を生成するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項７に記載の音質特性処理方法。
【請求項１６】
個人ユーザ好みデータをリアルタイムで抽出することと、
音質特性のベースラインモデルに基づいて、前記個人ユーザ好みデータをオンライン学習し、パーソナライズ音質特性処理モデルを取得するように訓練することと、
前記パーソナライズ音質特性処理モデルを用いて、パーソナライズされた音質特性処理結果を生成することと、を含み、
前記ベースラインモデルは、広範な大衆または単一ユーザのオーディオデータ、行動データ、および他の関連データを用いて訓練されたニューラルネットワークモデルであることを特徴とするディープラーニングに基づくオーディオ音質パーソナライズ処理方法。
【請求項１７】
前記個人ユーザ好みデータは、音質特性に対するユーザの好みを反映したデータを含むことを特徴とする請求項１６に記載のオーディオ音質パーソナライズ処理方法。
【請求項１８】
前記個人ユーザ好みデータは、ユーザ行動データ、ユーザオーディオリストデータ、再生中のオーディオデータ、環境ノイズデータ、デバイスデータ、および他のパラメータデータのうちの少なくとも１つを含むことを特徴とする請求項１６に記載のオーディオ音質パーソナライズ処理方法。
【請求項１９】
前記ベースラインモデルの訓練方法は、
訓練データに基づいて特徴抽出を行って訓練データのデータ特徴を取得し、前記データ特徴を入力レイヤーとして入力し、前記音質特性を反映できる特徴を出力レイヤーターゲットとして訓練して前記ベースラインモデルを取得すること、または、
ユーザ好みデータを特徴抽出し、教師なしディープラーニング法を用いて前記ベースラインモデルを取得することを含むことを特徴とする請求項１６に記載のオーディオ音質パーソナライズ処理方法。
【請求項２０】
前記特徴抽出のことは、ＦＦＴ、ＳＴＦＴ、ＭＦＣＣ、１つまたは複数のフレームの時間領域波形、および他の人工的に設計された特徴のうちの少なくとも１つを含むことを特徴とする請求項１６に記載のオーディオ音質パーソナライズ処理方法。
【請求項２１】
前記データ特徴は、時間領域および／または周波数領域の特徴を含むことを特徴とする請求項１６に記載のオーディオ音質パーソナライズ処理方法。
【請求項２２】
オンライン学習方法は、
前記ベースラインモデルに基づいて音質特性処理結果を出力し、個人ユーザによる音質特性処理結果のフィードバックデータにより前記ベースラインモデルを更新してパーソナライズ音質特性処理モデルを取得すること、および／または
前記パーソナライズ音質特性処理結果に対する個人ユーザのフィードバックデータにより再学習を行い、既存のパーソナライズ音質特性処理モデルを更新して新たなパーソナライズ音質特性処理モデルを取得することを含むことを特徴とする請求項１６に記載のオーディオ音質パーソナライズ処理方法。
【請求項２３】
前記オンライン学習は、前記ユーザ行動データにおける個人ユーザフィードバック行動の回数が所定の値まで蓄積された場合、前記個人ユーザ好みデータに基づいて前記ベースラインモデルまたは既存のパーソナライズオーディオ音質モデルを再学習することをさらに含むことを特徴とする請求項２２に記載のオーディオ音質パーソナライズ処理方法。
【請求項２４】
前記音質特性は、経験融合タイプ、人為的損傷タイプ、音質設定フィードバック可能タイプ、経験公式調整可能タイプ、信号領域計算可能タイプ、ノイズ雑音タイプ、または他のタイプを含むことを特徴とする請求項１６に記載のオーディオ音質パーソナライズ処理方法。
【請求項２５】
前記経験融合タイプの音質特性のオンライン学習方法は、
前記ユーザ好みデータにおけるユーザ好みリストが更新されると、音質特性パラメータの融合結果が更新されるが、このときベースラインモデルは更新されないこと、および／または
ユーザからフィードバックされた前記音質特性のデータ特徴が変化した場合、ユーザからフィードバックされた音質特性のデータ特徴に基づいてベースラインモデルを再訓練し、経験融合タイプの音質特性のパーソナライズ音質特性処理モデルを取得することを含むことを特徴とする請求項２４に記載のオーディオ音質パーソナライズ処理方法。
【請求項２６】
前記人為的損傷タイプの音質特性のオンライン学習方法は、前記ユーザ好みデータにおけるオーディオデータのオーディオフォーマットを判断し、ユーザにダウンロードを促すこと、または対応するベースラインモデルを自動的にダウンロードすることと、ダウンロードされた前記ベースラインモデルに基づいて、複数のオーディオフォーマットのプロモーションに適したハイブリッドモデルを訓練し、人為的損傷タイプの音質特性のパーソナライズ音質特性処理モデルを取得することと、を含むことを特徴とする請求項２４に記載のオーディオ音質パーソナライズ処理方法。
【請求項２７】
前記音質設定フィードバック可能タイプの音質特性のオンライン学習方法は、
ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルが、現在のオーディオデータの環境パラメータ情報に基づいて音質特性処理結果を出力し、出力された前記音質特性処理結果に伴うユーザのフィードバック訓練に応じて前記ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルを更新して、音質設定フィードバック可能タイプの音質特性のパーソナライズモデルを形成することを含むことを特徴とする請求項２４に記載のオーディオ音質パーソナライズ処理方法。
【請求項２８】
前記経験公式調整可能タイプの音質特性のオンライン学習方法は、
ベースラインモデル又は既存のパーソナライズ音質特性処理モデルによって出力された処理パラメータを用いて、処理対象のオーディオデータを処理し、ユーザが受け入れた場合に、前記ベースラインモデル又は既存のパーソナライズ音質特性処理モデルを更新する必要がなく、逆に、ユーザが受け入れず、出力された前記処理パラメータを調整すると、ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルを、調整されたオーディオデータおよび処理パラメータで更新することを含むことを特徴とする請求項２４に記載のオーディオ音質パーソナライズ処理方法。
【請求項２９】
前記信号領域計算可能タイプの音質特性のオンライン学習方法は、
エンコーダを用いて、推奨される前記オーディオデータの音質特性特徴コードと個人ユーザが好む音質特性特徴コードセットとの整合度を計算し、前記整合度が最も高い所定数の推奨すべきオーディオデータを個人ユーザに推奨して、ユーザに１つ以上のオーディオデータを推奨し、ユーザが推奨されたオーディオデータを受け入れた場合、当該オーディオデータをユーザが好むオーディオデータとみなすことができ、当該オーディオデータを個人ユーザが好むオーディオデータに加えることと、更新された個人ユーザが好むオーディオデータでエンコーダを更新することと、を含むことを特徴とする請求項２４に記載のオーディオ音質パーソナライズ処理方法。
【請求項３０】
前記ノイズ雑音タイプの音質特性のオンライン学習方法は、ユーザが特定のタイプのノイズを特に嫌う、または頻繁に遭遇する場合、ユーザフィードバック情報によって、そのタイプのノイズのための専用の分類器またはノイズ除去器をユーザにカスタマイズすることを含むことを特徴とする請求項２４に記載のオーディオ音質パーソナライズ処理方法。
【請求項３１】
前記他のタイプの音質特性のオンライン学習方法は、前記他のタイプの音質特性を請求項２２に記載のオンライン学習方法に適用することを含み、特定のオンライン学習プロセスは、音質特性特徴に応じて変更または簡略化されることを特徴とする請求項２４に記載のオーディオ音質パーソナライズ処理方法。
【請求項３２】
オーディオ再生端末、クラウドプラットフォーム、およびオンライン学習モジュールを含むディープラーニングに基づくオーディオ音質パーソナライゼーションシステムであって、
前記オーディオ再生端末は、ユーザ好みデータを記憶するためのものであり、
前記クラウドプラットフォームは、広範な大衆または単一ユーザのオーディオデータ、行動データおよびその他の関連データを用いて訓練されたニューラルネットワークモデルであるベースラインモデルを形成するためのものであり、
前記オンライン学習モジュールは、前記ユーザ好みデータを受信し、前記ベースラインモデルをオンライン学習して、パーソナライズオーディオ音質モデルを形成することを特徴とするオーディオ音質パーソナライゼーションシステム。
【請求項３３】
システムのスケジューリング、管理、および監視を担当する監視管理プラットフォームをさらに含むことを特徴とする請求項３２に記載のオーディオ音質パーソナライゼーションシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音質処理の技術分野に関し、より具体的には、ディープラーニングに基づく音質特性処理方法およびシステムに関する。
【背景技術】
【０００２】
音質は、オーディオ品質に対する人間の主観的な評価であり、音質の好みは人によって異なる。オーディオ再生機器のベンダーであろうとオーディオポータルプラットフォームであろうと、音質を向上および強化することは、ユーザのオーディオ体験を向上させる最も直接的な方法の１つである。しかし、現在の音質評価指標モデルが不備な状況では、客観的に量子化できない指標を調整することができないだけでなく、量子化やモデリングが可能な音質特性であっても、音質の好みが人によって異なるため、どのようにパーソナライズされた自動調整を実現するかという問題に直面している。
【０００３】
従来技術における音質調整方法は、一般的にユーザ自身によって調整されるが、この方法はユーザの体験に友好的ではなく、特にオーディオ自身の特性又はユーザの好みに対する適応的な音質調整方法はまだ応用されていない。もう１つの方法は、音楽のタイトルや作者などのラベル特徴を分析することにより、音楽推奨アルゴリズムを利用して、ユーザの音楽に対する好みをある種類またはいくつかの種類のスタイルに近づけ、その種類のスタイルに既存の業界共通の音質設定を利用してユーザに推奨することである。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかし、マルチカテゴリや未知カテゴリのオーディオは調節設定が困難であり、この方法のデータは人手でラベル付けされているため、ネットワーク環境から離れると、音楽の波形以外の情報、例えば、音楽スタイル、ユーザ評価、推奨アルゴリズムに必要な他のパラメータを取得することが困難になる可能性があり、その場合、この方法は無効となる。
【０００５】
要約すると、従来技術に存在する主な問題は次の通りである。
【０００６】
１．ほとんどの音質特性には、通常、自動調整テクノロジーが不足している。特に、個人ユーザ向けのパーソナライズされた音質処理テクノロジーが不足している。
【０００７】
２．既存のスタイルやタイプの経験データを利用して調節するＥＱのような音質は、未知カテゴリのオーディオに対して調節することができなくて、マルチカテゴリの特性を持つオーディオに対して経験データを融合する方法が不足しており、しかもネット上の人手の評価情報に依存する。
【０００８】
３．人為的に損傷したオーディオ情報復元技術には、より良い方法が必要である。
【０００９】
４．量子化可能な音質特性をどのようにユーザの主観的な感覚と関連付けて音質特性の強化を実現するか。
【００１０】
５．未知の量子化方法の特性をどのように扱うか。
【００１１】
本発明は、上記の問題の少なくとも１つを解決するために提案される。本発明は、ディープラーニングに基づく音質特性の処理に関し、ディープラーニング法に基づく音質特性の処理方法を提案し、ユーザフィードバックデータを用いてモデルオンライン学習を行うことにより、ユーザのパーソナライズされた音質調整を実現する。また、本発明は、音質指標の量子化方法、データの取得方法、信号領域特徴などの次元に従って、音質特性を複数の大きなタイプに分類し、各カテゴリの特性に合わせて、特定の音質調整モデルを設計し、既存の既知の音質指標については、音質調整およびユーザパーソナライズカスタマイズを達成することができ、未知の音質指標については、その性質に応じて複数の大きなタイプに帰属することができ、既存のフレームワークに従って訓練および調整することができ、６つのタイプに帰属することができない未知の音質特性については、すべての音質特性をカバーするまで、このフレームワークに基づいて拡張することができる。
【課題を解決するための手段】
【００１２】
本発明の一態様によれば、
処理対象のオーディオデータを含むユーザ好みデータに対して特徴抽出を実行して、前記処理対象のオーディオデータのデータ特徴を取得することと、
前記データ特徴に基づいて、訓練済みのベースラインモデルを用いて音質処理結果を生成することと、を含み、
前記ベースラインモデルは、広範な大衆または単一ユーザのオーディオデータ、行動データ、および他の関連データを用いて訓練されたニューラルネットワークモデルであるディープラーニングに基づく音質特性処理方法が提供される。
【００１３】
好ましくは、ユーザ好みデータは、音質特性に対するユーザの好みを反映したデータを含む。
【００１４】
好ましくは、前記ユーザ好みデータは、ユーザ行動データ、ユーザオーディオリストデータ、再生中のオーディオデータ、環境ノイズデータ、デバイスデータ、および他のパラメータデータのうちの少なくとも１つを含む。
【００１５】
好ましくは、前記特徴抽出方法は、ＦＦＴ、ＳＴＦＴ、ＭＦＣＣ、１つまたは複数のフレームの時間領域波形、および他の人工的に設計された特徴のうちの少なくとも１つを含む。
【００１６】
好ましくは、前記データ特徴は、時間領域および／または周波数領域の特徴を含む。
【００１７】
好ましくは、前記ベースラインモデルの訓練方法は、
訓練データに基づいて特徴抽出を行って訓練データのデータ特徴を取得し、前記データ特徴を入力レイヤーとして入力し、前記音質特性を反映できる特徴を出力レイヤーターゲットとして訓練して前記ベースラインモデルを取得すること、または、ユーザ好みデータを特徴抽出し、教師なしディープラーニング法を用いて前記ベースラインモデルを取得することを含む。
【００１８】
好ましくは、前記音質特性は、経験融合タイプ、人為的損傷タイプ、音質設定フィードバック可能タイプ、経験公式調整可能タイプ、信号領域計算可能タイプ、ノイズ雑音タイプ、または他のタイプを含む。
【００１９】
好ましくは、前記経験融合タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベースに基づいて、オーディオデータのカテゴリラベル特徴および前記オーディオデータのデータ特徴を抽出することと、
前記オーディオデータのデータ特徴を入力レイヤーデータとし、前記カテゴリラベル特徴を出力レイヤーデータとして、経験融合タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含む。
【００２０】
好ましくは、前記人為的損傷タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内の高品質のオーディオデータサンプルに基づいて人為的処理を行って損失のある低品質のオーディオデータサンプルを取得し、前記損失のある低品質のオーディオデータサンプルおよび前記高品質のオーディオデータサンプルに対してそれぞれ特徴抽出を行って低品質のオーディオデータ特徴および高品質のオーディオデータ特徴を取得することと、
前記低品質のオーディオデータ特徴を入力レイヤーデータとし、高品質のオーディオデータ特徴を出力レイヤーデータとして、人為的損傷タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含む。
【００２１】
好ましくは、前記音質設定フィードバック可能タイプの音質特性のベースラインモデルの訓練は、
大衆ユーザのオーディオデータにおける環境データと、前記環境データに対応する行動データとに基づいて、それぞれ特徴抽出を行い、前記環境データの環境パラメータ特徴と前記行動データの音質特性設定特徴を取得することと、
前記環境パラメータ特性を入力レイヤーデータとし、前記音質特性設定特徴を出力レイヤーデータとして、音質設定フィードバック可能タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含む。
【００２２】
好ましくは、前記経験公式調整可能タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内のオーディオデータに基づいて特徴抽出を行い、オリジナルデータ特徴を取得することと、
前記オーディオデータに対して音質特性調整を行い、調整後のオーディオデータに対して特徴を抽出して調整パラメータ特徴を取得し、主観評価実験を通じて前記調整パラメータ特徴を主観評価にマッピングするネットワークモデルを確立し、最適化音質特性調整パラメータを取得することと、
前記オリジナルデータ特徴を入力レイヤーデータとし、前記最適化音質特性調整パラメータを出力レイヤーデータとして、前記経験公式調整可能タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含む。
【００２３】
好ましくは、前記信号領域計算可能タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内のオーディオデータに基づいて特徴抽出を行い、音質特性特徴を取得することと、
前記音質特性特徴をクラスタリングしてクラスタモデルを取得することと、
個人ユーザが好むオーディオデータに基づいて特徴抽出を行い、個人ユーザが好む音質特性特徴を取得し、前記クラスタモデルを入力して個人ユーザが好む音質特性分布特徴ベクトルを生成することと、
前記個人ユーザが好む音質特性分布特徴ベクトルに基づいて、前記信号領域計算可能タイプの音質特性のベースラインモデルとして、教師なしニューラルネットワークモデルを訓練することと、を含む。
【００２４】
好ましくは、前記ノイズ雑音タイプの音質特性の分類ベースラインモデルの訓練は、
オーディオデータベース内の雑音又は正常音のカテゴリラベル特徴を含むオーディオデータに基づいて特徴抽出を行い、データ特徴及びそれに対応するカテゴリラベル特徴を取得することと、
前記データ特徴とそれに対応するカテゴリラベル特徴とに基づいて、ノイズ雑音タイプの音質特性を取得するための分類ベースラインモデルを訓練することと、を含む。
【００２５】
好ましくは、前記音質処理結果を生成することは、
前記ノイズ雑音タイプの音質特性の分類ベースラインモデルの雑音判別結果に応じて前記処理対象のオーディオデータを処理されることと、前記雑音判別結果がフィルタリング可能な雑音カテゴリに属する場合、訓練済みのノイズ低減ベースラインモデルを用いてノイズ低減されたオーディオデータを取得することと、前記雑音判別結果がフィルタリング不可能な雑音カテゴリに属する場合には、前記処理対象のオーディオデータをユーザに提示するか、または削除させることと、を含む。
【００２６】
好ましくは、前記他のタイプの音質特性のベースラインモデルの訓練は、
オーディオデータベースに基づいて、他のタイプの音質特性を直接又は間接的に反映できるオーディオデータを取得することと、
前記他のタイプの音質特性を反映したオーディオデータに基づいて特徴抽出を行い、他のタイプの音質特性特徴抽出モデルを形成し、他のタイプの音質特性特徴を取得することと、
前記他のタイプの音質特性特徴を入力レイヤーとし、前記他のタイプの音質特性特徴を主観的に評価されたネットワークモデルにマッピングすることによって取得する主観的な感覚評価を出力レイヤーとするか、又は前記他のタイプの音質特性に対する個人ユーザの好み特徴に基づいて、他のタイプの音質特性を生成するためのベースラインモデルを訓練することと、を含む。
【００２７】
本発明の別の態様によれば、
個人ユーザ好みデータをリアルタイムで抽出することと、
音質特性のベースラインモデルに基づいて、前記個人ユーザ好みデータをオンライン学習し、パーソナライズ音質特性処理モデルを取得するように訓練することと、
前記パーソナライズ音質特性処理モデルを用いて、パーソナライズされた音質特性処理結果を生成することと、を含み、
前記ベースラインモデルは、広範な大衆または単一ユーザのオーディオデータ、行動データ、および他の関連データを用いて訓練されたニューラルネットワークモデルであることを特徴とするディープラーニングに基づくオーディオ音質パーソナライズ処理方法が提供される。
【００２８】
好ましくは、前記個人ユーザ好みデータは、音質特性に対するユーザの好みを反映したデータを含む。
【００２９】
好ましくは、前記個人ユーザ好みデータは、ユーザ行動データ、ユーザオーディオリストデータ、再生中のオーディオデータ、環境ノイズデータ、デバイスデータ、および他のパラメータデータのうちの少なくとも１つを含む。
【００３０】
好ましくは、前記ベースラインモデルの訓練方法は、
訓練データに基づいて特徴抽出を行って訓練データのデータ特徴を取得し、前記データ特徴を入力レイヤーとして入力し、前記音質特性を反映できる特徴を出力レイヤーターゲットとして訓練して前記ベースラインモデルを取得すること、または、ユーザ好みデータを特徴抽出し、教師なしディープラーニング法を用いて前記ベースラインモデルを取得することを含む。
【００３１】
好ましくは、前記特徴抽出方法は、ＦＦＴ、ＳＴＦＴ、ＭＦＣＣ、１つまたは複数のフレームの時間領域波形、および他の人工的に設計された特徴のうちの少なくとも１つを含む。
【００３２】
好ましくは、前記データ特徴は、時間領域および／または周波数領域の特徴を含む。
【００３３】
好ましくは、オンライン学習方法は、
前記ベースラインモデルに基づいて音質特性処理結果を出力し、個人ユーザによる音質特性処理結果のフィードバックデータにより前記ベースラインモデルを更新してパーソナライズ音質特性処理モデルを取得すること、および／または
【００３４】
前記パーソナライズ音質特性処理結果に対する個人ユーザのフィードバックデータにより再学習を行い、既存のパーソナライズ音質特性処理モデルを更新して新たなパーソナライズ音質特性処理モデルを取得することを含む。
【００３５】
好ましくは、前記オンライン学習は、前記ユーザ行動データにおける個人ユーザフィードバック行動の回数が所定の値まで蓄積された場合、前記個人ユーザ好みデータに基づいて前記ベースラインモデルまたは既存のパーソナライズオーディオ音質モデルを再学習することをさらに含む。
【００３６】
好ましくは、前記音質特性は、経験融合タイプ、人為的損傷タイプ、音質設定フィードバック可能タイプ、経験公式調整可能タイプ、信号領域計算可能タイプ、ノイズ雑音タイプ、または他のタイプを含む。
【００３７】
好ましくは、前記経験融合タイプの音質特性のオンライン学習方法は、
前記ユーザ好みデータにおけるユーザ好みリストが更新されると、音質特性パラメータの融合結果が更新されるが、このときベースラインモデルは更新されないこと、および／または
【００３８】
ユーザからフィードバックされた前記音質特性のデータ特徴が変化した場合、ユーザからフィードバックされた音質特性のデータ特徴に基づいてベースラインモデルを再訓練し、経験融合タイプの音質特性のパーソナライズ音質特性処理モデルを取得することを含む。
【００３９】
好ましくは、前記人為的損傷タイプの音質特性のオンライン学習方法は、前記ユーザ好みデータにおけるオーディオデータのオーディオフォーマットを判断し、ユーザにダウンロードを促すこと、または対応するベースラインモデルを自動的にダウンロードすることと、ダウンロードされた前記ベースラインモデルに基づいて、複数のオーディオフォーマットのプロモーションに適したハイブリッドモデルを訓練し、人為的損傷タイプの音質特性のパーソナライズ音質特性処理モデルを取得することと、を含む。
【００４０】
好ましくは、前記音質設定フィードバック可能タイプの音質特性のオンライン学習方法は、
ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルが、現在のオーディオデータの環境パラメータ情報に基づいて音質特性処理結果を出力し、出力された前記音質特性処理結果に伴うユーザのフィードバック訓練に応じて前記ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルを更新して、音質設定フィードバック可能タイプの音質特性のパーソナライズモデルを形成することを含む。
【００４１】
好ましくは、前記経験公式調整可能タイプの音質特性のオンライン学習方法は、
ベースラインモデル又は既存のパーソナライズ音質特性処理モデルによって出力された処理パラメータを用いて、処理対象のオーディオデータを処理し、ユーザが受け入れた場合に、前記ベースラインモデル又は既存のパーソナライズ音質特性処理モデルを更新する必要がなく、逆に、ユーザが受け入れず、出力された前記処理パラメータを調整すると、ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルを、調整されたオーディオデータおよび処理パラメータで更新することを含む。
【００４２】
好ましくは、前記信号領域計算可能タイプの音質特性のオンライン学習方法は、
エンコーダを用いて、推奨される前記オーディオデータの音質特性特徴コードと個人ユーザが好む音質特性特徴コードセットとの整合度を計算し、前記整合度が最も高い所定数の推奨すべきオーディオデータを個人ユーザに推奨して、ユーザに１つ以上のオーディオデータを推奨し、ユーザが推奨されたオーディオデータを受け入れた場合、当該オーディオデータをユーザが好むオーディオデータとみなすことができ、当該オーディオデータを個人ユーザが好むオーディオデータに加えることと、更新された個人ユーザが好むオーディオデータでエンコーダを更新することと、を含む。
【００４３】
好ましくは、前記ノイズ雑音タイプの音質特性のオンライン学習方法は、ユーザが特定のタイプのノイズを特に嫌う、または頻繁に遭遇する場合、ユーザフィードバック情報によって、そのタイプのノイズのための専用の分類器またはノイズ除去器をユーザにカスタマイズすることを含む。
【００４４】
好ましくは、前記他のタイプの音質特性のオンライン学習方法は、前記他のタイプの音質特性を前述のオンライン学習方法に適用することを含み、特定のオンライン学習プロセスは、音質特性特徴に応じて変更または簡略化される。
【００４５】
本発明の別の態様によれば、オーディオ再生端末、クラウドプラットフォーム、およびオンライン学習モジュールを含むディープラーニングに基づくオーディオ音質パーソナライゼーションシステムであって、
前記オーディオ再生端末は、ユーザ好みデータを記憶するためのものであり、
前記クラウドプラットフォームは、広範な大衆または単一ユーザのオーディオデータ、行動データおよびその他の関連データを用いて訓練されたニューラルネットワークモデルであるベースラインモデルを形成するためのものであり、
前記オンライン学習モジュールは、前記ユーザ好みデータを受信し、前記ベースラインモデルをオンライン学習して、パーソナライズオーディオ音質モデルを形成することを特徴とするディープラーニングに基づくオーディオ音質パーソナライゼーションシステムが提供される。
【００４６】
好ましくは、前記システムは、前記システムのスケジューリング、管理、および監視を担当する監視管理プラットフォームをさらに含む。
【図面の簡単な説明】
【００４７】
添付図面に関連して本発明の実施形態をより詳細に説明することにより、本発明の上記および他の目的、特徴、および利点がより明らかになるであろう。添付図面は、本発明の実施形態の更なる理解を提供するために使用され、本発明の実施形態と共に本発明を説明するために使用される明細書の一部を構成するものであり、本発明を限定するものではない。添付図面において、同じ参照符号は、通常、同じ構成要素またはステップを表す。
【図１】本発明の一実施形態によるディープラーニングに基づく音質特性処理方法の模式的フローチャートである。
【図２Ａ】本発明の一実施形態によるディープラーニングに基づく経験融合タイプの音質特性の模式的原理図である。
【図２Ｂ】本発明の一実施形態によるカテゴリラベル特徴抽出プロセスの模式的原理図である。
【図２Ｃ】本発明の一実施形態によるカテゴリラベル復元プロセスの模式的原理図である。
【図３】本発明の一実施形態によるディープラーニングに基づく人為的損傷タイプの音質特性の処理方法の模式的原理図である。
【図４】本発明の一実施形態によるディープラーニングに基づく音質設定フィードバック可能タイプの音質特性の処理方法及びそのオンライン学習の模式的原理図である。
【図５Ａ】本発明の一実施形態によるディープラーニングに基づく経験公式調整可能タイプの音質特性の処理方法の模式的原理図である。
【図５Ｂ】本発明の一実施形態による主観評価実験プロセスの模式的原理図である。
【図６】本発明の一実施形態によるディープラーニングに基づく信号領域計算可能タイプの音質特性の処理方法の模式的原理図である。
【図７】本発明の一実施形態によるディープラーニングに基づくノイズ雑音タイプの音質特性の処理方法の模式的原理図である。
【図８】本発明の一実施形態によるディープラーニングに基づく他のタイプの音質特性の処理方法の模式的原理図である。
【図９】本発明の一実施形態によるディープラーニングに基づくパーソナライズ音質特性処理方法の模式的フローチャートである。
【図１０】本発明の一実施形態によるパーソナライズ音質特性処理モデルの訓練方法の模式的原理図である。
【図１１】本発明の一実施形態によるディープラーニングに基づくパーソナライズ音質特性処理方法のオンライン学習方法の模式的原理図である。
【図１２】本発明の一実施形態による経験融合タイプの音質特性のオンライン学習の原理的模式図である。
【図１３】本発明の一実施形態による経験公式調整可能タイプの音質特性のオンライン学習の原理的模式図である。
【図１４】本発明の一実施形態による信号領域計算可能タイプの音質特性のオンライン学習の原理的模式図である。
【図１５】本発明の一実施形態によるディープラーニングに基づく音質特性処理またはパーソナライズ音質特性処理のシステムの原理的模式図である。
【発明を実施するための形態】
【００４８】
本発明の目的、技術的手段、および利点をより明確にするために、以下、添付図面を参照して本発明に係る実施形態を詳細に説明する。明らかに、記載された実施形態は本発明の一部の実施形態にすぎず、本発明のすべての実施形態ではなく、本発明は本明細書に記載された例示的な実施形態によって限定されないことが理解されるべきである。本発明に記載された本発明の実施形態に基づいて、当業者が創造的な作業なしに得た他のすべての実施形態は、本発明の保護の範囲内に含まれるべきである。
【００４９】
本発明の一態様によれば、ディープラーニングに基づく音質特性処理方法が提供される。図１を参照して、本発明の一実施形態に係るディープラーニングに基づく音質特性処理方法について説明する。図１に示すように、ディープラーニングに基づく音質特性処理方法は、
処理対象のオーディオデータを含むユーザ好みデータ（ｓ１）に対して特徴抽出（ｓ２）を行い、前記処理対象のオーディオデータのデータ特徴を取得することと、
前記データ特徴に基づいて、訓練済みのベースラインモデル（ｓ３）を用いて、前記処理対象のオーディオデータの音質処理結果（ｓ４）を生成することと、を含み、
前記ベースラインモデルは、広範な大衆または単一ユーザのオーディオデータ、行動データ、および他の関連データを用いて訓練されたニューラルネットワークモデルである。
【００５０】
前記ユーザ好みデータは、音質特性に対するユーザの好みを反映したデータを含む。また、ユーザ行動データ、ユーザオーディオリストデータ、再生中オーディオデータ、環境ノイズデータ、デバイスデータ、および他のパラメータデータのうちの少なくとも１つを含むが、これらに限定されない。
【００５１】
異なる音質特性は異なる特性を有し、同一または類似の特性を有する音質特性は、同一または類似の方法によって音質特性を処理しても良い。前記処理は、音質特性の強化および／または推奨および／または提示を含むが、これらに限定されない。
【００５２】
次の表１に示すように、音質特性を所定の基準に基づいて分類する。前記音質特性は、経験融合タイプ、人為的損傷タイプ、音質設定フィードバック可能タイプ、経験公式調整可能タイプ、信号領域計算可能タイプ、ノイズ雑音タイプ又はその他のタイプを含むが、これらに限定されない。前記所定の基準は、データ取得の難易度、データ量子化の難易度、または主観とデータのマッピング確立の難易度を含むが、これらに限定されない。
【００５３】
データ取得の難易度とは、音質特性に関連するユーザ好みデータを取得しやすいか否かを指す。例えば、ＥＱ（Ｅｑｕａｌｉｚｅｒ）に対するユーザの好みとは、データの取得が困難な音質特性を指し、通常、ユーザが手動でＥＱを調整することはほとんどないため、ユーザのあるオーディオデータに対するＥＱ好み設定を取得することは困難である。音楽の人為的な符号化圧縮は、ｆｌａｃロスレス音楽をｍｐ３音楽にトランスコーディングするなど、データ取得が容易な音質特性である。人々がｍｐ３よりもｆｌａｃ音楽の方を好むことは確かであり、この好みは明らかであり、トランスコーディング前後の信号波形などの関連データを好みデータとすることができる。
【００５４】
データ量子化の難易度とは、ユーザ好みデータがある特徴抽出方法によって音質特性の異なる程度と変化を直接マッピングできるデータ特徴を取得することができるかどうかを指す。例えば、ＥＱはデータの量子化しにくい音質特性であり、ＥＱは一連の人工的に設計された曲線であり、表現形式は各周波数点の強化や減衰の程度であり、１つの高次元データであり、ＥＱ音質特性の強度を反映しにくい。人工的符号化圧縮は、量子化が容易な音質特性であり、コードレートサイズ、サンプリング周波数サイズなどの少量のパラメータでこの音質特性の強度を特徴付けることができ、同じオリジナルオーディオで符号化し、コードレートが低く、サンプリング周波数が低いオーディオフォーマットの音質は、高いサンプリング周波数と高いコードレートのオーディオフォーマットの音質と明らかに異なる。
【００５５】
主観とデータの関係確立の難易度とは、ユーザの音質特性に対する主観的な感覚がデータ特徴と直接対応できるかどうかを指す。例えば、低音の強さは主観的な感覚に対応することが困難な音質特性であり、すべての人が低音の強い音楽を好むわけではない。たとえスペクトルに基づいてオーディオの低音の強さを簡単に計算することができたとしても、この数値があるユーザの感覚に良い影響や悪い影響を与えることをすぐに判断することはできない。人工的符号化圧縮は、主観にマッピングしやすい音質特性である。これは、ロスレスオーディオを圧縮すると、必然的にすべての人の主観的な感覚が低下し、同じ符号化フォーマットのコードレートが低いほど感覚が悪くなるからである。
【００５６】
また、前記所定の基準は、音質特性特徴を反映するパラメータ、例えば、音質特性の重要度を特徴付けることができるパラメータである音質特性強度を含むことができる。例えば、低音強度という特性は、オーディオの低帯域エネルギーがスペクトルの全エネルギーに占める割合が大きいほど、低音強度の音質特性強度が大きくなり、音質特性強度によって量子化方法が異なる可能性があり、量子化できない可能性もある。一般に、音質特性強度の量子化可能な音質特性は、いずれもデータを簡単に量子化できる。
【００５７】
2021525493.tif 000003
【００５８】
次に、図２Ａ〜図８を参照して、上記の異なるタイプの音質特性に基づいて、本発明の一実施形態に係るディープラーニングに基づく音質特性処理方法について説明する。
１．経験融合タイプの音質特性
【００５９】
経験融合タイプの音質特性（例えば、ＥＱイコライゼーション）の関連データは、取得や量子化が困難であり、主観的な感覚とデータとのマッピングも困難であるが、特定の属性やカテゴリのオーディオデータについては、ジャズスタイルに適合した音楽など、本分野で認められている音質特性パラメータの調整方法があり、ジャズスタイルの音質特性パラメータを用いることで、一般の人々の好みを満たすことができる。
【００６０】
オーディオデータベース内のオーディオデータは、ユーザまたは他の手段によってカテゴリラベルが付けられている。カテゴリラベルは、「ジャズ」、「クラシック」、「スピーチ」、「コンサート」などを含むが、これらに限定されない。また、１つのオーディオデータは複数のカテゴリラベルに対応しなければならない。オーディオデータのカテゴリラベルを正規化して、各カテゴリに対応するオーディオデータの確率ベクトルを取得し、このベクトルを特徴付ける。当該方法は、行列分解、因子分解機、単語ベクトル化などを含むが、これらに限定されない。音楽波形の時間周波数領域の特徴を入力として使用し、カテゴリラベル特徴ベクトルを出力として使用して、経験融合タイプのディープニューラルネットワークを訓練する。ユーザがカテゴリラベルなしのオーディオデータまたはラベルが不完全であるオーディオデータを好む場合に、特徴抽出方法および訓練によって得られた経験融合タイプのディープニューラルネットワークを用いて、このオーディオデータのオーディオ波形をカテゴリラベル特徴ベクトルにマッピングする。カテゴリラベル特徴ベクトルに基づいて、既存の音質特性パラメータを融合して設計し、ユーザにフィードバックする。
【００６１】
図２Ａを参照すると、経験融合タイプの音質特性の場合、前記音質特性処理方法は、次のステップを含む。
【００６２】
オーディオデータベースに基づいて、オーディオデータのカテゴリラベル特徴（２１０）と、前記オーディオデータのデータ特徴（２１１）とが抽出される。
【００６３】
ここで、前記カテゴリラベル特徴を抽出する方法には、行列分解、因子分解機、単語ベクトル化などの方法が含まれるが、これらに限定されない。前記オーディオデータのデータ特徴は、オーディオ波形中の明らかなカテゴリ特徴部分を有する特徴を含むが、これらに限定されない。前記データ特徴の抽出方法としては、ｆｆｔ（Ｆａｓｔ  Ｆｏｕｒｉｅｒ  Ｔｒａｎｓｆｏｒｍａｔｉｏｎ）、ｍｆｃｃ（Ｍｅｌ−Ｆｒｅｑｕｅｎｃｙ  Ｃｅｐｓｔｒａｌ  Ｃｏｅｆｆｉｃｉｅｎｔ）等を含むが、これらに限定されない。
【００６４】
一実施形態では、音楽データのカテゴリラベル特徴の抽出プロセスについて、行列分解を例として説明する。図２Ｂを参照すると、大衆ユーザは、異なる音楽のカテゴリラベル（例えば、スタイルラベル）をラベル付けしてラベル付け行列１２０を形成し、ラベル付け行列１２０中のデータはラベル付けされた回数を表す。１２人のユーザが音楽「私の祖国」を「民楽」カテゴリとしてラベル付けした場合、ラベル付け行列１２０中の行が「私の祖国」であり、列が「民楽」であるデータは１２である。ラベル付け行列１２０の各行は、音楽の「スタイルラベル」と呼ばれる。
【００６５】
オリジナルのラベル付け行列１２０の各行は、明らかにスパースなベクトルであり、音楽のスタイルラベルのように、いくつかの座標が正の整数であり、他は０であるのが正常であるが、すべての座標が正の整数である場合はほとんどない。つまり、ほとんどの音楽は、いくつかのスタイルにのみ対応すべきであり、さらには１つのスタイルにのみ対応すべきである。したがって、このラベル付け行列１２０は非常にスパースであり、各音楽のスタイル特徴をより密にし、類似音楽間の特徴の関連度をよりよく反映できるようにスタイルラベル特徴を抽出する必要がある。
【００６６】
ラベル付け行列１２０を分解し、得られた分解結果はスタイルラベル特徴行列１２１と重み行列１２２である。このうち、スタイルラベル特徴行列１２１の各行は、音楽のスタイルラベル特徴であり、スタイルラベルという疎ベクトルの圧縮と見なすことができ、類似音楽のスタイルラベル特徴の間には比較的高い類似度があり、例えば、「私の祖国」と「十送紅軍」の特徴の余弦相関度は、「私の祖国」と「七里香」より明らかに高い。重み行列１２２の各列は１つの音楽スタイルに対応し、１列の数値はその音楽スタイルを特徴付けており、スタイルラベル特徴行列１２１のスタイルラベル特徴の各要素に対して重み付ける。スタイルラベル特徴行列１２１と重み行列１２２とを乗算した結果は、オリジナルのラベル付け行列を近似的に復元したものである。
【００６７】
前記オーディオデータのデータ特徴を入力レイヤーデータとし、前記カテゴリラベル特徴を出力レイヤーデータとして、経験融合タイプの音質特性を取得するためのベースラインモデルを訓練する（２１２）。
【００６８】
処理対象のオーディオデータを特徴抽出してデータ特徴を取得し、入力データとして前記経験融合タイプの音質特性のベースラインモデルに入力して、前記処理対象のオーディオデータのカテゴリラベル特徴を取得する（２１３）。
【００６９】
一実施形態では、ユーザが好む音楽を取得し、その音楽波形から抽出された特徴を入力として、経験融合タイプの音質特性のベースラインモデルを用いて演算すると、出力結果はこの音楽に対するスタイル特徴ベクトルであるカテゴリラベル特徴である。ユーザの音楽の異なる時間帯の時間領域波形について、異なるスタイル特徴が出力されることがあり、最終的なスタイル特徴推定結果を取得する方法には、各時間帯の出力の平均、または他の融合方法（投票など）が含まれるが、これらに限定されない。最終の音楽は１つのスタイル特徴ベクトルを出力する。
【００７０】
前記処理対象のオーディオデータのカテゴリラベル特徴を前記処理対象のオーディオデータのカテゴリラベルに復元し（２１４）、前記処理対象のオーディオデータのカテゴリラベルに基づいてユーザ好みカテゴリ画像を形成する（２１５）。
【００７１】
一実施形態では、行列分解を例にして、音楽データのスタイルラベル特徴をスタイルラベルに復元するプロセスを説明する。図２Ｃを参照すると、前記ディープニューラルネットワークモデルによって出力される特徴ベクトルは、音楽データのスタイルラベル特徴２００であり、重み行列２０１（すなわち、スタイルラベル特徴の抽出における重み行列１２２）が乗算されて、当該音楽データの可能なスタイルラベル２０２が復元される。ここで説明したいのは、先に因子分解機のような他のスタイルラベル特徴抽出手法を採用した場合、スタイルラベルを復元する手法は特徴抽出手法に対応すべきであるということである。
【００７２】
前記ユーザ好みカテゴリ画像と対応するカテゴリの音質特性パラメータとに基づいて融合し（２１６）、パーソナライズ音質特性パラメータを取得する。
【００７３】
ここで、前記ユーザ好みカテゴリ画像は、各カテゴリのオーディオデータに対するユーザの好み度を反映したものであり、各カテゴリのオーディオデータが占める割合や重みを反映したグラフ（例えば、棒グラフや円グラフ）を含むが、これらに限定されない。一実施形態では、ユーザが頻繁にクリックする音楽の音楽ラベル特徴は、ロックスタイルの座標上で最大の数値を有し、画像は、ロックがユーザの主な好みであることを示し得るため、画像に占めるロックカテゴリの割合が大きい。
【００７４】
前記パーソナライズ音質特性パラメータを音質処理結果としてユーザに推奨する（２１７）。
２．人為的損傷タイプの音質特性
【００７５】
人為的損傷タイプの音質特性の関連データは、いずれも取得しやいという特性を備えている。例えば、損傷符号化オーディオは、符号化前後のオーディオデータを容易に入手することができ、このような特性は損傷後と損傷前のデータのマッピングネットワークを直接確立することができる。
【００７６】
図３を参照すると、人為的損傷タイプの音質特性の場合、前記音質特性処理方法は、次のことを含む。
【００７７】
オーディオデータベース内の高品質のオーディオデータサンプルに基づいて処理を行い、損失のある低品質のオーディオデータサンプルを取得し、前記損失のある低品質のオーディオデータサンプルおよび前記高品質のオーディオデータサンプルに対してそれぞれ特徴抽出を行い、低品質のオーディオデータ特徴および高品質のオーディオデータ特徴を取得する（２２０）。
【００７８】
ここで、高品質のオーディオデータサンプルは、ロスレスオーディオデータまたは高品質のオーディオデータを含み、前記高品質の周波数データサンプルには、ｐｃｍ（Ｐｕｌｓｅ  Ｃｏｄｅ  Ｍｏｄｕｌａｔｉｏｎ）フォーマット、ｗａｖフォーマット、ｆｌａｃ（Ｆｒｅｅ  Ｌｏｓｓｌｅｓｓ  Ａｕｄｉｏ  Ｃｏｄｅ）フォーマット、その他のフォーマットのロスレスオーディオデータまたは高コードレートのオーディオデータが含まれるが、これらに限定されない。前記高コードレートのオーディオデータは、高コードレートまたは高いサンプリング周波数の音声データ、または人為的な損傷を受けていない他の形式のロスレスオーディオデータを含むが、これらに限定されない。これらのデータを特徴抽出した後に再構成ネットワークの出力レイヤーターゲットとする。高品質のオーディオデータの人工的な損傷として、代表的に、サンプリングレートが１６ｋＨｚであり、符号化レートが２３．８５ｋｂｐｓ（ＫＢｉｔ  Ｐｅｒ  Ｓｅｃｏｎｄ）であるａｍｒ−ｗｂ（Ａｄａｐｔｉｖｅ  Ｍｕｌｔｉ−Ｒａｔｅ  Ｗｉｄｅｂａｎｄ）音声と、トランスコーディングのサンプリングレートが８ｋＨｚであり、符号化レートが１２．２ｋｂｐｓであるａｍｒ−ｎｂ（Ａｄａｐｔｉｖｅ  Ｍｕｌｔｉ−Ｒａｔｅ  Ｎａｒｒｏｗｂａｎｄ）音声とが含まれるが、これらに限定されない。
【００７９】
前記処理には、コーデックなどの人工的損傷が含まれるが、これらに限定されない。
【００８０】
低品質のオーディオデータ特徴および高品質のオーディオデータ特徴を取得する方法は、前記損失のある低品質のオーディオデータサンプルまたは前記高品質のオーディオデータサンプルをフレーム化した後に特徴抽出することを含むが、これに限定されない。前記特徴抽出の方法には、ＳＴＦＴ（短時間フーリエ変換）などが含まれるが、これに限定されない。抽出された特徴は、オーディオの周波数領域の振幅または位相情報、時間領域特徴、または一定時間帯の時間領域波形を含むが、これらに限定されない。
【００８１】
前記低品質のオーディオデータ特徴を入力レイヤーデータとし、高品質のオーディオデータ特徴を出力レイヤーデータとして（２２１）、人為的損傷タイプの音質特性のベースラインモデルを取得するように訓練する（２２３）。
【００８２】
処理対象のオーディオデータ（２２２）を特徴抽出してデータ特徴を取得し、入力データとして前記人為的損傷タイプの音質特性のベースラインモデルに入力して、再構成された高品質のオーディオデータを取得する。
【００８３】
ここで、前記処理対象のオーディオデータは、記憶または再生される音質特性の改善を必要とするオーディオデータを含むが、これらに限定されない。さらに、ユーザの再生中またはリスト中のオーディオデータ、またはクラウドまたはユーザ側に記憶されたオーディオデータを含むが、これらに限定されない。前記処理対象のオーディオデータがオフラインで保存されたデータである場合、これらのデータはフレーム化され、オンラインで再生されるデータである場合、１フレームまたは数フレームのデータがバッファリングされる。
【００８４】
処理対象のオーディオデータの特徴抽出方法としては、ＳＴＦＴ（短時間フーリエ変換）等が含まれるが、これらに限定されない。抽出された特徴は、オーディオ波形の周波数領域振幅または位相情報、時間領域特徴、または一定時間帯の時間領域波形を含むが、これらに限定されない。前記再構成された高品質のオーディオデータは、再構成された時間領域のオーディオ波形を含むが、これに限定されない。
【００８５】
前記再構成された高品質のオーディオデータを、ユーザによる再生または記憶のためにバッファリングする（２２４）。
【００８６】
ここで、上記のオーディオデータは、データストリームの形態で送信されることを含むが、これに限定されないことに留意されたい。
３．音質設定フィードバック可能タイプの音質特性
【００８７】
音質設定フィードバック可能タイプの音質特性について、１人のデータを取得するには一定のコストがかかるが、多くの人のデータを取得することは比較的容易である。これにより、まず広範な大衆ユーザのフィードバックデータを用いて１つのベースラインモデルを訓練し、特定ユーザのオンラインフィードバックデータに基づいてベースラインモデルをオンライン学習させることにより、特定ユーザの好みモデルを取得することができる。すなわち、ディープラーニング法を用いて、大衆ユーザがオーディオデータを再生する際の大衆ユーザ好みデータ（再生されたオーディオデータのデータパラメータ、環境パラメータ、機器パラメータ等を含むが、これらに限定されない）を訓練し、大衆ユーザの対応するフィードバック調整設定のニューラルネットワークモデルにマッピングしてベースラインモデルを形成する。ベースラインモデルの音質特性調整結果を特定ユーザにフィードバックした後、ベースラインモデルを用いてオンライン学習を行い、特定ユーザからのフィードバックに応じてモデルを更新し、特定ユーザ自身の習慣を反映したパーソナライズ音質調整モデルを形成する。
【００８８】
図４を参照すると、音質設定フィードバック可能タイプの音質特性について、前記音質特性処理方法は、以下のステップを含む。
【００８９】
大衆ユーザのオーディオデータにおける環境データと、前記環境データに対応する行動データとに基づいて、それぞれ特徴抽出を行い、前記環境データの環境パラメータ特徴と、前記行動データの音質特性設定特徴とを取得する（２３０）。
【００９０】
ここで、前記大衆ユーザのオーディオデータは、オーディオデータの環境データと、対応する行動データとを含むが、これらに限定されない。前記環境データは音質特性によって様々なパラメータ特徴を含んでおり、具体的に含まれる内容は具体的な音質特性に応じて特定され、例えば、音量調節という音質特性は、環境騒音、音楽スタイル、再生機器のいずれにも関係している可能性があり、大衆ユーザは、高い騒音を背景で音量を上げるのが一般的である。したがって、前記環境データは、ユーザが調整動作を行うときの対応するオーディオ、環境、オーディオ機器のデータまたはパラメータ（環境ノイズ、音楽信号領域情報、音楽スタイル、環境ノイズセット、空港や歩行者専用道路などの現場ノイズ、機器パラメータなどを含むが、これらに限定されない）を含むが、これらに限定されない。前記対応する行動データは、ユーザが様々なノイズ環境下で異なる機器から音楽を聴いているときに収集したオーディオ特性設定などの、大衆ユーザに対応するオーディオ特性設定などのデータを含むが、これらに限定されない。
【００９１】
前記環境パラメータ特性を入力レイヤーデータとし、前記音質特性設定特徴を出力レイヤーデータとして、音質設定フィードバック可能タイプの音質特性のベースラインモデルを取得するように訓練する（２３１）。
４．経験公式調整可能タイプの音質特性
【００９２】
経験公式調整可能タイプの音質特性の特徴は、経験公式に従ってオーディオ信号を人為的に調整する方法で、その音質特性を強化したオーディオを取得することができることであり、調整するパラメータによって音質特性の強度が異なり、調整パラメータは、音質特性調整パラメータとも呼ばれる。しかし、このような音質特性は必ずしもすべての人が好むとは限らないので、様々なレベルの音質特性に対する人の主観的な感覚を評価する必要がある。様々なレベルに調整したオーディオの音質に対して主観的な評価実験を行うことによって、最適な調整済みパラメータを探し出す。さらに、ニューラルネットワークを介して、オーディオデータ特徴を最適な調整パラメータにマッピングするベースラインモデルを構築する。すなわち、音質特性の強さを主観的に評価し、音質特性調整パラメータと主観的感情とのマッピング関係を確立した後、オーディオ信号領域情報と音質特性調整パラメータとのマッピングネットワークを訓練することにより、オーディオ信号領域と主観的感情とのマッピングを実現する。特定ユーザについては、特定ユーザからのフィードバックを用いてベースラインモデルをオンライン学習することもできる。
【００９３】
図５Ａを参照すると、経験公式調整可能タイプの音質特性について、前記音質特性処理方法は、以下を含む。
【００９４】
オーディオデータベース内のオーディオデータ（４００）に基づいて、フレーム化後に特徴抽出を行い、オリジナルデータ特徴（４０１）を取得する。
【００９５】
なお、前記オーディオデータには、音質特性強化処理が施されていないオリジナル楽音波形や信号領域データ等が含まれるが、これらに限定されない。前記特徴抽出の方法は、ＳＴＦＴを含むが、これに限定されない。
【００９６】
前記オーディオデータに対して音質特性調整を行い、調整後のオーディオデータに対して特徴を抽出して調整パラメータ特徴を取得し（４０２）、主観評価実験を通じて前記調整パラメータ特徴を主観評価にマッピングするネットワークモデルを構築し（４０３）、最適な音質特性調整パラメータを取得する。
【００９７】
ここで、前記音質特性の調整は、既知の経験公式による前記オーディオデータの音質特性の調整を含むが、これに限定されない。前記音質特性の調整は、音質特性の強化または弱化を含むが、これらに限定されない。前記主観評価実験は、音質特性調整パラメータを大衆ユーザの平均主観感覚にマッピングするものであり、具体的な実験方法としては、最小可知差実験が含まれるが、これに限定されない。
【００９８】
一実施形態では、前記主観評価実験の手順を、最小可知差主観実験を例に説明する。図５Ｂを参照して、１つのオリジナル音楽データに対して、処理関数ｆ、処理パラメータＰ＝ｐの音質特性強化処理を行う。ｐがある周波数点に対する上昇倍数を特徴付けることができ、上昇後にある音質特性の強度を増大させることができる場合、音質特性を強化した後の音楽はｍ（１）＝ｆ（ｐ）である。パラメータ△ｐを加えてオリジナル音楽を処理すると、処理後の音楽はｍ（２）＝ｆ（ｐ＋△ｐ）となる。以下、同様にして、パラメータＰ（ｎ）＝ｐ＋△ｐ＊（ｎ−１）で処理された音楽をｍ（ｎ）とし、評価者はｍ（ｎ＋１）の音質の主観感覚がｍ（ｎ）よりも劣るパラメータＰ（ｎ）が見つかるまでｍ（２）とｍ（１）を比較し、このときＰ＋△ｐ＊（ｎ−１）を音質特性強化処理の最適パラメータとする。同一音楽の評価について、評価者によって評価結果が異なる可能性があり、これらの評価を平均することで、１つのオーディオの１つの音質特性に対する最適な音質特性強化パラメータを取得することができる。
【００９９】
具体的には、引き続き図５Ｂを参照すると、第ｎ段階（４１０）は、パラメータｐ＋△ｐ＊（ｎ−１）を用いてオーディオを処理する。第ｎ段階と第ｎ−１段階で生成されたオーディオに対する評価者の主観的な評価（４１１）は、第ｎ段階のオーディオの音質が第ｎ−１段階よりも良好である場合、スコアが１となり、４１２は、すべての評価者のスコアを平均することを意味し、第ｎ＋１段階では、第ｎ段階の平均スコアが第ｎ＋１段階の平均スコアよりも大きくなると、パラメータｐ＋△ｐ＊ｎは過剰な処理パラメータであり、ｐ＋△ｐ＊（ｎ−１）はちょうど適切なパラメータであることを示している。
【０１００】
好ましくは、第１段階のｐは０の値のセットであってもよい。このパラメータを使って処理した結果はもちろんオリジナルなオーディオであり、第２段階ではオリジナルのオーディオと△ｐ処理されたオーディオを比較する。もし評価者がオリジナルオーディオが最高だと判断した場合、このオーディオはこの音質特性を強化するのに適していないことを意味する。例えば、透明度という音質特性は、自然なスタイルの音楽にしか適していないかもしれないが、一部のタイプの音楽は音質特性の強化に不適な場合がある。オリジナル波形が処理した結果よりも主観的な感覚が良いことが判明したら、このようなオーディオはそのスタイルを強化するのに不適であるため、このオーディオの最適強化パラメータは０値のセットである。
【０１０１】
前記オリジナルデータ特徴を入力レイヤーデータとし、前記最適化音質特性調整パラメータを出力レイヤーデータとして、前記経験公式調整可能タイプの音質特性を取得するためのベースラインモデルを訓練する（４０４）。
【０１０２】
処理対象のオーディオデータ（４０６）を特徴抽出してデータ特徴（４０７）を取得し、それを入力データとして、前記経験公式調整可能タイプの音質特性のベースラインモデル（４０８）に入力して、前記処理対象のオーディオデータの最適化音質特性調整パラメータを取得する。
【０１０３】
ここで、前記処理対象のオーディオデータは、ユーザのオーディオリストにおけるオーディオデータまたはユーザが再生しているオーディオデータを含むが、これらに限定されない。
【０１０４】
前記処理対象のオーディオデータの最適化音質特性調整パラメータをユーザにフィードバックする（４０５）。
【０１０５】
ここで、前記フィードバックの方法は、ユーザ側のソフトウェアによって処理されるフィードバックパラメータをユーザ側へフィードバックすること、または、オンラインで再生し、クラウドプラットフォームに基づいて処理して、処理された波形を直接フィードバックすることを含むが、これらに限定されない。
５．信号領域計算可能タイプの音質特性
【０１０６】
信号領域計算可能タイプの音質特性の関連データは、オーディオ信号領域情報から計算可能である。このため、データの取得と量子化は容易であるが、このような音質特性はすべての人が好むわけではないので、異なる強度の音質特性に対する人間の反応を評価する必要があり、ユーザがこのような音質特性を好む度合いを当該音質特性に対するユーザ好み特徴と呼ぶ。強度の異なるこのような音質特性を有するオーディオデータを取得しやすいため、人の手で製造する必要はない。そこで、式選択可能型とは異なるアルゴリズムを採用し、ユーザオーディオリストのオーディオ信号領域から抽出された音質特徴を教師なしディープラーニング法を用いて特徴圧縮学習し、そのような音質に対するユーザの好み特徴を学習した後、学習した特性に基づいて既存のオーディオライブラリから類似した特性を有する他のオーディオデータを見つけてユーザに推奨する。
【０１０７】
これにより、信号領域計算可能タイプの音質特性について、ユーザオーディオリストのオーディオデータの信号領域から抽出された音質特性を教師なしディープラーニング法を用いて特性圧縮学習し、そのような音質特性に対するユーザの好み特徴を学習した後、学習した特性に基づいて既存のオーディオライブラリから類似した特性を有する他の音楽を見つけてユーザに推奨する。
【０１０８】
図６を参照すると、信号領域計算可能タイプの音質特性について、前記音質特性処理方法は、以下を含む。
【０１０９】
オーディオデータベース内のオーディオデータ（５００）に基づいて、フレーム化後に特徴抽出を行い、音質特性特徴（５０１）を取得する。
【０１１０】
ここで、前記オーディオデータは、オーディオ波形を含むが、これに限定されない。前記オーディオデータのスタイルカテゴリは、現在知られているスタイルカテゴリをカバーすべきである。前記音質特性特徴の抽出には、既知の音質特性計算方法による計算が含まれるが、これに限定されない。また、前記音質特性特徴には、音質特性の特徴ベクトルまたは音質特徴強度が含まれるが、これらに限定されない。
【０１１１】
例えば、前記音質特性の特徴ベクトルは、ｍ次元の１つのベクトルであってもよい。一実施形態において、低音強度という音質特性を例にとると、低音強度は、音楽の低音部分が強力であるか否かを特徴付ける音質特性であり、一般的には、低周波帯域のエネルギーと全帯域のエネルギーとの割合によって求めることができ、１つの数値である。低周波帯域がｍ個の周波数点、全帯域がｋ個の周波数点を有し、各周波数点の振幅をＳ（ｉ）、ｉ＝１、２、……ｋとすると、全帯域の振幅は、
2021525493.tif 000004
である。従って、低音強度という音質特性の特徴ベクトルはＶ＝［ｖ１、ｖ２…ｖｍ］と設計することができ、ここでＶｉ＝Ｓ（ｉ）／Ｅ、すなわち、Ｖの要素の数値は各周波数点振幅と全周波数点振幅の比であり、Ｖの各要素の和を低音強度と見なすことができる。その他のタイプの音質特性については、実際の計算方法に基づいて特徴ベクトルを選択することができる。
【０１１２】
例示的に、音質特性特徴は、音質特徴強度であってもよく、前記音質特徴強度は数値データを含むが、これに限定されない。そして、音質特性の特徴ベクトルは、音質特徴強度を計算する中間結果である。
【０１１３】
しかし、実際の応用では、数値を直接出力するのではなく、音質特徴ベクトルを計算することが一般的である。これは、前者の方が情報量が豊富であり、機械学習アルゴリズムによるクラスタリングにより適しているからである。
【０１１４】
前記音質特性特徴をクラスタリング（５０２）してクラスタモデルを取得し、前記音質特性特徴をＮタイプにクラスタリングする。ここで、前記クラスタリング方法は、Ｋｍｅａｎｓクラスタリングアルゴリズムを含むが、これに限定されない。
【０１１５】
個人ユーザが好むオーディオデータ（５０３）に基づいて特徴抽出を行い、個人ユーザが好む音質特性特徴（５０４）を取得し、前記クラスタモデルに入力して個人ユーザが好む音質特性分布特徴ベクトル（５０５）を生成する。
【０１１６】
ここで、前記個人ユーザが好むオーディオデータの収集方法は、ユーザが頻繁に再生するオーディオデータおよび／またはプレイリストに常駐するオーディオデータおよび／または「いいね」のオーディオデータを選択することを含むが、これらに限定されない。
前記音質特性分布特徴ベクトルは、前記オーディオデータの音質特性特徴の分布を表す。例えば、１つのオーディオに対して合計ｃ個のフレームがあり、これらのフレームは特徴抽出後にＮタイプにまとめられるが、ｃ個のフレームのタイプ分布を１つの特徴ベクトルで表し、ベクトルＵ＝［Ｕ１、Ｕ２、Ｕ３、……ＵＮ］と表記する。ここで、Ｕｉ＝オーディオでｉ番目のタイプに属するフレームの数、例えばＵ＝［３、４、７、９、……］である場合、音質特徴はタイプ１に属するフレームが３個、タイプ２に属するフレームが４個、タイプ３に属するフレームが７個あり、明らかに
2021525493.tif 000005
である。ここでベクトルＵをこのオーディオの音質特性特徴分布ベクトルと呼ぶ。
【０１１７】
前記個人ユーザが好む音質特性分布特徴ベクトルに基づいて、教師なしニューラルネットワークモデル（５０６）をエンコーダとして訓練する。ここで、前記教師なしニューラルネットワークモデルは、入力特徴を符号化圧縮する信号領域計算可能タイプの音質特性のベースラインモデルであり、自己エンコーダ、制限付きボルツマンマシン、ディープビリーフネットワークなどを含むが、これらに限定されない。
【０１１８】
個人ユーザが好む音質特性分布特徴ベクトルを前記エンコーダに入力し、個人ユーザが好む音質特性特徴コードセットを取得する（５０７）。
【０１１９】
一実施形態では、前記エンコーダに基づいて、ネットワーク内の１つの隠れ層をインターセプトしてユーザ好みオーディオの音質特性特徴分布ベクトルとしてネットワークに入力し、隠れ層の出力は入力特徴の符号化と見なすことができる。単一の隠れ層の自己エンコーダが訓練されている場合、隠れ層は一意である。制限付きボルツマンマシンである場合、隠れ層も唯一である。マルチレイヤーの自己エンコーダまたはディープビリーフネットワークの場合、複数の隠れ層から１つを選択する必要がある。各ユーザ好みオーディオデータの音質特性特徴分布ベクトルは、１つのコードに対応し、複数のユーザ好みオーディオデータ特徴のコードは、ユーザ好み音質特性コードセットを構成する。これらの符号化特性は、音質特性に対するユーザの好みの抽象的な特徴付けモデルと見なすことができる。
【０１２０】
少なくとも１つの推奨すべきオーディオデータ（５０８）に基づいて、フレーム化後に特徴抽出を行って少なくとも１つの推奨すべきオーディオデータ音質特性特徴（５０９）を生成し、前記クラスタモデルに入力してクラスタリングを行い、推奨すべきオーディオデータの音質特性分布特徴ベクトル（５１０）を取得する。
【０１２１】
ここで、前記推奨すべきオーディオデータの選択方法は、オーディオライブラリからランダムに選択されたオーディオデータおよび／または音楽ポータルサイトの推奨アルゴリズムによって推奨された音楽データを含むが、これらに限定されない。
【０１２２】
前記推奨すべきオーディオデータの音質特性分布特徴ベクトルを前記エンコーダに入力し（５１１）、前記推奨すべきオーディオデータの音質特性特徴コードを取得する（５１２）。
【０１２３】
前記推奨すべきオーディオデータの音質特性特徴コードと、個人ユーザが好む音質特性特徴コードセットとの整合度を計算する（５１３）。
【０１２４】
ここで、２つの符号化ベクトル間の整合度は、コサイン類似度、ユークリッド距離等を含む類似度アルゴリズムを用いて計算することができるが、これらに限定されない。１つの符号化ベクトルと１セットの符号化ベクトルとの整合度のアルゴリズムは、当該ベクトルと１セットのベクトルそれぞれのベクトルの類似度を加算平均するか、最大のｋ個の類似度を加算平均するか、１セットのベクトルの数値を平均して平均ベクトルを求め、平均ベクトルと当該ベクトルとの類似度を計算することを含むが、これらに限定されない。
【０１２５】
前記整合度が最も高い所定数の推奨すべきオーディオデータを個人ユーザに推奨する（５１４）。
【０１２６】
一実施形態では、ユーザが個人ユーザに推奨された音楽を好まない（例えば、ユーザがそれらの音楽を削除する、または再生しない）場合、これらの音楽をユーザの好み音楽から削除し、そうでない場合、これらの推奨された音楽をユーザの好みの一部とし、新しいエンコーダは適切な場合に繰り返し訓練される。
６．ノイズ雑音タイプの音質特性
【０１２７】
ノイズ雑音タイプの音質特性の特徴は、このような音質特性が現れると、多くの人の感覚に不快感を与えることであり、このような音質特性の強度が大きいほど主観的な感覚が悪くなることである。雑音検出のモデルを訓練することができ、ディープラーニング法によりフレームの雑音確率または雑音カテゴリの雑音分類ネットワークを計算し、特定カテゴリの雑音を用いてノイズ低減ニューラルネットワークを訓練し、雑音分類ネットワークにより雑音カテゴリを得た後、特定のモデルを選択してノイズ低減を行う。
【０１２８】
図７を参照すると、ノイズ雑音タイプの音質特性の場合、前記音質特性処理方法は、次のステップを含む。
【０１２９】
オーディオデータベース内の雑音または正常音のカテゴリラベル特徴を含むオーディオデータ（６００）に基づいて特徴抽出を行い、データ特徴およびそれに対応するカテゴリラベル特徴を取得する（６０１）。ここで、前記特徴抽出の方法は、ＭＦＣＣを含むが、これに限定されない。
【０１３０】
前記データ特徴およびその対応するカテゴリラベル特徴に基づいて、ノイズ雑音タイプの音質特性の分類ベースラインモデルを訓練する（６０２）。ここで、前記ノイズ雑音タイプの音質特性の分類ベースラインモデルは、オーディオフレームがノーマルオーディオであるか、ある種類の雑音に属するかを識別することができ、すなわち雑音分類器である。さらに、実際の応用では、取得可能な雑音のサンプルは、取得可能なノーマルオーディオよりもはるかに少ない可能性があり、このような問題は、統合学習の手法を用いてノーマルオーディオサンプルを複数の分類器に分散するなど、いくつかの訓練戦略によって解決することができる。
【０１３１】
処理対象のオーディオデータ（６０３）に基づいてフレーム化及び特徴抽出を行い、処理対象のオーディオデータのデータ特徴を取得し（６０４）、前記ノイズ雑音タイプの音質特性の分類ベースラインモデルに入力して雑音判別結果を取得する（６０５）。ここで、前記雑音判別結果は、オーディオデータフレームの雑音カテゴリまたはノーマルオーディオを含むが、これらに限定されない。一実施形態では、前記雑音判別結果は、大量の雑音がオーディオデータに含まれているか否か、すなわち、このオーディオを処理する必要があるか否かのことをさらに含む。前記大量の雑音を含むことは、特定の数の雑音フレームが連続して出現することを含むが、これに限定されない。
【０１３２】
前記処理対象のオーディオデータを前記雑音判別結果に応じて処理する（６０６）。この処理の態様は、ノイズ除去強化、ユーザへの提示、またはオーディオデータの削除などを含むが、これらに限定されない。
【０１３３】
さらに、前記雑音識別結果がフィルタリング可能な雑音タイプ（バブブル（ｂａｂｂｌｅ）環境ノイズ、ハウリング、電流音などを含むが、これらに限定されない）に属する場合、訓練済みのノイズ雑音タイプの音質特性のノイズ低減ベースラインモデルを用いて、ノイズ低減されたオーディオデータを取得する（６０７）。前記雑音識別結果がフィルタリング不可能雑音カテゴリに属する場合、ユーザに提示を与えるか、または前記処理対象のオーディオデータを削除する（６０８）。
【０１３４】
一実施形態では、理想的な２値マスキング方法（Ｉｄｅａｌ  Ｂｉｎａｒｙ  Ｍａｓｋ）および特徴マッピング方法に従って、前記ノイズ雑音タイプの音質特性のノイズ低減ベースラインモデルを訓練することは、以下のことを含む。
【０１３５】
オーディオデータベース内のオーディオデータを、その時間領域または周波数領域の特徴に基づいて時間領域または周波数領域のユニットに分割し、各時間領域または周波数領域のユニットをノイズタイプまたはノーマルオーディオタイプに分類し、前記ノイズタイプの時間領域または周波数領域のユニットを除去して純粋なオーディオデータを取得する。
【０１３６】
前記オーディオデータの時間領域または周波数領域の特徴を入力レイヤーデータとし、前記純粋なオーディオデータの時間領域または周波数領域の特徴を出力レイヤーデータとして、前記ノイズ雑音タイプの音質特性を取得するためのノイズ低減ベースラインモデルを訓練する。
７．他のタイプのオーディオ特性
【０１３７】
他のタイプの音質特性は、未知属性の音質特性、例えば、量子化手法のない音質特性である。そのため、オーディオ波形から直接または間接的に関連する音質特性を反映したデータを取得する工夫をしたり、オーディオ波形に何らかの処理を施したりして関連する音質特性を有するオーディオデータを取得する必要がある。上記のデータを特徴抽出し、音質特性のパラメータを反映することができる特徴を抽出し、データと音質特性とのマッピング関係を確立する方法は、監視なし自己エンコーダ、制限付きボルツマンマシンなどの方法を含むが、これらに限定されない。データ特徴の性質に基づいて、特徴と主観的感覚との間の関連性を確立する方法は、主観評価実験または教師なしディープラーニング方法を用いて当該特徴に対するユーザの好みを学習することを含むが、これらに限定されない。最後に、データに対するユーザのフィードバックを訓練セットとして利用して、ベースラインモデルをオンラインで学習する。モデルは、データまたはデータ特徴から主観的感情へのマッピングネットワークを含むが、これらに限定されない。
【０１３８】
図８を参照すると、他のタイプの音質特性について、前記音質特性処理方法は、さらに次のステップを含む。
【０１３９】
オーディオデータベース（７００）に基づいて、他のタイプの音質特性を直接または間接的に反映可能なオーディオデータ（７０１）を取得する。
【０１４０】
前記オーディオデータベース内のオーディオデータは、オーディオ波形、タイトルスタイルラベル等のパラメータ情報を含むが、これらに限定されない。また、研究が必要な未知属性の他のタイプの音質特性と関連しているべきであり、関連しているか否かの判断が困難であれば、可能な限り様々なスタイルをカバーできる異なるタイプのオーディオデータを収集する。
【０１４１】
他のタイプの音質特性を反映するオーディオデータを取得することは、ユーザ側で記憶または受信されたオーディオデータから取得すること、または関連する音質特性を有するオーディオデータを取得するためにオーディオ波形に何らかの処理を施すことを含むが、これらに限定されない。他のタイプの音質特性を反映したオーディオデータを取得する基本的な方法には、経験分析、データ統計特性分析、主観実験などが含まれるが、これらに限定されない。例えば、上記他のタイプの音質特性は、音質特性の次元である中間周波数（Ｍｉｄｒａｎｇｅ）に関連している場合があり、中間周波数特性のカテゴリに属する場合もあり、オーディオデータ信号の中間周波数帯域スペクトルを抽出することは、有効なデータ抽出方法である。また、他のタイプの音質特性を反映するオーディオデータは比較的複雑な方法で取得することもできるが、そのことは、そのような他のタイプの音質特性を明らかに有するサンプルの収集、または、ＳＶＭ（Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ；サポートベクターマシン）、ＫＮＮ（ｋ−ＮｅａｒｅｓｔＮｅｉｇｈｂｏｒ；隣接アルゴリズム）等のような小さなデータで訓練可能な機械学習方法を含むが、これらに限定されない。サンプルデータに基づいて抽出されたデータ特徴を入力し、前記他のタイプの音質特性のオーディオデータと他のオーディオデータとを区別し、そのデータ特徴がそのような音質特性に対して一定の分類能力を有しているか否かを判断し、分類能力が明らかでない場合には、他のデータモデルを試すことができる。分類能力が明らかであるか否かを判定する方法には、ＡＮＯＶＡ（Ａｎａｌｙｓｉｓ  ｏｆ  Ｖａｒｉａｎｃｅ；分散分析）のような統計方法が含まれるが、これに限定されない。
【０１４２】
前記他のタイプの音質特性を反映したオーディオデータに基づいて特徴抽出を行い、他のタイプの音質特性特徴抽出モデルを形成し（７０２）、他のタイプの音質特性特徴を取得する。
【０１４３】
前記他のタイプの音質特性オーディオデータは、単に前記他のタイプの音質特性に関連しているので、前記他のタイプの音質特性の強度や特徴を直接反映することができない場合には、前記他のタイプの音質特性オーディオデータに対して特徴抽出を行い、前記他のタイプの音質特性を直接反映できる特徴を取得するか、あるいは前記他のタイプの音質特性の強度を算出できるモデルを作成する必要がある。特徴抽出の基本的な方法は、特徴設計を含むが、これに限定されるものではなく、前記他のタイプの音質特性のある属性を特徴付けるために、関連する統計パラメータを設計する必要がある場合がある。当業者は、ここに唯一の正確な特徴設計がない可能性があり、多くの異なる設計を試み、主観的実験の結果に基づいて調整しなければならない可能性があることを知るべきである。特徴抽出のより複雑な方法は、教師なしディープラーニング方法を採用するが、これに限定されない。前記他のタイプの音質特性特徴抽出モデルを取得するために、自己エンコーダ、制限付きボルツマンマシンなどを採用するが、これらに限定されない。明らかな音質特性特徴を有するオーディオデータモデルを符号化すると、物理的意味が不明な結果を取得するかもしれないが、人工的な特徴設計よりも効果的である場合がある。（図６に示すように、信号領域計算可能タイプの音質特性の処理方法で述べた特徴抽出方法に類似している）。
【０１４４】
前記他のタイプの音質特性特徴を入力レイヤーとし、前記他のタイプの音質特性特徴を主観評価のネットワークモデルにマッピングして取得した主観的感覚評価を出力レイヤーとするか、または前記他のタイプの音質特性に対する個人ユーザの好み特徴に基づいて、他のタイプの音質特性を生成するためのベースラインモデルを訓練する（７０３）。訓練方法には、主観評価実験または教師なしディープラーニングが含まれるが、これらに限定されない。
【０１４５】
前記他のタイプの音質特性の性質に応じて、次の２つのケースが含まれるが、これらに限定されない。１つのケースは、前記他のタイプの音質特性がオーディオデータを人為的に調整することでしか得られない場合であるため、様々なスタイルをカバーするオーディオデータベースから特徴データを取得することしかできない。この場合、特徴データはユーザの好みを反映することができない。従って、オーディオデータの前記他のタイプの音質特性特徴を、多数の人の平均的な主観的感覚を特定できるデータにマッピングする主観評価実験（経験公式調整可能タイプの音質特性に類似しており、図５Ｂを参照）を設計する必要がある。もう一つのケースは、ユーザが好むオーディオデータは、前記他のタイプの音質特性の強さを示すことができ、この場合、教師なしディープラーニング方法により、前記他のタイプの音質特性に対するユーザの好み特徴を抽出する（信号領域計算可能タイプの音質特性における特徴の自己学習方法に類似しており、図６を参照）。例えば、オーディオデータの音質特性特徴とユーザの音質特性に対する好み特徴との整合度算出は、主観的な好みに対する音質特性特徴のマッピングであり、整合度が高いほど、ユーザがこのオーディオを好む可能性があることを示している。
【０１４６】
処理対象のオーディオデータに基づいて（７０４）、他のタイプの音質特性特徴抽出を行い（７０５）、前記他のタイプの音質特性のベースラインモデルに入力してユーザの主観的感覚評価を取得し、他のタイプの音質特性処理結果を生成する（７０７）。前記他のタイプの音質特性処理結果には、前記他のタイプの音質特性のベースラインモデルが出力するパラメータに応じた音質特性強化や、推奨すべきオーディオデータを推奨するか否かの判定が含まれるが、これらに限定されない。
【０１４７】
前記音質特性のベースラインモデルに基づいて、前記音質特性の処理方法を取得できるが、音質特性の好みは人によって異なるため、パーソナライズされた自動調整を実現するために、推奨音質特性パラメータに対するユーザのフィードバックデータを含むユーザ好みデータを収集し、これらのデータを用いてオリジナルベースラインモデルパラメータに基づいて前記ベースラインモデルを再学習してパーソナライズ音質特性処理モデルを取得することができる。実際には、音質設定フィードバック可能タイプ、公式（経験）調整可能タイプ、信号領域計算可能タイプ、他のタイプなどの種類の音質特性を含むが、これらに限定されない。音質パラメータ設定に対するユーザのフィードバックを取得することができる音質特性処理方法は、いずれもユーザの使用中にフィードバック調整ベースラインモデルまたはパーソナライズ音質特性処理モデルを使用することができる。
【０１４８】
本発明の別の態様によれば、ディープラーニングに基づくパーソナライズ音質特性処理方法が提供される。図９を参照して、本発明の一実施形態によるディープラーニングに基づくパーソナライズ音質特性処理方法を説明する。図９に示すように、ディープラーニングに基づく音質特性処理方法は、
個人ユーザ好みデータをリアルタイムで抽出することと（１０）、
音質特性のベースラインモデルに基づいて、前記個人ユーザ好みデータをオンライン学習し、パーソナライズ音質特性処理モデルを取得するように訓練することと（２０）、
前記パーソナライズ音質特性処理モデルを用いて、パーソナライズされた音質特性処理結果を生成することと（３０）、を含み、
前記ベースラインモデルは、広範な大衆または単一ユーザのオーディオデータ、行動データ、および他の関連データを用いて訓練されたニューラルネットワークモデルである。
【０１４９】
ユーザは、日常的なオーディオデータの再生中に、前記オーディオデータに対するユーザの音質好みを直接または間接的に反映するユーザ好みデータを継続的に生成し、再生端末は、これらのユーザ好みデータの変化をリアルタイムで記録する。
【０１５０】
したがって、前記ユーザ好みデータは、ユーザ行動データ、ユーザオーディオリストデータ、再生中のオーディオデータ、環境ノイズデータ、他のパラメータデータのうちの少なくとも１つを含むが、これらに限定されない。
【０１５１】
ここで、ユーザ行動データは、ユーザの音質特性の好みを直接又は間接的に反映することができる行動データであり、音量調整、オーディオ削除、オーディオ再生、オーディオダウンロード等を含むが、これらに限定されない。ユーザ行動データは、音質特性に対するユーザの設定好みを反映させることができる。
【０１５２】
ユーザオーディオリストデータは、ユーザ好みオーディオのパラメータデータであり、ユーザ側のオーディオプレイリストに常駐するオーディオのパラメータデータ、ユーザが「いいね」を多く評価したオーディオのパラメータデータ、およびユーザが収集したオーディオのパラメータデータを含むが、これらに限定されない。前記パラメータデータは、オーディオデータを完全に反映した情報データであり、オーディオ波形、スタイル、タイトル、作者、アルバム等を含むが、これらに限定されない。ユーザオーディオリストデータは、異なるオーディオデータに対するユーザの好みを反映することができる。
【０１５３】
再生中のオーディオデータは、ユーザが音質特性設定にフィードバックする際に再生中のオーディオデータのパラメータデータであり、オーディオ波形、スタイル、タイトル、作者、アルバム等を含むが、これらに限定されない。
【０１５４】
環境ノイズデータは、ユーザが音質特性設定に対してフィードバックする際にマイクロホンが受信する環境音パラメータデータであり、波形やノイズタイプなどを含むが、これらに限定されない。環境ノイズデータは、異なる環境下におけるユーザの音質特性に対する設定好みを反映することができる。
【０１５５】
他のパラメータデータは、ユーザの音質特性の好みを反映することができる他のパラメータデータであり、ユーザ側で受信または記憶することができる。
【０１５６】
図１０を参照して、本発明の一実施形態によるパーソナライズ音質特性処理モデルを訓練して取得するための方法を説明する。図１０に示すように、前記パーソナライズ音質特性処理モデルを取得するための訓練方法は、以下のステップを含む。
【０１５７】
前記音質特性のベースラインモデル（８００）と、前記ベースラインモデルから出力された音質特性処理結果に対する個人ユーザのフィードバックデータ（８０３）とに基づいてオンライン学習（８０１）を行い、前記ベースラインモデルまたは既存のパーソナライズ音質特性処理モデル（８０２）を更新する。
【０１５８】
ここで、前記フィードバックデータは、推奨アルゴリズムによって推奨されたオーディオの好み（再生、「いいね」など）または嫌い（リストからの削除、デバイスからの削除など）、音質特性設定の変更（音量調整など）、フィードバックを行う際のその他のパラメータ（環境ノイズの種類、振幅、再生されたオーディオのスタイル、振幅など）、フィードバック回数などのユーザ好みデータを含むが、これらに限定されない。
【０１５９】
前記更新方法は、ユーザのフィードバック回数が１ロット（ｂａｔｃｈ）に蓄積されたときに、ユーザが学習ベースラインモデル、または前のロットでフィードバックして学習されたパーソナライズ音質特性処理モデルをフィードバックすることを含が、これらに限定されない。
【０１６０】
例示的に、前記パーソナライズ音質特性処理モデルがもはや更新されないときに、ユーザのために音質特性設定パラメータのセットが固定化される。さらに訓練させない基準には、ユーザが新しい音質特性パラメータに対してフィードバック動作を行わないか、またはほとんど行わないことが含まれるが、これらに限定されない。例えば、１週間、１ヶ月の間に、ユーザがフィードバックしない場合、現在の最新の音質特性設定パラメータを導出してユーザのためにパラメータ設定を行うことができる。ユーザは、最新の音質特性設定パラメータをファイルとしてエクスポートまたは保存することができる。
【０１６１】
一実施形態では、図１１を参照して、本発明の実施形態によるオンライン学習の方法を説明する。図１１に示すように、オンライン学習の方法は、
個人ユーザのオーディオデータ（９０１）に基づいて、前記ベースラインモデル（９０２）に入力し、推奨された音質特性処理結果を生成する。
【０１６２】
ここで、前記個人ユーザのオーディオデータは、個人ユーザの現在のオーディオの環境データ、オーディオリスト情報、好み情報などのデータを含むが、これらに限定されず、いずれもユーザ好みデータのサブセットである。
【０１６３】
前記推奨された音質特性処理結果を個人ユーザ側またはクラウド側に配置する（９０３）。
【０１６４】
個人ユーザのフィードバックデータにおけるフィードバック回数が所定値に達すると、１フィードバックロットＴ＝１とし（９０４）、Ｔ＝１ロットの個人ユーザのフィードバックデータ（９０６）を入力レイヤーとして前記ベースラインモデルを訓練更新して、パーソナライズ音質特性処理モデルＭ（Ｔ＝１）を取得する（９０７）。
【０１６５】
ここで、ユーザは、推奨された音質特性処理結果に満足すると、音質特性設定を一時的に調整しない。モデルを更新するための新たなフィードバックデータがなければ、訓練を終了する（９０５）。逆に、ユーザが今後の一定期間で音質特性設定を調整すると、現在のモデルがユーザのパーソナライズ音質特性処理ではないことを示しており、現在のモデルに基づいてオンライン学習を継続する必要がある。
【０１６６】
前記パーソナライズ音質特性処理モデルＭ（Ｔ＝１）から出力された音質特性処理結果に基づいてユーザにフィードバックし（９０８）、ユーザのフィードバック処理の再実行は、ユーザが満足しないと、新たなフィードバックデータがあり、Ｔ＝２ロット目の個別ユーザのフィードバックデータを累積する（９０９）。
【０１６７】
前記パーソナライズ音質特性処理モデルＭ（Ｔ＝１）は、Ｔ＝２ロット目の個人ユーザのフィードバックデータにより訓練及び更新され、パーソナライズ音質特性処理モデルＭ（Ｔ＝２）が得られる（９１０）。このように、ユーザがフィードバックしなくなるまで、または比較的長い時間フィードバックしなくなるまで訓練及び更新する。
【０１６８】
ユーザの好みは主観的な行動であり量子化が困難であるため、モデルの特徴入力レイヤーでユーザの好みを入力することは困難である。１つの方法は、１人のユーザに対して、このユーザの音質特性調整行動データのみを用いて専用モデルを訓練し、ディープニューラルネットワークは訓練に多くのデータを必要とするが、実際には一度に１人のユーザの多くの行動データを取得してディープニューラルネットワークを訓練することは困難である。よって、他のユーザのデータを使って１つのベースラインモデルを訓練することで、特定のユーザに対して、音量という音質特性を調整するなど、そのユーザの好み的な行動を受信すると、このベースラインモデルをオンライン学習し、ベースラインモデルは広範なユーザのデータから音質特性調整タスクの共通特徴を学習することができる。
【０１６９】
上記の図１０に示すように、音質特性のベースラインモデルに基づいて音質特性処理結果を出力し、音質特性処理結果に対する個人ユーザのフィードバックデータによりオンライン学習を行い、ベースラインモデルを更新してパーソナライズ音質特性処理モデルを取得する、音質特性のオンライン学習の一般的な方法について説明したものである。一方、前記パーソナライズ音質特性処理モデルは、パーソナライズ音質特性処理結果を出力する。同様に、前記パーソナライズ音質特性処理結果に対する個人ユーザのフィードバックデータにより、オンライン学習を継続的に行って既存のパーソナライズ音質特性処理モデルを更新し、新しいパーソナライズ音質特性処理モデルを取得すると、出力された音質処理結果は、最終的にユーザが受け入れ、フィードバックされなくなるまで、個人ユーザの好みにどんどん近づいている。
【０１７０】
実際には、音質パラメータ設定に対するユーザのフィードバックを取得することができる音質特性（音質設定フィードバック可能タイプ、公式（経験）調整可能タイプ、信号領域計算可能タイプ、他のタイプなどを含むが、これらに限定されない）は、いずれもユーザの使用中にフィードバックデータを使用して既存の音質特性処理モデル（ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルを含むが、これらに限定されない）を調整することができる。したがって、音質特性によっては、その音質特性の特徴が異なるため、ベースラインモデルの訓練過程や音質推奨設定の方法が大幅に異なる可能性があるので、詳細には、前述の音質特性のオンライン学習の一般的な方法で説明されている過程とは若干異なる可能性があり、一般的にはある程度簡略化されている可能性がある。
【０１７１】
以下、音質特性のタイプごとにオンライン学習の方法をそれぞれ説明する。
１．経験融合タイプの音質特性
【０１７２】
図１２を参照すると、経験融合タイプの音質特性のオンライン学習は、次の２つの方法を含むが、これらに限定されない。
【０１７３】
（１）処理対象のオーディオデータ（例えば、ユーザ好みオーディオリスト）が更新されると、ユーザ好みカテゴリ画像も更新される。このとき、音質特性パラメータ（例えば、スタイル）の融合結果も更新され、音質特性パラメータの推奨結果も現在のユーザの好みに向かっており、この時点では、ベースラインモデルは実際に更新されない。
【０１７４】
（２）ユーザはオーディオのカテゴリラベル（スタイルラベルなど）をフィードバックする可能性があり、オーディオデータのスタイルラベル特徴が変更され、ユーザからフィードバックされた好みのスタイルラベルに基づいてベースラインモデルを再訓練し、経験融合タイプの音質特性のパーソナライズ音質特性処理モデルを取得する。
２．人為的損傷タイプの音質特性
【０１７５】
損失のあるオーディオデータの効果的な再構成は、通常の聴覚を有するユーザの主観的な感覚を必然的に向上させ、ユーザはこのタイプの音質について一般的な好みを持っていない可能性があるので、オンライン学習の方法は、ユーザの一般的なオーディオフォーマットに基づいてユーザに既存のモデルを推奨するか、またはハイブリッドモデルをカスタマイズする。
【０１７６】
一実施形態では、ユーザが１２８ｋｂｐｓのＭＰ３音楽をよく聴く場合、システムはユーザのために１２８ｋｂｐｓのＭＰ３をｆｌａｃ音質にアップグレードするモデルをダウンロードしたが、ユーザが再生するオーディオフォーマットが変更される可能性があり、例えばｗｍａになると、オンライン学習の方法は、ユーザの既存のオーディオフォーマットを判断し、ユーザにダウンロードを促すか、または対応する再構築モデルを自動的にダウンロードすることであってもよく、複数のオーディオフォーマットのアップグレードに適したハイブリッドモデルを訓練することであってもよい。このようなハイブリッドモデルは、２つ以上の符号化形式のオーディオの再構成をサポートすることができるものであり、アップグレード品質は単一のフォーマットの入力モデルほどよくない場合があるが、再生装置のストレージスペースを節約するのに一定の利点がある。
３．音質設定フィードバック可能タイプの音質特性
【０１７７】
図４を参照すると、音質設定フィードバック可能タイプの音質特性のオンライン学習方法には、以下のことが含まれるが、これに限定されない。
【０１７８】
前記音質設定フィードバック可能タイプの音質特性のベースラインモデル及びユーザのフィードバックに基づいて（２３４）前記ベースラインモデル又は前回のオンライン学習で得られたモデルを訓練及び更新して、音質設定フィードバック可能タイプの音質特性のパーソナライズモデル（２３３）を形成する。
【０１７９】
具体的には、ベースラインモデルまたは前回のオンライン学習で得られたモデルは、ユーザ側またはクラウド側へ導入することを含むが、これらに限定されない。ユーザがオーディオデータを再生すると、ベースラインモデルまたは前回のユーザフィードバック後に訓練されたモデルは、現在のオーディオデータの環境パラメータ情報に基づいて音質特性調整値を出力し、ユーザがこの値に満足していると、モデルは訓練されない。それ以外の場合、ユーザは音質特性を再調整し、この調整値を記録し、一定数に達した場合には既存モデルに入力し、既存モデルに対してオンライン学習を行う。
【０１８０】
既存モデルが出力する音質特性設定をユーザが調整し続ける音質特性設定データにより、ユーザが不在になるか、またはモデル設定の修正が少なくなるまで（この場合、前記パーソナライズモデルの訓練が完了したと認められる）、既存モデルを更新し続ける。
４．経験公式調整可能タイプの音質特性
【０１８１】
図１３を参照すると、経験公式調整可能タイプの音質特性について、ベースラインモデルによって推奨された処理パラメータを使用してオーディオデータを処理するが、ユーザはこのような処理を受け入れる（受け入れられる表現には、複数回の再生、プレイリストへの参加、ダウンロードなどが含まれるが、これらに限定されない）、または受け入れない（受け入れられない表現には、削除、プレイリストからの移転などが含まれるが、これらに限定されない）可能性がある。ユーザが受け入れた場合、モデルを更新する必要はない。逆にユーザが受け入れない場合は、処理パラメータが不適切であることを示す。ここには、オーディオデータが処理向きでないとベースラインモデルが判断した場合、すなわち、処理パラメータが０ベクトルのセットである場合と、ベースラインモデルがオーディオデータを処理し、処理パラメータが変更する場合との２つの状況がある。いずれの場合も、処理パラメータは調整される。調整されたオーディオパラメータと処理パラメータでモデルを更新する。
５．信号領域計算可能タイプの音質特性
【０１８２】
信号領域計算可能タイプの音質特性のベースラインモデルは、基本的に単一のユーザ好みデータを用いて訓練されるので、各ユーザのオリジナルオーディオリストのオーディオに基づいて訓練されたモデルのような明らかな大衆的スタイルのベースラインモデルは存在しない。図６および図１４を参照すると、オンライン学習の方法では、エンコーダ（５１１）を用いて、推奨すべきオーディオデータの音質特性特徴コード（５１２）と個人ユーザが好む音質特性特徴コードセットとの整合度を計算する（５１３）。整合度が最も高い所定数の推奨すべきオーディオデータを個人ユーザに推奨して（５１４）、ユーザに１つまたは複数のオーディオデータを推奨する。ユーザは、受け入れる（受け入れられる表現には、複数回の再生、プレイリストへの参加、ダウンロードなどが含まれるが、これらに限定されない）、または受け入れない（受け入れられない表現には、削除、プレイリストからの移転などが含まれるが、これらに限定されない）可能性がある。ユーザが推奨されたオーディオデータを受け入れた場合、そのオーディオデータはユーザが好むオーディオデータと見なされ、そのオーディオデータを個人ユーザが好むオーディオデータに加えることができる（５０３）。更新された個人ユーザが好むオーディオデータで（５０３）エンコーダを更新する（５１１）。すなわち、１回のオンライン学習が完了する。
６．ノイズ雑音タイプの音質特性
【０１８３】
ノイズ雑音タイプの音質特性は現れると、普通のユーザは感覚が低下していまい、ユーザが好む音質特性ではなく、一般的にはユーザが嫌う音質特性である。そのため、雑音サンプルを補足し、クラウドエンジンを介してベースラインモデルを更新し、すべてのユーザのためにベースラインモデルを更新する必要がある。オンライン学習の方法には、次のことが含まれるが、これらに限定されない。あるユーザが特定のカテゴリのノイズを特に嫌う、または頻繁に遭遇する場合、ユーザフィードバック情報によって、あるノイズの専用分類器またはノイズ除去器をユーザのためにカスタマイズすることができる。これは、空港で作業するユーザのために空港ノイズのノイズ低減モデルをカスタマイズすることを含むが、これに限定されない。
７．他のタイプの音質特性
【０１８４】
他のタイプの音質特性は、上記の図１０および図１１に示す本発明の実施形態による音質特性のオンライン学習の一般的な方法に適用可能であり、具体的な実施形態は、音質特性の特徴に応じて詳細に変更または簡略化されることがある。
【０１８５】
本発明の別の態様によれば、ディープラーニングに基づく音質特性処理のためのシステムが提供される。
【０１８６】
図１５を参照して、本発明の一実施形態に係るディープラーニングに基づく音質特性処理のシステムについて説明する。図１５に示すように、システムは、オーディオ再生端末１０と、オンライン学習エンジン１１と、クラウドプラットフォーム１２と、監視管理プラットフォーム１３と、を備える。
【０１８７】
オーディオ再生端末１０は、オーディオを再生することができ、データを記憶することができ、サーバ側のデバイスと通信することができ、サーバ、ＰＣ、タブレット、スピーカー、携帯電話、ヘッドフォンなどのデバイスを含むが、これらに限定されない。オーディオ再生端末１０に格納される音質関連データには、ユーザ行動データ、端末機器データ、ユーザオーディオリストデータ、環境ノイズデータ等が含まれるが、これらに限定されない。これらのデータは、ユーザの音質に対する好みを直接又は間接的に反映し、又は影響を与えるものであり、まとめてユーザ好みデータと呼ばれる。
【０１８８】
前記オーディオ再生端末１０は、以下を含む。
【０１８９】
音質特性設定インタフェース１０１：システムが推奨する音質強化調整設定を受信し、その設定をユーザ側またはユーザがログインするクラウド側に設定し、音質強化調整設定を管理できるためのモジュールである。
【０１９０】
ユーザ行動およびデータフィードバックインターフェース１０２：ユーザ行動およびユーザ側で受け入れられ記憶された関連データをオンライン学習エンジン１１にフィードバックするためのモジュールである。
【０１９１】
端末機器データモジュール１０３：音質に関連するモデル訓練に必要なユーザ側の機器パラメータを記憶または取得するためのモジュールである。
【０１９２】
ユーザ行動データモジュール１０４：ユーザが音質特性に設定する行動データ、特に、音量調整、オーディオ削除、オーディオ再生、オーディオダウンロードなど、ユーザの音質好みを直接または間接的に反映することができる行動データを格納するために使用される。
【０１９３】
ユーザオーディオリストデータモジュール１０５：ユーザが好むオーディオのリストを格納するためのものであり、ユーザ側に常駐するオーディオプレイリスト、ユーザが「いいね」をしたオーディオ、ユーザが収集したオーディオデータのパラメータデータを含むが、これらに限定されない。前記パラメータデータには、オーディオ波形、スタイル、タイトル、作者、アルバム等が含まれるが、これらに限定されない。
【０１９４】
再生中オーディオデータモジュール１０６：ユーザが音質設定についてフィードバックする際に再生するオーディオのパラメータを格納するためのものであり、このパラメータは、オーディオ波形、スタイル、タイトル、作者、アルバム等を含むが、これらに限定されない。
【０１９５】
環境ノイズデータモジュール１０７：ユーザが音質設定についてフィードバックする際にマイクロホンが受信した、ノイズ波形、ノイズタイプ等を含むがこれらに限定されない環境音パラメータを記憶するためのものである。
【０１９６】
他のパラメータモジュール１０８：音質に関連し、ユーザ側で受信または記憶することができる他のパラメータを記憶するために使用される。
【０１９７】
オンライン学習エンジン１１は、ユーザ側から渡されたデータを受信し、データを分析して、ベースラインモデルをオンライン訓練し、ユーザ好みデータを受信し、オンライン学習のモデルに入力して音質推奨結果をフィードバックする。
【０１９８】
オンライン学習エンジン１１は、以下を含む。
【０１９９】
ユーザ端末オンライン学習アルゴリズムライブラリモジュール１１１：ユーザ側に配備され、受信したユーザ行動およびパラメータフィードバックインタフェースによって伝達されたデータを分析することによってベースラインモデルを更新し、パーソナライズモデルを形成するための軽量な音質強化アルゴリズムを含むことができる。途中および／または訓練完了後に、ユーザ好みデータを受信し、オンライン学習のモデルに入力して音質推奨結果をフィードバックする。
【０２００】
クラウドオンライン学習アルゴリズムライブラリモジュール１１２：クラウドに配備可能な音質強化アルゴリズムであり、受信したユーザ行動およびパラメータフィードバックインタフェースによって伝達されたユーザ好みデータを分析することによってベースラインモデルを更新し、パーソナライズモデルを形成することができる。途中および／または訓練完了後に、ユーザ好みデータを受信し、オンライン学習のモデルに入力して音質推奨結果をフィードバックする。
【０２０１】
ユーザ好みデータ蓄積モジュール１１３は：受信したユーザ行動とパラメータフィードバックインタフェースから渡されたユーザ好みデータを、クラウドユーザ行動データベースに格納、フィルタリング、除去、アップロードするモジュールである。
【０２０２】
前記ユーザ好みデータは、具体的に、以下の表２の分類を含むことができる。
【０２０３】
2021525493.tif 000006
【０２０４】
クラウドプラットフォーム１２は、オーディオデータベース、ユーザ好みデータベースを含み、インターネットオーディオ関連データをマイニングし、これらのデータを利用してベースラインモデルを訓練し、ユーザ好みデータを受信してベースラインモデルに入力し、音質処理結果をフィードバックすることができる。
【０２０５】
前記クラウドプラットフォーム１２は、以下を含む。
【０２０６】
モデル計算エンジン１２１：クラウド上の各種データを分析し、システムのベースラインモデルを訓練するためのモジュールであり、訓練完了後にユーザ好みデータを受信し、ベースラインモデルに入力して音質推奨結果をフィードバックする。
【０２０７】
オーディオデータベースモジュール１２２：様々なタイプおよびスタイルを広くカバーするオーディオデータを格納するために使用される。
【０２０８】
ユーザ行動データベースモジュール１２３：ユーザ好みデータ蓄積モジュールを含むがこれに限定されない様々な手段を介して、アップロードされたデータ、および収集されたユーザの好みデータを含む。
【０２０９】
ネットワークオーディオデータ分析エンジンモジュール１２４：インターネット上のオーディオ情報をデータマイニングおよび分析することができるモジュールである。そのルートは、音楽ポータルサイト上の音楽のスタイルラベルを取得すること、音楽ポータルサイトによるあるオーディオの類似音楽の推奨リストを取得することなどを含むが、これらに限定されない。マイニングおよび分析の結果は、モデル計算エンジンに提供され、モデル計算が行われる。
【０２１０】
監視管理プラットフォーム１３は、システム全体のスケジューリング、管理、および監視を担当する。
【０２１１】
本発明の実施形態に係るディープラーニングに基づく音質特性処理方法、パーソナライズ音質特性処理方法、およびディープラーニングに基づく音質特性処理のシステムは、従来技術と比較して、以下の有益な効果を有する。
【０２１２】
１．ベースラインモデルを訓練して基礎的な音質の強化を実現し、ユーザのオンラインフィードバック情報を利用してベースラインモデルに対してオンライン学習を行い、ユーザの音質のパーソナライズカスタマイズを実現する。
【０２１３】
２．分類ラベル特徴抽出とユーザ好み統計方法を采用して、より合理的なマルチカテゴリの汎用音質特性設定融合を実現する。
【０２１４】
３．すべてのモデルはいずれもオーディオの時間領域や周波数領域の特徴から主観的な感覚や音質パラメータの設定にマッピングされ、人工的な評価、オーディオタイトルなどのデータを参照する必要がなくて、「オーディオ自身の内容に基づく」オーディオ音質の調節と強化を実現し、人工的な情報に依存しない。この利点は、オーディオ音質の強化を理論的にネットワーク環境から分離できることである。最終的なパーソナライズモデルの訓練が完了すると、モデルに着地したオフラインデバイスも独立して調整することができる。
【０２１５】
４．ディープラーニングに基づく損失のあるオーディオフォーマット情報の復元技術を提案する。
【０２１６】
５．教師なしディープラーニング方法を採用して、一部の量子化可能な音質特性に対するユーザの好み特徴を学習する。
【０２１７】
６．現在は数量化できず、将来にはより詳細に分類される音質特性の強化調節の汎用方案を提出する。
【０２１８】
添付図面を参照して本明細書で例示的な実施形態を説明したが、上記の例示的な実施形態は単なる例示であり、本発明の範囲をこれに限定することを意図していないことが理解されるべきである。当業者は、本発明の範囲及び精神から逸脱することなく、様々な変更及び修正を行うことができる。これらすべての変更および修正は、添付の特許請求の範囲において請求される本発明の範囲内に含まれることが意図されている。
【０２１９】
当業者は、本明細書に開示された実施形態に関連して説明された様々な例のユニットおよびアルゴリズムステップが、電子ハードウェア、またはコンピュータソフトウェアと電子ハードウェアとの組み合わせで実現され得ることを認識することができる。これらの機能がハードウェア方式で実行されるかソフトウェア方式で実行されるかは、技術方案の特定の適用及び設計制約条件に依存する。専門技術者は、記載された機能を、特定の用途ごとに異なる方法を用いて実現することができるが、そのような実現は、本発明の範囲を超えていると考えるべきではない。
【０２２０】
本明細書で提供されるいくつかの実施形態では、開示される装置および方法は、他の形態によって実現されてもよいことが理解されるべきである。例えば、上述した装置の実施形態は単なる概略的なものであり、例えば、ユニットの区分は、単なる論理的な機能区分であり、複数のユニットまたはコンポーネントを別の装置に結合または統合することができ、またはいくつかの特徴を無視または実行しないことができるなど、実際に実現された場合には、追加的な区分があってもよい。
【０２２１】
本明細書には、多くの具体的な詳細が記載されている。しかしながら、本発明の実施形態は、これらの具体的な詳細なしに実施されてもよいことを理解されたい。いくつかの例では、本明細書の理解を曖昧にしないために、公知の方法、構造、および技術が詳細に示されていない。
【０２２２】
同様に、本発明を合理化し、様々な発明態様の１つまたは複数の理解を容易にするために、本発明の例示的な実施形態の説明において、本発明の様々な特徴は、単一の実施形態、図、またはそれらの説明にまとめられている場合があることが理解されるべきである。しかしながら、本発明の方法は、請求項に係る発明が各請求項に明示的に記載された特徴よりも多くの特徴を請求するという意図を反映したものと解釈されるべきではない。より正確には、対応する特許請求の範囲に反映されているように、その発明の点は、開示されたある単一の実施形態のすべての特徴よりも少ない特徴によって対応する技術的課題を解決することができるという点にある。したがって、個々の請求項自体が本発明の別個の実施形態である特定の実施形態に従う特許請求の範囲は、特定の実施形態を明示的に組み込むことができる。
【０２２３】
本明細書（付随する特許請求の範囲、要約、および図面を含む）に開示されたすべての特徴、ならびにそのように開示された任意の方法または装置のすべてのプロセスまたはユニットは、特徴間の相互排除に加えて、任意の組み合わせを使用して組み立てることができることを当業者は理解することができる。特に明記されていない限り、本明細書（付随する特許請求の範囲、要約、および図面を含む）に開示された各特徴は、同一、同等、または類似の目的を提供する代替的な特徴によって置き換えられてもよい。
【０２２４】
さらに、本明細書に記載のいくつかの実施形態は、他の実施形態に含まれるいくつかの特徴を含み、他の特徴ではないが、異なる実施形態の特徴の組み合わせは、本発明の範囲内にあり、異なる実施形態を形成することを意味することを当業者は理解することができる。例えば、特許請求の範囲において、請求項に記載されている実施形態のいずれか１つは、任意の組み合わせで使用されてもよい。
【０２２５】
本発明の様々な構成要素の実施形態は、ハードウェアで、または１つ以上のプロセッサ上で動作するソフトウェアモジュールで、またはそれらの組み合わせで実現することができる。当業者であれば、本発明の実施形態によるモジュールの一部の機能のいくつかまたはすべては、実際にマイクロプロセッサまたはデジタル信号プロセッサ（ＤＳＰ）を使用して実現されてもよいことを理解されるべきである。本発明はまた、本明細書に記載された方法の一部または全部を実行するための装置プログラム（例えば、コンピュータプログラムおよびコンピュータプログラム製品）として実現されてもよい。本発明を実現するそのようなプログラムは、コンピュータ可読媒体に記憶されてもよく、または１つまたは複数の信号の形態を有してもよい。そのような信号は、インターネット・ウェブサイトからダウンロードすることができ、キャリア信号上で提供することができ、または他の任意の形態で提供することができる。
【０２２６】
なお、上述した実施形態は、本発明を限定するものではなく、本発明を説明しており、当業者は、特許請求の範囲を逸脱することなく、代替の実施形態を設計することができる。請求項において、括弧の間に位置する参照符号は、請求項を限定するように構成されてはならない。「含む」という用語は、請求項に記載されていない要素又はステップの存在を排除するものではない。要素の前にある用語「１つ」または「１個」は、そのような要素が複数存在することを排除するものではない。本発明は、いくつかの異なる要素を含むハードウェアおよび適切にプログラムされたコンピュータによって実施することができる。いくつかの装置が列挙されているユニット請求項において、これらの装置のいくつかは、同じハードウェアアイテムによって具体化されてもよい。第１、第２、第３などの用語の使用は、順序を表すものではない。これらの用語は名前として解釈できる。
【０２２７】
上記は、単に本発明の特定の実施形態又は特定の実施形態の説明のためのものであり、本発明の保護範囲はこれに限定されるものではなく、本発明に開示された技術的範囲内で、本技術分野の当業者が容易に変更又は置換を想到することは、本発明の保護範囲内に含まれるものとする。本発明の保護範囲は、請求項の保護範囲に準ずるものとする。
【図１】
2021525493.tif 000007
【図２Ａ】
2021525493.tif 000008
【図２Ｂ】
2021525493.tif 000009
【図２Ｃ】
2021525493.tif 000010
【図３】
2021525493.tif 000011
【図４】
2021525493.tif 000012
【図５Ａ】
2021525493.tif 000013
【図５Ｂ】
2021525493.tif 000014
【図６】
2021525493.tif 000015
【図７】
2021525493.tif 000016
【図８】
2021525493.tif 000017
【図９】
2021525493.tif 000018
【図１０】
2021525493.tif 000019
【図１１】
2021525493.tif 000020
【図１２】
2021525493.tif 000021
【図１３】
2021525493.tif 000022
【図１４】
2021525493.tif 000023
【図１５】
2021525493.tif 000024
【手続補正書】
【提出日】令和2年12月4日(2020.12.4)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
処理対象のオーディオデータを含むユーザ好みデータに対して特徴抽出を実行して、前記処理対象のオーディオデータのデータ特徴を取得することと、
前記データ特徴に基づいて、訓練済みのベースラインモデルを用いて前記処理対象のオーディオデータの音質処理結果を生成することと、を含み、
前記ベースラインモデルは、少なくとも１つのユーザのオーディオデータまたは行動データを用いて訓練されたニューラルネットワークモデルであることを特徴とするディープラーニングに基づく音質特性処理方法。
【請求項２】
ユーザ好みデータは、音質特性に対するユーザの好みを反映したデータを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項３】
前記ユーザ好みデータは、ユーザ行動データ、ユーザオーディオリストデータ、再生中のオーディオデータ、環境ノイズデータまたはデバイスデータのうちの少なくとも１つを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項４】
前記ベースラインモデルの訓練方法は、
訓練データに基づいて特徴抽出を行って訓練データのデータ特徴を取得し、前記データ特徴を入力レイヤーとして入力し、前記音質特性を反映できる特徴を出力レイヤーターゲットとして訓練して前記ベースラインモデルを取得すること、または、ユーザ好みデータを特徴抽出し、教師なしディープラーニング法を用いて前記ベースラインモデルを取得することを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項５】
前記音質特性は、経験融合タイプ、人為的損傷タイプ、音質設定フィードバック可能タイプ、経験公式調整可能タイプ、信号領域計算可能タイプ、およびノイズ雑音タイプを含むことを特徴とする請求項１に記載の音質特性処理方法。
【請求項６】
前記経験融合タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベースに基づいて、オーディオデータのカテゴリラベル特徴および前記オーディオデータのデータ特徴を抽出することと、
前記オーディオデータのデータ特徴を入力レイヤーデータとし、前記カテゴリラベル特徴を出力レイヤーデータとして、経験融合タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項５に記載の音質特性処理方法。
【請求項７】
前記人為的損傷タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内のオリジナルオーディオデータサンプルに基づいて人為的処理を行って損失のあるオーディオデータサンプルを取得し、前記損失のあるオーディオデータサンプルおよび前記オリジナルオーディオデータサンプルに対してそれぞれ特徴抽出を行って損失のあるオーディオデータ特徴およびオリジナルオーディオデータ特徴を取得することと、
前記損失のあるオーディオデータ特徴を入力レイヤーデータとし、オリジナルオーディオデータ特徴を出力レイヤーデータとして、人為的損傷タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項５に記載の音質特性処理方法。
【請求項８】
前記音質設定フィードバック可能タイプの音質特性のベースラインモデルの訓練は、
大衆ユーザのオーディオデータにおける環境データと、前記環境データに対応する行動データとに基づいて、それぞれ特徴抽出を行い、前記環境データの環境パラメータ特徴と前記行動データの音質特性設定特徴を取得することと、
前記環境パラメータ特徴を入力レイヤーデータとし、前記音質特性設定特徴を出力レイヤーデータとして、音質設定フィードバック可能タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項５に記載の音質特性処理方法。
【請求項９】
前記経験公式調整可能タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内のオーディオデータに基づいて特徴抽出を行い、オリジナルデータ特徴を取得することと、
前記オーディオデータに対して音質特性調整を行い、調整後のオーディオデータに対して特徴を抽出して調整パラメータ特徴を取得し、主観評価実験を通じて前記調整パラメータ特徴を主観評価にマッピングするネットワークモデルを確立し、最適化音質特性調整パラメータを取得することと、
前記オリジナルデータ特徴を入力レイヤーデータとし、前記最適化音質特性調整パラメータを出力レイヤーデータとして、前記経験公式調整可能タイプの音質特性を取得するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項５に記載の音質特性処理方法。
【請求項１０】
前記信号領域計算可能タイプの音質特性のベースラインモデルの訓練は、
オーディオデータベース内のオーディオデータに基づいて特徴抽出を行い、音質特性特徴を取得することと、
前記音質特性特徴をクラスタリングしてクラスタモデルを取得することと、
個人ユーザが好むオーディオデータに基づいて特徴抽出を行い、個人ユーザが好む音質特性特徴を取得し、前記クラスタモデルを入力して個人ユーザが好む音質特性分布特徴ベクトルを生成することと、
前記個人ユーザが好む音質特性分布特徴ベクトルに基づいて、前記信号領域計算可能タイプの音質特性のベースラインモデルとして、教師なしニューラルネットワークモデルを訓練することと、を含むことを特徴とする請求項５に記載の音質特性処理方法。
【請求項１１】
前記ノイズ雑音タイプの音質特性の分類ベースラインモデルの訓練は、
オーディオデータベース内の雑音又は正常音のカテゴリラベル特徴を含むオーディオデータに基づいて特徴抽出を行い、データ特徴及びそれに対応するカテゴリラベル特徴を取得することと、
前記データ特徴とそれに対応するカテゴリラベル特徴とに基づいて、ノイズ雑音タイプの音質特性を取得するための分類ベースラインモデルを訓練することと、を含むことを特徴とする請求項５に記載の音質特性処理方法。
【請求項１２】
前記音質処理結果を生成することは、
前記ノイズ雑音タイプの音質特性の分類ベースラインモデルの雑音判別結果に応じて前記処理対象のオーディオデータを処理されることと、前記雑音判別結果がフィルタリング可能な雑音カテゴリに属する場合、訓練済みのノイズ低減ベースラインモデルを用いてノイズ低減されたオーディオデータを取得することと、前記雑音判別結果がフィルタリング不可能な雑音カテゴリに属する場合には、前記処理対象のオーディオデータをユーザに提示するか、または削除させることと、を含むことを特徴とする請求項１１に記載の音質特性処理方法。
【請求項１３】
前記他のタイプの音質特性のベースラインモデルの訓練は、
オーディオデータベースに基づいて、他のタイプの音質特性を直接又は間接的に反映できるオーディオデータを取得することと、
前記他のタイプの音質特性を反映したオーディオデータに基づいて特徴抽出を行い、他のタイプの音質特性特徴抽出モデルを形成し、他のタイプの音質特性特徴を取得することと、
前記他のタイプの音質特性特徴を入力レイヤーとし、前記他のタイプの音質特性特徴を主観的に評価されたネットワークモデルにマッピングすることによって取得する主観的な感覚評価を出力レイヤーとするか、又は前記他のタイプの音質特性に対する個人ユーザの好み特徴に基づいて、他のタイプの音質特性を生成するためのベースラインモデルを訓練することと、を含むことを特徴とする請求項５に記載の音質特性処理方法。
【請求項１４】
個人ユーザ好みデータをリアルタイムで抽出することと、
音質特性のベースラインモデルに基づいて、前記個人ユーザ好みデータをオンライン学習し、パーソナライズ音質特性処理モデルを取得するように訓練することと、
前記パーソナライズ音質特性処理モデルを用いて、パーソナライズされた音質特性処理結果を生成することと、を含み、
前記ベースラインモデルは、少なくとも１つのユーザのオーディオデータまたは行動データを用いて訓練されたニューラルネットワークモデルであることを特徴とするディープラーニングに基づくオーディオ音質パーソナライズ処理方法。
【請求項１５】
前記個人ユーザ好みデータは、音質特性に対するユーザの好みを反映したデータを含むことを特徴とする請求項１４に記載のオーディオ音質パーソナライズ処理方法。
【請求項１６】
前記個人ユーザ好みデータは、ユーザ行動データ、ユーザオーディオリストデータ、再生中のオーディオデータ、環境ノイズデータ、およびデバイスデータのうちの少なくとも１つを含むことを特徴とする請求項１４に記載のオーディオ音質パーソナライズ処理方法。
【請求項１７】
前記ベースラインモデルの訓練方法は、
訓練データに基づいて特徴抽出を行って訓練データのデータ特徴を取得し、前記データ特徴を入力レイヤーとして入力し、前記音質特性を反映できる特徴を出力レイヤーターゲットとして訓練して前記ベースラインモデルを取得すること、または、
ユーザ好みデータを特徴抽出し、教師なしディープラーニング法を用いて前記ベースラインモデルを取得することを含むことを特徴とする請求項１４に記載のオーディオ音質パーソナライズ処理方法。
【請求項１８】
オンライン学習方法は、
前記ベースラインモデルに基づいて音質特性処理結果を出力し、個人ユーザによる音質特性処理結果のフィードバックデータにより前記ベースラインモデルを更新してパーソナライズ音質特性処理モデルを取得すること、および／または
前記パーソナライズ音質特性処理結果に対する個人ユーザのフィードバックデータを学習し、既存のパーソナライズ音質特性処理モデルを更新して更新されたパーソナライズ音質特性処理モデルを取得することを含むことを特徴とする請求項１４に記載のオーディオ音質パーソナライズ処理方法。
【請求項１９】
前記オンライン学習は、ユーザ行動データにおける個人ユーザフィードバック行動の回数が所定の値まで蓄積された場合、前記個人ユーザ好みデータに基づいて前記ベースラインモデルまたは既存のパーソナライズオーディオ音質モデルを再学習することをさらに含むことを特徴とする請求項１８に記載のオーディオ音質パーソナライズ処理方法。
【請求項２０】
前記音質特性は、経験融合タイプ、人為的損傷タイプ、音質設定フィードバック可能タイプ、経験公式調整可能タイプ、信号領域計算可能タイプ、およびノイズ雑音タイプを含むことを特徴とする請求項１４に記載のオーディオ音質パーソナライズ処理方法。
【請求項２１】
前記経験融合タイプの音質特性のオンライン学習方法は、
前記ユーザ好みデータにおけるユーザ好みリストが更新されると、音質特性パラメータの融合結果が更新されるが、このときベースラインモデルは更新されないこと、および／または
ユーザからフィードバックされた前記音質特性のデータ特徴が変化した場合、ユーザからフィードバックされた音質特性のデータ特徴に基づいてベースラインモデルを再訓練し、経験融合タイプの音質特性のパーソナライズ音質特性処理モデルを取得することを含むことを特徴とする請求項２０に記載のオーディオ音質パーソナライズ処理方法。
【請求項２２】
前記人為的損傷タイプの音質特性のオンライン学習方法は、前記ユーザ好みデータにおけるオーディオデータのオーディオフォーマットを判断し、ユーザにダウンロードを促すこと、または対応するベースラインモデルを自動的にダウンロードすることと、ダウンロードされた前記ベースラインモデルに基づいて、複数のオーディオフォーマットのプロモーションに適したハイブリッドモデルを訓練し、人為的損傷タイプの音質特性のパーソナライズ音質特性処理モデルを取得することと、を含むことを特徴とする請求項２０に記載のオーディオ音質パーソナライズ処理方法。
【請求項２３】
前記音質設定フィードバック可能タイプの音質特性のオンライン学習方法は、
ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルが、現在のオーディオデータの環境パラメータ情報に基づいて音質特性処理結果を出力し、出力された前記音質特性処理結果に伴うユーザのフィードバック訓練に応じて前記ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルを更新して、音質設定フィードバック可能タイプの音質特性のパーソナライズモデルを形成することを含むことを特徴とする請求項２０に記載のオーディオ音質パーソナライズ処理方法。
【請求項２４】
前記経験公式調整可能タイプの音質特性のオンライン学習方法は、
ベースラインモデル又は既存のパーソナライズ音質特性処理モデルによって出力された処理パラメータを用いて、処理対象のオーディオデータを処理し、ユーザが受け入れた場合に、前記ベースラインモデル又は既存のパーソナライズ音質特性処理モデルを更新する必要がなく、逆に、ユーザが受け入れず、出力された前記処理パラメータを調整すると、ベースラインモデルまたは既存のパーソナライズ音質特性処理モデルを、調整されたオーディオデータおよび処理パラメータで更新することを含むことを特徴とする請求項２０に記載のオーディオ音質パーソナライズ処理方法。
【請求項２５】
前記信号領域計算可能タイプの音質特性のオンライン学習方法は、
エンコーダを用いて、推奨される前記オーディオデータの音質特性特徴コードと個人ユーザが好む音質特性特徴コードセットとの整合度を計算し、前記整合度が最も高い所定数の推奨すべきオーディオデータを個人ユーザに推奨して、ユーザに１つ以上のオーディオデータを推奨し、ユーザが推奨されたオーディオデータを受け入れた場合、当該オーディオデータをユーザが好むオーディオデータとみなすことができ、当該オーディオデータを個人ユーザが好むオーディオデータに加えることと、更新された個人ユーザが好むオーディオデータでエンコーダを更新することと、を含むことを特徴とする請求項２０に記載のオーディオ音質パーソナライズ処理方法。
【請求項２６】
前記ノイズ雑音タイプの音質特性のオンライン学習方法は、ユーザが特定のタイプのノイズを嫌う場合、ユーザフィードバック情報によって、そのタイプのノイズのための専用の分類器またはノイズ除去器をユーザにカスタマイズすることを含むことを特徴とする請求項２０に記載のオーディオ音質パーソナライズ処理方法。
【請求項２７】
オーディオ再生端末、クラウドプラットフォーム、およびオンライン学習モジュールを含むディープラーニングに基づくオーディオ音質パーソナライゼーションシステムであって、
前記オーディオ再生端末は、ユーザ好みデータを記憶するためのものであり、
前記クラウドプラットフォームは、広範な大衆または単一ユーザのオーディオデータ、行動データおよびその他の関連データを用いて訓練されたニューラルネットワークモデルであるベースラインモデルを形成するためのものであり、
前記オンライン学習モジュールは、前記ユーザ好みデータを受信し、前記ベースラインモデルをオンライン学習して、パーソナライズオーディオ音質モデルを形成することを特徴とするオーディオ音質パーソナライゼーションシステム。
【国際調査報告】
2021525493.tif 000025
2021525493.tif 000026
2021525493.tif 000027
2021525493.tif 000028