(57)【要約】  本発明の実施形態は、パターン認識に適用可能なモデルを最適化するための方法および装置ならびに端末デバイスに関する。端末デバイスは、サーバにより供給されたユニバーサルモデルを受信する。ユニバーサルモデルは、元の特徴パラメータを含み、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、モデル最適化条件が満たされた場合、第１のトレーニングアルゴリズムを用いることにより元の特徴パラメータを補正して、新しい特徴パラメータを取得し、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する。つまり、本発明において、端末デバイスはさらに、収集したローカルサンプルに従って、サーバから受信したユニバーサルモデルを最適化して、パターン認識に適用可能な相対的にパーソナライズされたモデルを取得する。従って、ユーザエクスペリエンスが改善されるのみならず、サーバがユニバーサルモデルを最適化する場合に存在するサーバの大演算量という課題も解決される。
2019528502.tif 000002
【特許請求の範囲】
【請求項１】
端末デバイスが、サーバにより供給されたユニバーサルモデルを受信する段階であって、前記ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、前記サーバにより取得され、前記ユニバーサルモデルは、元の特徴パラメータを含む、段階（Ｓ２１０）と、
前記ユニバーサルモデルを用いてターゲット情報を認識し、複数のローカルサンプルを収集する段階（Ｓ２２０）と、
モデル最適化条件が満たされた場合、前記複数のローカルサンプルと、前記元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得する段階（Ｓ２３０）と、
第２のトレーニングアルゴリズムおよび前記新しい特徴パラメータに従って前記ユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する段階（Ｓ２４０）と
を備える、パターン認識に適用可能なモデルを最適化するための方法。
【請求項２】
前記モデル最適化条件は、
ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、前記端末デバイスが予め設定された状態であること、または前記端末デバイスの属性値が予め設定された閾値に達していること
のうちの１または複数を含む、
請求項１に記載の方法。
【請求項３】
前記第１のトレーニングアルゴリズムは、
隠れマルコフモデルＨＭＭ、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化ＥＭアルゴリズム、ディープニューラルネットワークＤＮＮアルゴリズム、畳み込みニューラルネットワークＣＮＮアルゴリズムまたは再帰型ニューラルネットワークＲＮＮアルゴリズム
のうちの１または複数を含む、
請求項１または２に記載の方法。
【請求項４】
受信ユニットと、処理ユニットと、取得ユニットと、最適化ユニットとを備え、
前記受信ユニット（４０１）は、サーバにより供給されたユニバーサルモデルを受信するように構成され、前記ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、前記サーバにより取得され、前記ユニバーサルモデルは、元の特徴パラメータを含み、
前記処理ユニット（４０２）は、前記受信ユニットにより受信された前記ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集するように構成され、
前記取得ユニット（４０３）は、モデル最適化条件が満たされた場合、前記複数のローカルサンプルと、前記元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得するように構成され、
前記最適化ユニット（４０４）は、第２のトレーニングアルゴリズムおよび前記新しい特徴パラメータに従って前記ユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される、
パターン認識に適用可能なモデルを最適化するための装置。
【請求項５】
前記モデル最適化条件は、
ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していること
のうちの１または複数を含む、
請求項４に記載の装置。
【請求項６】
前記第１のトレーニングアルゴリズムは、
隠れマルコフモデルＨＭＭ、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化ＥＭアルゴリズム、ディープニューラルネットワークＤＮＮアルゴリズム、畳み込みニューラルネットワークＣＮＮアルゴリズムまたは再帰型ニューラルネットワークＲＮＮアルゴリズム
のうちの１または複数を含む、
請求項４または５に記載の装置。
【請求項７】
送受信機（５１０）と、処理回路（５２０）とを備え、
前記送受信機（５１０）は、サーバにより供給されたユニバーサルモデルを受信するように構成され、前記ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、前記サーバにより取得され、前記ユニバーサルモデルは、元の特徴パラメータを含み、
前記処理回路（５２０）は、
前記ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、
モデル最適化条件が満たされた場合、前記複数のローカルサンプルと、前記元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得し、かつ、
第２のトレーニングアルゴリズムおよび前記新しい特徴パラメータに従って前記ユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される、
端末デバイス。
【請求項８】
前記モデル最適化条件は、
ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、前記端末デバイスが予め設定された状態であること、または前記端末デバイスの属性値が予め設定された閾値に達していること
のうちの１または複数を含む、
請求項７に記載の端末デバイス。
【請求項９】
前記第１のトレーニングアルゴリズムは、
隠れマルコフモデルＨＭＭ、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化ＥＭアルゴリズム、ディープニューラルネットワークＤＮＮアルゴリズム、畳み込みニューラルネットワークＣＮＮアルゴリズムまたは再帰型ニューラルネットワークＲＮＮアルゴリズム
のうちの１または複数を含む、
請求項７または８に記載の端末デバイス。
【請求項１０】
前記処理回路は、ニューラル処理ユニットＮＰＵまたは専用デジタル信号プロセッサＤＳＰを有する、
請求項７から９のいずれか一項に記載の端末デバイス。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、コンピュータ技術の分野に関し、特に、パターン認識に適用可能なモデルを最適化するための方法および装置ならびに端末デバイスに関する。
【背景技術】
【０００２】
既存の端末デバイス（例えば、スマートフォン、（Ｓｍａｒｔ  Ｐｈｏｎｅ、ＳＰ））は通常、汎用演算ユニットを用いることにより、様々なアルゴリズム命令を実行する。汎用演算ユニットは通常、高度縮小命令セットコンピュータ（Ｒｅｄｕｃｅｄ  Ｉｎｓｔｒｕｃｔｉｏｎ  Ｓｅｔ  Ｃｏｍｐｕｔｅｒ、ＲＩＳＣ）マシン（Ａｄｖａｎｃｅｄ  ＲＩＳＣ  Ｍａｃｈｉｎｅｓ、ＡＲＭ）システムアーキテクチャ、例えば、中央処理ユニット（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ、ＣＰＵ）を用いる。このシステムアーキテクチャでは、複数のスレッドを用いてアルゴリズム命令が同時に実行された場合、消費電力が極めて高くなる。これは、バッテリ充電式の端末デバイスにとって許容できないことである。単一のスレッドを用いてアルゴリズム命令が実行された場合、処理能力は、大演算量の要件を満たし得ない。例えば、音声認識およびコンピュータビジョンなどの分野では、パターン認識に適用可能なモデルのトレーニングプロセス（例えば、音響モデルのトレーニング）において、極めて大きい演算量が必要である。しかしながら、端末デバイスの消費電力が限定されるので、または大演算量の要件が満たされ得ないので、モデルトレーニングは通常、従来技術ではクラウドにおいて実行され、次に、音声、画像、ビデオ等を認識するために、モデルが端末デバイスへプッシュされる。
【０００３】
しかしながら、パターン認識に適用可能なモデルがクラウドにおいてトレーニングされる場合、トレーニングは通常、少なくとも１つの端末デバイスによりアップロードされたサンプル（例えば、音声ファイル、顔画像またはビデオファイル）に従って実行されるので、取得されるモデルは汎用的である。例えば、音声認識が実行される場合、全てのユーザの音声がモデルを用いて認識され得、特定のユーザの音声については、認識は実行されない。つまり、モデルは、パーソナライズされた特徴を有さない。しかしながら、ユーザは、端末デバイスがユーザの音声のみを認識し得、別のユーザの音声を認識しないか、または十分に認識し得ないことを想定している。つまり、ユーザは、相対的にパーソナライズされたモデルをトレーニングすることを望んでいる。従って、パターン認識に適用可能なモデルを最適化するという要件が課される。
【発明の概要】
【０００４】
本発明の実施形態は、相対的にパーソナライズされたモデルを取得し、サーバの演算量を低減するようにパターン認識に適用可能なモデルを最適化するための方法および装置ならびに端末デバイスを提供する。
【０００５】
第１の態様によれば、パターン認識に適用可能なモデルを最適化するための方法が提供される。方法は、端末デバイスが、サーバにより供給されたユニバーサルモデルを受信する段階であって、ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得され、ユニバーサルモデルは、元の特徴パラメータを含む、段階と、ユニバーサルモデルを用いてターゲット情報を認識し、複数のローカルサンプルを収集する段階と、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得する段階と、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する段階とを含む。
【０００６】
ユニバーサルモデルを用いることによりターゲット情報を認識する処理において相対的にパーソナライズされたモデルを取得するために、端末デバイスは、ローカルサンプルを収集し続け得る。ローカルサンプルは、ユニバーサルモデルを最適化する処理において端末デバイスにより用いられるので、端末デバイスは、ローカルサンプルを収集した後、ローカルサンプルをローカルにのみ記憶し、ローカルサンプルをサーバにアップロードする必要はない。従って、端末デバイスがサンプルをサーバにアップロードするために消費するトラフィックが節約され得る。加えて、ユニバーサルモデルは、サーバにより、少なくとも１つの端末デバイスによりアップロードされた数億個のサンプルまたは数十億個のサンプルに従って取得されるので、ユニバーサルモデルを用いることにより情報を認識する確度は、相対的に高い。次に、ユニバーサルモデルは、相対的にパーソナライズされたモデルを取得するために最適化される。従って、端末デバイスの演算量が低減され得るのみならず、特定のユーザの情報を認識する確度も改善され得る。
【０００７】
任意選択の実装形態において、モデル最適化条件は、ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していることのうちの１または複数を含み得る。
【０００８】
任意選択の実装形態において、第１のトレーニングアルゴリズムは、隠れマルコフモデルＨＭＭ、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化ＥＭアルゴリズム、ディープニューラルネットワークＤＮＮアルゴリズム、畳み込みニューラルネットワークＣＮＮアルゴリズムまたは再帰型ニューラルネットワークＲＮＮアルゴリズムのうちの１または複数を含み得る。
【０００９】
第２の態様によれば、パターン認識に適用可能なモデルを最適化するための装置が提供される。装置は、前述の方法における端末デバイスの動作を実装する機能を有する。機能は、ハードウェアを用いることにより実装され得るか、または、対応するソフトウェアをハードウェアが実装することにより実装され得る。ハードウェアまたはソフトウェアは、前述の機能に対応する１または複数のモジュールを含む。
【００１０】
第３の態様によれば、端末デバイスが提供される。端末デバイスは、送受信機と、処理回路とを含む。送受信機は、サーバにより供給されたユニバーサルモデルを受信するように構成される。ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得される。ユニバーサルモデルは、元の特徴パラメータを含む。処理回路は、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得し、かつ、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される。
【００１１】
さらに別の態様によれば、コンピュータ記憶媒体が提供される。コンピュータ記憶媒体は、前述の端末デバイスにより用いられるコンピュータソフトウェア命令を記憶するように構成される。コンピュータソフトウェア命令は、前述の態様を実行するよう設計されたプログラムを含む。
【００１２】
本発明の実施形態は、パターン認識に適用可能なモデルを最適化するための方法および装置ならびに端末デバイスを提供する。端末デバイスは、サーバにより供給されたユニバーサルモデルを受信する。ユニバーサルモデルは、元の特徴パラメータを含み、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、モデル最適化条件が満たされた場合、第１のトレーニングアルゴリズムを用いることにより元の特徴パラメータを補正して、新しい特徴パラメータを取得し、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する。つまり、本発明において、端末デバイスはさらに、収集したローカルサンプルに従って、サーバから受信したユニバーサルモデルを最適化して、パターン認識に適用可能な相対的にパーソナライズされたモデルを取得する。従って、ユーザエクスペリエンスが改善されるのみならず、サーバがユニバーサルモデルを最適化する場合に存在する、サーバの大演算量という課題も解決される。
【図面の簡単な説明】
【００１３】
【図１】本発明によるネットワークの概略構造図である。
【００１４】
【図２】本発明の実施形態によるパターン認識に適用可能なモデルを最適化する方法のフローチャートである。
【００１５】
【図３】本発明による第１のトレーニングアルゴリズムのトレーニングプロセスの概略図である。
【００１６】
【図４】本発明の別の実施形態によるパターン認識に適用可能なモデルを最適化するための装置の概略図である。
【００１７】
【図５】本発明のさらに別の実施形態による端末デバイスの概略図である。
【発明を実施するための形態】
【００１８】
以下では、添付図面および実施形態を参照して、本発明の技術的解決手段をさらに詳細に説明する。
【００１９】
本発明の実施形態によるパターン認識に適用可能なモデルを最適化するための方法が、図１に示されるネットワークトポロジの構造図に適用される。図１において、サーバが端末デバイスとのデータ通信を実行し得る。具体的には、サーバは、少なくとも１つの端末デバイスによりアップロードされたサンプルを受信し得る。サンプルは、音声ファイル、画像ファイルおよびビデオファイルを含むが、それらに限定されない。例えば、端末デバイスは、以下の態様で音声ファイルを収集し得る。端末デバイスは、ユーザが通話中である場合に端末デバイスのソフトウェアを記録することにより記録される音声ファイルを収集し得、ユーザがインスタントメッセージソフトウェアを用いることにより音声チャットを行っている場合に端末デバイスにより記録される音声ファイルを収集し得るか、または、ユーザの音声信号が受信され得る別のシナリオにおいて記録される音声ファイルを収集し得る。別の例では、端末デバイスは、以下の態様で画像ファイルおよびビデオを収集し得る。端末デバイスは、ユーザが写真またはビデオを撮るか、または、端末デバイスがアプリケーションソフトウェア（例えば、Ｗｅｉｂｏ、ＷｅＣｈａｔのモーメンツおよびＱｚｏｎｅ）等から画像ファイルまたはビデオを取得し得る場合に端末デバイスにより記録される画像ファイルまたはビデオを収集し得る。代替的に、サーバは、サンプルを収集し得る。
【００２０】
図１において、サーバは、少なくとも１つの端末デバイスにより送信された十分なサンプル（例えば、数億個または数十億個のサンプル）を受信した後にまず、サンプルを前処理し（サンプルに対する前処理は、分類処理、アノテーション情報の追加などの処理を含み得る）、次に、サンプルに従ってユニバーサルモデルを取得する。具体的には、ユニバーサルモデルは、サンプルに従ってトレーニングアルゴリズムをトレーニングすることにより取得され得る。サンプルが本明細書における音声ファイルである場合、取得されたユニバーサルモデルは、音声認識アルゴリズムであり得、ユニバーサルモデルは、音声情報（または音声信号と称される）を認識するために用いられ得る。  サンプルが画像ファイルである場合、取得されたユニバーサルモデルは、画像認識モデルであり得、ユニバーサルモデルは、画像情報を認識するために用いられ得る。代替的に、サンプルがビデオファイルである場合、取得されたユニバーサルモデルは、ビデオ認識モデルであり得、ユニバーサルモデルは、ビデオ情報を認識するために用いられ得る。
【００２１】
トレーニングアルゴリズムは、隠れマルコフモデル（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ、ＨＭＭ）、トレーニングアルゴリズム、前向きアルゴリズム（Ｆｏｒｗａｒｄ  Ａｌｇｏｒｉｔｈｍ）、ビタビアルゴリズム（Ｖｉｔｅｒｂｉ  Ａｌｇｏｒｉｔｈｍ）、前向き後ろ向きアルゴリズム（Ｆｏｒｗａｒｄ−Ｂａｃｋｗａｒｄ  Ａｌｇｏｒｉｔｈｍ）、期待値最大化（Ｅｘｐｅｃｔａｔｉｏｎ  Ｍａｘｉｍｉｚａｔｉｏｎ、ＥＭ）アルゴリズム、ディープニューラルネットワーク（Ｄｅｅｐ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ、ＤＮＮ）、学習アルゴリズム、畳み込みニューラルネットワーク（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ、ＣＮＮ）、学習アルゴリズムおよび再帰型ニューラルネットワーク（Ｒｅｃｕｒｒｅｎｔ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ、ＲＮＮ）学習アルゴリズムを含むが、それらに限定されない。加えて、取得されたユニバーサルモデルは、１または複数の元の特徴パラメータ含み得る。一例において、ユニバーサルモデルは、音声認識アルゴリズムであり、元の特徴パラメータは、音声パラメータであるか、または音響モデルパラメータと称され、元の特徴パラメータは、メル周波数ケプストラム係数（Ｍｅｌ  Ｆｒｅｑｕｅｎｃｙ  Ｃｏｅｆｆｉｃｉｅｎｔ、ＭＦＣＣ）パラメータおよびピッチ周波数パラメータを含み得るが、それらに限定されない。一例において、ユニバーサルモデルは、画像認識モデルであり。元の特徴パラメータは、画像パラメータであるか（または画像モデルパラメータと称され）、元の特徴パラメータは、色、テクスチャおよび形状などのパラメータを含み得るが、それらに限定されない。
【００２２】
図１における端末デバイスは、専用デジタル信号プロセッサ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓ、ＤＳＰ）チップまたはニューラル処理ユニット（Ｎｅｕｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ、ＮＰＵ）チップを有し得、チップは、ニューラルネットワークの大演算量要件を満たし得る。代替的に、本発明における端末デバイスは、大量のデータを演算する能力（例えば、行列の乗算または加算を実装する演算能力）を有する。端末デバイスは、携帯電話、モバイルコンピュータ、タブレットコンピュータ、携帯情報端末（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ、ＰＤＡ）、メディアプレーヤ、スマートテレビ、スマートウォッチ、スマートグラスまたはスマートバンドを含むが、それらに限定されない。
【００２３】
概して、各端末デバイスは、１人の固定ユーザにより用いられる、つまり、各端末デバイスは、１人の特定のユーザに対応し得ることが理解され得る。従って、端末デバイスにより収集されるサンプルは通常、特定のユーザの個人的な特徴に関連する。しかしながら、サーバが、少なくとも１つの端末デバイスによりアップロードされたサンプルに従ってユニバーサルモデルを取得する場合、ユニバーサルモデルは、全てのユーザの情報（音声情報、画像情報およびビデオ情報を含む）を認識し得る。つまり、ユニバーサルモデルは、相対的に良好な汎用性を有する。しかしながら、ユニバーサルモデルが端末デバイスに供給され、端末デバイスがユニバーサルモデルを用いて対応する特定のユーザの情報を認識する場合、ユニバーサルモデルを用いることにより特定のユーザの情報を認識する回数および特定のユーザの情報を認識している期間に拘らず、特定のユーザの情報の認識確度は、改善され得ない。つまり、サーバにより取得されるユニバーサルモデルは、パーソナライズされた特徴を有していない。しかしながら、ユーザエクスペリエンスを改善するために、端末デバイスが特定のユーザの情報を認識する確度を改善することが通常は期待され、端末デバイスは、別のユーザの情報を認識し得ない。従って、サーバにより供給されるユニバーサルモデルは、最適化される必要がある。
【００２４】
図２は、本発明の実施形態による、パターン認識に適用可能なモデルを最適化するための方法のフローチャートである。方法は、端末デバイスにより実行され得る。図２に示されるように、方法は、具体的には、以下の段階を含み得る。
【００２５】
段階２１０：端末デバイスが、サーバにより供給されたユニバーサルモデルを受信する。
【００２６】
上述のように、ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得される。ユニバーサルモデルは、１または複数の元の特徴パラメータを含み得る。一例において、複数の元の特徴パラメータが存在する場合、複数の元の特徴パラメータは、管理を容易にするために、第１行列に記憶され得る。
【００２７】
段階２２０：ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集する。
【００２８】
本明細書において、ターゲット情報は、音声情報、画像情報およびビデオ情報を含むが、それらに限定されない。具体的には、本明細書におけるユニバーサルモデルが音声認識アルゴリズムである場合、ユーザにより入力される音声情報は、音声情報に対応するテキストを取得するために、音声認識アルゴリズムを用いることにより認識され得る。本明細書におけるユニバーサルモデルが画像認識モデルである場合、画像情報は、画像認識モデルを用いることにより認識され得。本明細書における画像情報は、顔画像とオブジェクトを含む画像とを含むが、それらに限定されない。本明細書におけるユニバーサルモデルがビデオ認識モデルである場合、ビデオ情報は、ビデオ認識モデルを用いることにより認識され得、本明細書におけるビデオ情報は、画像情報を含む。
【００２９】
ユニバーサルモデルを用いることによりターゲット情報を認識する処理において相対的にパーソナライズされたモデルを取得するために、端末デバイスは、ローカルサンプルを収集し続け得ることに留意すべきである。ローカルサンプルは、ユニバーサルモデルを最適化する処理において端末デバイスにより用いられるので、端末デバイスは、ローカルサンプルを収集した後、ローカルサンプルをローカルにのみ記憶し、ローカルサンプルをサーバにアップロードする必要はない。従って、端末デバイスがサンプルをサーバにアップロードするために消費するトラフィックが節約され得る。ローカルサンプルは、音声ファイル、画像ファイルおよびビデオファイルを含み得るが、それらに限定されない。
【００３０】
段階２３０：モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、第１のトレーニングアルゴリズムとに従って新しい特徴パラメータを取得する。第１のトレーニングアルゴリズムは、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである。
【００３１】
本明細書におけるモデル最適化条件は、ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していることのうちの１または複数を含み得る。
【００３２】
例えば、ローカルサンプルの数が予め設定された数に達していることは、収集された音声ファイル、画像ファイルまたはビデオファイルの数が５０００個を超えているということであり得る。例えば、現在時刻が予め設定された時刻に達していることは、現在時刻が１２：００Ｐ．Ｍ．を超えているということであり得る。例えば、端末デバイスが予め設定された状態であることは、端末デバイスが充電状態であるか、または待機状態であるということであり得る。例えば、端末デバイスの属性値が予め設定された閾値に達していることは、端末デバイスのバッテリレベルが８０％を超えているか、または端末デバイスの温度が２５度よりも低いということであり得る。
【００３３】
加えて、第１のトレーニングアルゴリズムは、サーバによりユニバーサルモデルを取得するために用いられるトレーニングアルゴリズムと一致し得る。例えば、サーバがディープラーニングアルゴリズムおよびサンプルに従ってユニバーサルモデルを取得する場合、端末デバイスは、ディープラーニングアルゴリズムに従って、ユニバーサルモデルにおける元の特徴パラメータも補正し得る。
【００３４】
例えば、第１のトレーニングアルゴリズムがディープラーニングアルゴリズムである場合、ユニバーサルモデルにおける元の特徴パラメータを補正するための方法が、図３に示され得る。図３において、ディープラーニングアルゴリズムは、入力層、隠れ層および出力層という３つの層を含む。入力層は、入力データを入力するために用いられる。本明細書における入力データは、元の特徴パラメータおよびローカルサンプルを含む。入力層は、「○」（ノードと称される）という１つの列を含み得、各ノードは、１個の入力データを入力するように構成される。例えば、元の特徴パラメータがａ１，  ａ２，…ａｎであり、ｎ≧１である。つまり、ｎ個の元の特徴パラメータが存在し、ｎ個の元の特徴パラメータおよびローカルサンプルは、ディープラーニングアルゴリズムの入力層で入力され得る。隠れ層は、入力層で入力されたｎ個の元の特徴パラメータをローカルサンプルに従って補正するために用いられる。補正は具体的には、入力データへの対応する演算を実行することにより実装される。図３において、隠れ層におけるｋ番目の列の各ノードは、入力データに対するｋ番目の演算が実行された後に取得された結果を示すために用いられている。任意の列の各ノードは、任意の列の前の列の全てのノードの線形結合に従って決定され、例えば、隠れ層における第１列の各ノードは、入力データに対する初回の演算が実行された後に取得された、対応する結果を示す。隠れ層における第１列のｊ番目のノードがｙ２ｊと示され得、ｙ２ｊの演算式が
【数１】
2019528502.tif 000003
であり得ると仮定する。ｘ１ｉは入力データのｉ番目の部分を示し、ωおよびｂは経験値に従って設定され得、ｆは自律的に選択され得る。出力層は、演算後に取得された入力データを出力するために用いられ、出力層は、「○」という１つの列を含み得、各ノードは、演算後に取得された１個の入力データを出力するように、例えば、１個の新しい特徴パラメータを出力するように構成される。出力された全ての新しい特徴パラメータがｂ１，  ｂ２，…ｂｍであり得ると仮定する。ｍ≧ｎ、つまり、新しい特徴パラメータの数は、元の特徴パラメータの数よりも大きいか、または等しい。一例において、出力層で出力された新しい特徴パラメータは、第２行列に記録され得る。
【００３５】
元の特徴パラメータを補正するために端末デバイスにより用いられるトレーニングアルゴリズムは、ユニバーサルモデルを取得するためにサーバにより用いられるトレーニングアルゴリズムと一致するが、端末デバイスにより収集されるローカルサンプルの数が数千個のみであるのに対し、少なくとも１つの端末デバイスによりアップロードされ、サーバにより受信されるサンプルの数は数億個または数十億個なので、サーバの演算量は、端末デバイスの演算量よりもはるかに大きいことが理解され得る。
【００３６】
加えて、図３において、入力層で入力されたサンプルは、ローカルサンプルである。例えば、音声認識アルゴリズムにおける元の特徴パラメータが補正される場合、入力層で入力されたローカルサンプルは、端末デバイスに対応する特定のユーザの音声ファイルであり、別のユーザの音声ファイルは入力されない。従って、出力層で出力された新しい特徴パラメータは、パーソナライズされた特徴を有する、つまり、特定のユーザの音声情報は、新しい特徴パラメータに従ってユニバーサルモデルが最適化された後、より良好に認識され得、別のユーザの音声情報は、認識され得ないか、または十分に認識され得ない。別の例では、画像認識モデルにおける元の特徴パラメータが補正される場合、入力層で入力されたローカルサンプルは、特定のユーザの顔画像であり得、別のユーザの顔画像は入力されない。従って、出力層で出力された新しい特徴パラメータは、パーソナライズされた特徴を有する、つまり、特定のユーザの画像情報は、ユニバーサルモデルが新しい特徴パラメータに従って最適化された後、より良好に認識され得る。
【００３７】
加えて、端末デバイスは、ＨＭＭトレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、ＥＭアルゴリズム、ＤＮＮ学習アルゴリズム、ＣＮＮ学習アルゴリズムまたはＲＮＮ学習アルゴリズムに従って、ユニバーサルモデルにおける元の特徴パラメータをさらに補正し得る。
【００３８】
本発明における相対的に高い精度のパーソナライズされたモデルを取得するために、つまり、特定のユーザの情報を認識する確度を改善するために、ユニバーサルモデルは、新しい特徴パラメータに従って最適化され得る。
【００３９】
段階２４０：第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する。
【００４０】
相対的に高い精度のパーソナライズされたモデルを取得するために、サーバから受信されたユニバーサルモデルは、最適化され得る。本明細書における第２のトレーニングアルゴリズムは、ベイズ統計モデリングアルゴリズムおよびベクトルマシンモデリングアルゴリズムを含み得るが、それらに限定されない。
【００４１】
上述のように、ユニバーサルモデルにおける元の特徴パラメータは、第１行列に記憶され得、取得された新しい特徴パラメータは、第２行列に記憶され得る。一例において、第１行列は、３０００次元（つまり、ｎ＝３０００）の行列であり得、第２行列は、９０００次元（つまり、ｍ＝９０００）の行列であり得る。第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化する処理は具体的には、以下のことを含み得る。第１行列および第２行列は、ターゲット行列を取得するために加算または乗算される。ターゲット行列は、最適化されたユニバーサルモデルにおける特徴パラメータを含む。ユニバーサルモデルにおける元の特徴パラメータは、次に、最適化されたユニバーサルモデルにおける特徴パラメータで置換される。従って、最適化されたユニバーサルモデルが取得され得る。第１行列および第２行列が加算または乗算される前は、第１行列および第２行列が異なる数の次元を有するので、２つの行列の次元の数は、「０」を追加することにより均一化され得ることが理解され得る。前述の例において、第１行列は、「０」を追加することにより９０００次元の行列へ展開され得、次に、第１行列および第２行列は、加算または乗算される。
【００４２】
当然ながら、実際の応用中、２つの行列の次元の数は、代替的に、別の方式で均一化され得る。これは、本願において限定されない。例えば、ＭＡＴＬＡＢでは、「非数値」を加算する方式が用いられ得る。「非数値」は、実際の意味を有しない値を示すために用いられる。具体的には、ＭＡＴＬＡＢにおいて「非数値」が処理される場合、「非数値」はスキップされ、処理は実行されない。
【００４３】
当然ながら、例は、前述の記載において、ユニバーサルモデルを最適化する方式を説明するためにのみ用いられており、本発明に限定を課さない。ユニバーサルモデルを最適化する方式は、用いられる第２のトレーニングアルゴリズムに従って決定され得、本発明において列挙されない。
【００４４】
段階２１０から段階２３０は、ユニバーサルモデルを一度に最適化する処理に過ぎず、当業者であれば、段階２１０から段階２３０を継続的に繰り返し実行し得る、つまり、特定のユーザの情報を認識する確度は、特定のユーザのパーソナライズされた情報をユニバーサルモデルと継続的に組み合わせることにより改善され得ることに留意すべきである。
【００４５】
結論として、本発明における端末デバイスは、まず、サーバにより供給されたユニバーサルモデルを受信し、次に、ユニバーサルモデルを最適化して、相対的にパーソナライズされたモデルを取得する。本明細書において、ユニバーサルモデルは、サーバにより、少なくとも１つの端末デバイスによりアップロードされた数億個のサンプルまたは数十億個のサンプルに従って取得されるので、ユニバーサルモデルを用いることにより情報を認識する確度は、相対的に高い。従って、端末デバイスの演算量が低減され得るのみならず、特定のユーザの情報を認識する確度も改善され得る。
【００４６】
パターン認識に適用可能なモデルを最適化するための方法に対応して、本願の実施形態は、パターン認識に適用可能なモデルを最適化するための装置をさらに提供する。図４に示されるように、装置は、受信ユニット４０１と、処理ユニット４０２と、取得ユニット４０３と、最適化ユニット４０４とを含む。
【００４７】
受信ユニット４０１は、サーバにより供給されたユニバーサルモデルを受信するように構成される。ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得され、ユニバーサルモデルは、元の特徴パラメータを含む。
【００４８】
処理ユニット４０２は、受信ユニット４０１により受信されたユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集するように構成される。
【００４９】
取得ユニット４０３は、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、第１のトレーニングアルゴリズムとに従って新しい特徴パラメータを取得するように構成される。第１のトレーニングアルゴリズムは、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである。
【００５０】
モデル最適化条件は、ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していることのうちの１または複数を含む。
【００５１】
加えて、第１のトレーニングアルゴリズムは、隠れマルコフモデルＨＭＭ、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化ＥＭアルゴリズム、ディープニューラルネットワークＤＮＮアルゴリズム、畳み込みニューラルネットワークＣＮＮアルゴリズムまたは再帰型ニューラルネットワークＲＮＮアルゴリズムのうちの１または複数を含む。
【００５２】
最適化ユニット４０４は、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される。
【００５３】
本発明の本実施形態において提供される、パターン認識に適用可能なモデルを最適化するための装置によれば、受信ユニット４０１は、サーバにより供給されたユニバーサルモデルを受信し、処理ユニット４０２は、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、取得ユニット４０３は、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、第１のトレーニングアルゴリズムとに従って新しい特徴パラメータを取得し、最適化ユニット４０４は、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する。従って、ユーザエクスペリエンスが改善されるのみならず、サーバがユニバーサルモデルを最適化する場合に存在する、サーバの大演算量という課題も解決される。
【００５４】
パターン認識に適用可能なモデルを最適化するための方法に対応して、本願の実施形態は、端末デバイスをさらに提供する。図５に示されるように、端末デバイスは、送受信機５１０と処理回路５２０とを含み、任意でメモリ５３０をさらに含み得る。処理回路５２０は、プロセッサ５２１と、無線周波数回路５２２と、ベースバンド５２３とを含み得る。
【００５５】
プロセッサ５２１は、ＮＰＵ、専用ＤＳＰ、ＮＰＵおよびハードウェアチップの組み合わせ、または専用ＤＳＰおよびハードウェアチップの組み合わせを含み得る。ＮＰＵまたは専用ＤＳＰは、演算能力を提供し、例えば、行列の乗算処理または加算処理を実装し得る。加えて、ハードウェアチップは、特定用途向け集積回路（英語：ａｐｐｌｉｃａｔｉｏｎ−ｓｐｅｃｉｆｉｃ  ｉｎｔｅｇｒａｔｅｄ  ｃｉｒｃｕｉｔ、ＡＳＩＣ）、プログラマブル論理デバイス（英語：ｐｒｏｇｒａｍｍａｂｌｅ  ｌｏｇｉｃ  ｄｅｖｉｃｅ、ＰＬＤ）またはそれらの組み合わせであり得る。ＰＬＤは、複雑プログラマブル論理デバイス（英語：ｃｏｍｐｌｅｘ  ｐｒｏｇｒａｍｍａｂｌｅ  ｌｏｇｉｃ  ｄｅｖｉｃｅ、ＣＰＬＤ）、フィールドプログラマブルゲートアレイ（英語：ｆｉｅｌｄ−ｐｒｏｇｒａｍｍａｂｌｅ  ｇａｔｅ  ａｒｒａｙ、ＦＰＧＡ）、ジェネリックアレイロジック（英語：ｇｅｎｅｒｉｃ  ａｒｒａｙ  ｌｏｇｉｃ、ＧＡＬ）またはそれらの任意の組み合わせであり得る。加えて、プロセッサ５２１は、グラフィック処理ユニット（Ｇｒａｐｈｉｃｓ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ、ＧＰＵ）をさらに含み得る。
【００５６】
メモリ５３０は、揮発性メモリ（英語：ｖｏｌａｔｉｌｅ  ｍｅｍｏｒｙ）、例えば、ランダムアクセスメモリ（英語：ｒａｎｄｏｍ−ａｃｃｅｓｓ  ｍｅｍｏｒｙ、ＲＡＭ）を含み得る。メモリ５３０は、不揮発性メモリ（英語：ｎｏｎ−ｖｏｌａｔｉｌｅ  ｍｅｍｏｒｙ）、例えば、リードオンリメモリ（英語：ｒｅａｄ−ｏｎｌｙ  ｍｅｍｏｒｙ、ＲＯＭ）、フラッシュメモリ（英語：ｆｌａｓｈ  ｍｅｍｏｒｙ）、ハードディスクドライブ（英語：ｈａｒｄ  ｄｉｓｋ  ｄｒｉｖｅ、ＨＤＤ）またはソリッドステートドライブ（英語：ｓｏｌｉｄ−ｓｔａｔｅ  ｄｒｉｖｅ、ＳＳＤ）をさらに含み得る。」メモリ５３０は、前述のメモリの組み合わせをさらに含み得る。
【００５７】
送受信機５１０は、サーバにより供給されたユニバーサルモデルを受信するように構成される。ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得され、ユニバーサルモデルは、元の特徴パラメータを含む。
【００５８】
処理回路５２０は、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集するように構成される。
【００５９】
処理回路５２０はさらに、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、第１のトレーニングアルゴリズムとに従って新しい特徴パラメータを取得するように構成される。第１のトレーニングアルゴリズムは、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである。
【００６０】
モデル最適化条件は、ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していることのうちの１または複数を含む。
【００６１】
加えて、第１のトレーニングアルゴリズムは、隠れマルコフモデルＨＭＭ、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化ＥＭアルゴリズム、ディープニューラルネットワークＤＮＮアルゴリズム、畳み込みニューラルネットワークＣＮＮアルゴリズムまたは再帰型ニューラルネットワークＲＮＮアルゴリズムのうちの１または複数を含む。
【００６２】
処理回路５２０はさらに、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される。
【００６３】
本発明の本実施形態において提供されるモデルのための端末デバイスは、まず、サーバにより供給されたユニバーサルモデルを受信し、次に、ユニバーサルモデルを最適化して、相対的にパーソナライズされたモデルを取得する。本明細書において、ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされた数億個のサンプルまたは数十億個のサンプルに従って、サーバにより取得されるので、ユニバーサルモデルを用いることにより情報を認識する確度は、相対的に高い。従って、端末デバイスの演算量が低減され得るのみならず、特定のユーザの認識情報の確度も改善され得る。
【００６４】
当業者であれば、本明細書において開示される実施形態において説明される例と組み合わせて、ユニットおよびアルゴリズムの段階は、電子ハードウェア、コンピュータソフトウェアまたはそれらの組み合わせにより実装され得ることをさらに認識し得る。ハードウェアとソフトウェアとの間の互換性を明確に説明するために、前述の記載では概して、各例の構成および段階を機能に従って説明している。機能がハードウェアにより実行されるか、またはソフトウェアにより実行されるかは、技術的解決手段の特定の用途および設計上の制約条件に依存する。当業者であれば、異なる方法を用いて、特定の用途毎に、説明された機能を実装し得るが、実装形態が本発明の範囲を越えるものとみなされるべきではない。
【００６５】
本明細書において開示される実施形態において説明される方法またはアルゴリズムの段階は、ハードウェア、プロセッサにより実行されるソフトウェアモジュールまたはそれらの組み合わせにより実装され得る。ソフトウェアモジュールは、ランダムアクセスメモリ（ＲＡＭ）、メモリ、リードオンリメモリ（ＲＯＭ）、電気的プログラマブルＲＯＭ、電気的消去可能プログラマブルＲＯＭ、レジスタ、ハードディスク、リムーバブルディスク、ＣＤ−ＲＯＭまたは当技術分野において知られている任意の他の形式の記憶媒体に存在し得る。
【００６６】
前述の具体的な実装形態において、本発明の目的、技術的解決手段および利益がさらに詳細に説明されている。前述の説明は、本発明の具体的な実装形態に過ぎず、本発明の保護範囲を制限することは意図されていないことを理解されたい。本発明の趣旨および原理から逸脱することなく、あらゆる修正、同等の置換、または改良が、本発明の保護範囲に含まれるはずである。
【図１】
2019528502.tif 000004
【図２】
2019528502.tif 000005
【図３】
2019528502.tif 000006
【図４】
2019528502.tif 000007
【図５】
2019528502.tif 000008
【手続補正書】
【提出日】平成31年2月15日(2019.2.15)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
端末デバイスが、サーバにより供給されたユニバーサルモデルを受信する段階であって、前記ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、前記サーバにより取得され、前記ユニバーサルモデルは、元の特徴パラメータを含む、段階と、
前記ユニバーサルモデルを用いてターゲット情報を認識し、複数のローカルサンプルを収集する段階と、
モデル最適化条件が満たされた場合、前記複数のローカルサンプルと、前記元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得する段階と、
第２のトレーニングアルゴリズムおよび前記新しい特徴パラメータに従って前記ユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する段階と
を備える、パターン認識に適用可能なモデルを最適化するための方法。
【請求項２】
前記モデル最適化条件は、
ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、前記端末デバイスが予め設定された状態であること、または前記端末デバイスの属性値が予め設定された閾値に達していること
のうちの１または複数を含む、
請求項１に記載の方法。
【請求項３】
前記第１のトレーニングアルゴリズムは、
隠れマルコフモデル（ＨＭＭ）、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化（ＥＭ）アルゴリズム、ディープニューラルネットワーク（ＤＮＮ）アルゴリズム、畳み込みニューラルネットワーク（ＣＮＮ）アルゴリズムまたは再帰型ニューラルネットワーク（ＲＮＮ）アルゴリズム
のうちの１または複数を含む、
請求項１または２に記載の方法。
【請求項４】
受信ユニットと、処理ユニットと、取得ユニットと、最適化ユニットとを備え、
前記受信ユニットは、サーバにより供給されたユニバーサルモデルを受信するように構成され、前記ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、前記サーバにより取得され、前記ユニバーサルモデルは、元の特徴パラメータを含み、
前記処理ユニットは、前記受信ユニットにより受信された前記ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集するように構成され、
前記取得ユニットは、モデル最適化条件が満たされた場合、前記複数のローカルサンプルと、前記元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得するように構成され、
前記最適化ユニットは、第２のトレーニングアルゴリズムおよび前記新しい特徴パラメータに従って前記ユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される、
パターン認識に適用可能なモデルを最適化するための装置。
【請求項５】
前記モデル最適化条件は、
ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または前記端末デバイスの属性値が予め設定された閾値に達していること
のうちの１または複数を含む、
請求項４に記載の装置。
【請求項６】
前記第１のトレーニングアルゴリズムは、
隠れマルコフモデル（ＨＭＭ）、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化（ＥＭ）アルゴリズム、ディープニューラルネットワーク（ＤＮＮ）アルゴリズム、畳み込みニューラルネットワーク（ＣＮＮ）アルゴリズムまたは再帰型ニューラルネットワーク（ＲＮＮ）アルゴリズム
のうちの１または複数を含む、
請求項４または５に記載の装置。
【請求項７】
送受信機と、処理回路とを備え、
前記送受信機は、サーバにより供給されたユニバーサルモデルを受信するように構成され、前記ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、前記サーバにより取得され、前記ユニバーサルモデルは、元の特徴パラメータを含み、
前記処理回路は、
前記ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、
モデル最適化条件が満たされた場合、前記複数のローカルサンプルと、前記元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得し、かつ、
第２のトレーニングアルゴリズムおよび前記新しい特徴パラメータに従って前記ユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される、
端末デバイス。
【請求項８】
前記モデル最適化条件は、
ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、前記端末デバイスが予め設定された状態であること、または前記端末デバイスの属性値が予め設定された閾値に達していること
のうちの１または複数を含む、
請求項７に記載の端末デバイス。
【請求項９】
前記第１のトレーニングアルゴリズムは、
隠れマルコフモデル（ＨＭＭ）、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化（ＥＭ）アルゴリズム、ディープニューラルネットワーク（ＤＮＮ）アルゴリズム、畳み込みニューラルネットワーク（ＣＮＮ）アルゴリズムまたは再帰型ニューラルネットワーク（ＲＮＮ）アルゴリズム
のうちの１または複数を含む、
請求項７または８に記載の端末デバイス。
【請求項１０】
前記処理回路は、ニューラル処理ユニット（ＮＰＵ）または専用デジタル信号プロセッサ（ＤＳＰ）を有する、
請求項７から９のいずれか一項に記載の端末デバイス。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、コンピュータ技術の分野に関し、特に、パターン認識に適用可能なモデルを最適化するための方法および装置ならびに端末デバイスに関する。
【背景技術】
【０００２】
既存の端末デバイス（例えば、スマートフォン、（Ｓｍａｒｔ  Ｐｈｏｎｅ、ＳＰ））は通常、汎用演算ユニットを用いることにより、様々なアルゴリズム命令を実行する。汎用演算ユニットは通常、高度縮小命令セットコンピュータ（Ｒｅｄｕｃｅｄ  Ｉｎｓｔｒｕｃｔｉｏｎ  Ｓｅｔ  Ｃｏｍｐｕｔｅｒ、ＲＩＳＣ）マシン（Ａｄｖａｎｃｅｄ  ＲＩＳＣ  Ｍａｃｈｉｎｅｓ、ＡＲＭ）システムアーキテクチャ、例えば、中央処理ユニット（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ、ＣＰＵ）を用いる。このシステムアーキテクチャでは、複数のスレッドを用いてアルゴリズム命令が同時に実行された場合、消費電力が極めて高くなる。これは、バッテリ充電式の端末デバイスにとって許容できないことである。単一のスレッドを用いてアルゴリズム命令が実行された場合、処理能力は、大演算量の要件を満たし得ない。例えば、音声認識およびコンピュータビジョンなどの分野では、パターン認識に適用可能なモデルのトレーニングプロセス（例えば、音響モデルのトレーニング）において、極めて大きい演算量が必要である。しかしながら、端末デバイスの消費電力が限定されるので、または大演算量の要件が満たされ得ないので、モデルトレーニングは通常、従来技術ではクラウドにおいて実行され、次に、音声、画像、ビデオ等を認識するために、モデルが端末デバイスへプッシュされる。
【０００３】
しかしながら、パターン認識に適用可能なモデルがクラウドにおいてトレーニングされる場合、トレーニングは通常、少なくとも１つの端末デバイスによりアップロードされたサンプル（例えば、音声ファイル、顔画像またはビデオファイル）に従って実行されるので、取得されるモデルは汎用的である。例えば、音声認識が実行される場合、全てのユーザの音声がモデルを用いて認識され得、特定のユーザの音声については、認識は実行されない。つまり、モデルは、パーソナライズされた特徴を有さない。しかしながら、ユーザは、端末デバイスがユーザの音声のみを認識し得、別のユーザの音声を認識しないか、または十分に認識し得ないことを想定している。つまり、ユーザは、相対的にパーソナライズされたモデルをトレーニングすることを望んでいる。従って、パターン認識に適用可能なモデルを最適化するという要件が課される。
【発明の概要】
【０００４】
本発明の実施形態は、相対的にパーソナライズされたモデルを取得し、サーバの演算量を低減するようにパターン認識に適用可能なモデルを最適化するための方法および装置ならびに端末デバイスを提供する。
【０００５】
第１の態様によれば、パターン認識に適用可能なモデルを最適化するための方法が提供される。方法は、端末デバイスが、サーバにより供給されたユニバーサルモデルを受信する段階であって、ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得され、ユニバーサルモデルは、元の特徴パラメータを含む、段階と、ユニバーサルモデルを用いてターゲット情報を認識し、複数のローカルサンプルを収集する段階と、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得する段階と、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する段階とを含む。
【０００６】
ユニバーサルモデルを用いることによりターゲット情報を認識する処理において相対的にパーソナライズされたモデルを取得するために、端末デバイスは、ローカルサンプルを収集し続け得る。ローカルサンプルは、ユニバーサルモデルを最適化する処理において端末デバイスにより用いられるので、端末デバイスは、ローカルサンプルを収集した後、ローカルサンプルをローカルにのみ記憶し、ローカルサンプルをサーバにアップロードする必要はない。従って、端末デバイスがサンプルをサーバにアップロードするために消費するトラフィックが節約され得る。加えて、ユニバーサルモデルは、サーバにより、少なくとも１つの端末デバイスによりアップロードされた数億個のサンプルまたは数十億個のサンプルに従って取得されるので、ユニバーサルモデルを用いることにより情報を認識する確度は、相対的に高い。次に、ユニバーサルモデルは、相対的にパーソナライズされたモデルを取得するために最適化される。従って、端末デバイスの演算量が低減され得るのみならず、特定のユーザの情報を認識する確度も改善され得る。
【０００７】
任意選択の実装形態において、モデル最適化条件は、ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していることのうちの１または複数を含み得る。
【０００８】
任意選択の実装形態において、第１のトレーニングアルゴリズムは、隠れマルコフモデル（ＨＭＭ）、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化（ＥＭ）アルゴリズム、ディープニューラルネットワーク（ＤＮＮ）アルゴリズム、畳み込みニューラルネットワーク（ＣＮＮ）アルゴリズムまたは再帰型ニューラルネットワーク（ＲＮＮ）アルゴリズムのうちの１または複数を含み得る。
【０００９】
第２の態様によれば、パターン認識に適用可能なモデルを最適化するための装置が提供される。装置は、前述の方法における端末デバイスの動作を実装する機能を有する。機能は、ハードウェアを用いることにより実装され得るか、または、対応するソフトウェアをハードウェアが実装することにより実装され得る。ハードウェアまたはソフトウェアは、前述の機能に対応する１または複数のモジュールを含む。
【００１０】
第３の態様によれば、端末デバイスが提供される。端末デバイスは、送受信機と、処理回路とを含む。送受信機は、サーバにより供給されたユニバーサルモデルを受信するように構成される。ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得される。ユニバーサルモデルは、元の特徴パラメータを含む。処理回路は、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである第１のトレーニングアルゴリズムとに従って、新しい特徴パラメータを取得し、かつ、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される。
【００１１】
さらに別の態様によれば、コンピュータ記憶媒体が提供される。コンピュータ記憶媒体は、前述の端末デバイスにより用いられるコンピュータソフトウェア命令を記憶するように構成される。コンピュータソフトウェア命令は、前述の態様を実行するよう設計されたプログラムを含む。
【００１２】
本発明の実施形態は、パターン認識に適用可能なモデルを最適化するための方法および装置ならびに端末デバイスを提供する。端末デバイスは、サーバにより供給されたユニバーサルモデルを受信する。ユニバーサルモデルは、元の特徴パラメータを含み、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、モデル最適化条件が満たされた場合、第１のトレーニングアルゴリズムを用いることにより元の特徴パラメータを補正して、新しい特徴パラメータを取得し、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する。つまり、本発明において、端末デバイスはさらに、収集したローカルサンプルに従って、サーバから受信したユニバーサルモデルを最適化して、パターン認識に適用可能な相対的にパーソナライズされたモデルを取得する。従って、ユーザエクスペリエンスが改善されるのみならず、サーバがユニバーサルモデルを最適化する場合に存在する、サーバの大演算量という課題も解決される。
【図面の簡単な説明】
【００１３】
【図１】本発明によるネットワークの概略構造図である。
【００１４】
【図２】本発明の実施形態によるパターン認識に適用可能なモデルを最適化する方法のフローチャートである。
【００１５】
【図３】本発明による第１のトレーニングアルゴリズムのトレーニングプロセスの概略図である。
【００１６】
【図４】本発明の別の実施形態によるパターン認識に適用可能なモデルを最適化するための装置の概略図である。
【００１７】
【図５】本発明のさらに別の実施形態による端末デバイスの概略図である。
【発明を実施するための形態】
【００１８】
以下では、添付図面および実施形態を参照して、本発明の技術的解決手段をさらに詳細に説明する。
【００１９】
本発明の実施形態によるパターン認識に適用可能なモデルを最適化するための方法が、図１に示されるネットワークトポロジの構造図に適用される。図１において、サーバが端末デバイスとのデータ通信を実行し得る。具体的には、サーバは、少なくとも１つの端末デバイスによりアップロードされたサンプルを受信し得る。サンプルは、音声ファイル、画像ファイルおよびビデオファイルを含むが、それらに限定されない。例えば、端末デバイスは、以下の態様で音声ファイルを収集し得る。端末デバイスは、ユーザが通話中である場合に端末デバイスのソフトウェアを記録することにより記録される音声ファイルを収集し得、ユーザがインスタントメッセージソフトウェアを用いることにより音声チャットを行っている場合に端末デバイスにより記録される音声ファイルを収集し得るか、または、ユーザの音声信号が受信され得る別のシナリオにおいて記録される音声ファイルを収集し得る。別の例では、端末デバイスは、以下の態様で画像ファイルおよびビデオを収集し得る。端末デバイスは、ユーザが写真またはビデオを撮るか、または、端末デバイスがアプリケーションソフトウェア（例えば、Ｗｅｉｂｏ、ＷｅＣｈａｔのモーメンツおよびＱｚｏｎｅ）等から画像ファイルまたはビデオを取得し得る場合に端末デバイスにより記録される画像ファイルまたはビデオを収集し得る。代替的に、サーバは、サンプルを収集し得る。
【００２０】
図１において、サーバは、少なくとも１つの端末デバイスにより送信された十分なサンプル（例えば、数億個または数十億個のサンプル）を受信した後にまず、サンプルを前処理し（サンプルに対する前処理は、分類処理、アノテーション情報の追加などの処理を含み得る）、次に、サンプルに従ってユニバーサルモデルを取得する。具体的には、ユニバーサルモデルは、サンプルに従ってトレーニングアルゴリズムをトレーニングすることにより取得され得る。サンプルが本明細書における音声ファイルである場合、取得されたユニバーサルモデルは、音声認識アルゴリズムであり得、ユニバーサルモデルは、音声情報（または音声信号と称される）を認識するために用いられ得る。  サンプルが画像ファイルである場合、取得されたユニバーサルモデルは、画像認識モデルであり得、ユニバーサルモデルは、画像情報を認識するために用いられ得る。代替的に、サンプルがビデオファイルである場合、取得されたユニバーサルモデルは、ビデオ認識モデルであり得、ユニバーサルモデルは、ビデオ情報を認識するために用いられ得る。
【００２１】
トレーニングアルゴリズムは、隠れマルコフモデル（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ、ＨＭＭ）、トレーニングアルゴリズム、前向きアルゴリズム（Ｆｏｒｗａｒｄ  Ａｌｇｏｒｉｔｈｍ）、ビタビアルゴリズム（Ｖｉｔｅｒｂｉ  Ａｌｇｏｒｉｔｈｍ）、前向き後ろ向きアルゴリズム（Ｆｏｒｗａｒｄ−Ｂａｃｋｗａｒｄ  Ａｌｇｏｒｉｔｈｍ）、期待値最大化（Ｅｘｐｅｃｔａｔｉｏｎ  Ｍａｘｉｍｉｚａｔｉｏｎ、ＥＭ）アルゴリズム、ディープニューラルネットワーク（Ｄｅｅｐ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ、ＤＮＮ）、学習アルゴリズム、畳み込みニューラルネットワーク（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ、ＣＮＮ）、学習アルゴリズムおよび再帰型ニューラルネットワーク（Ｒｅｃｕｒｒｅｎｔ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ、ＲＮＮ）学習アルゴリズムを含むが、それらに限定されない。加えて、取得されたユニバーサルモデルは、１または複数の元の特徴パラメータ含み得る。一例において、ユニバーサルモデルは、音声認識アルゴリズムであり、元の特徴パラメータは、音声パラメータであるか、または音響モデルパラメータと称され、元の特徴パラメータは、メル周波数ケプストラム係数（Ｍｅｌ  Ｆｒｅｑｕｅｎｃｙ  Ｃｅｐｓｔｒａｌ  Ｃｏｅｆｆｉｃｉｅｎｔ、ＭＦＣＣ）パラメータおよびピッチ周波数パラメータを含み得るが、それらに限定されない。一例において、ユニバーサルモデルは、画像認識モデルであり。元の特徴パラメータは、画像パラメータであるか（または画像モデルパラメータと称され）、元の特徴パラメータは、色、テクスチャおよび形状などのパラメータを含み得るが、それらに限定されない。
【００２２】
図１における端末デバイスは、専用デジタル信号プロセッサ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ、ＤＳＰ）チップまたはニューラル処理ユニット（Ｎｅｕｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ、ＮＰＵ）チップを有し得、チップは、ニューラルネットワークの大演算量要件を満たし得る。代替的に、本発明における端末デバイスは、大量のデータを演算する能力（例えば、行列の乗算または加算を実装する演算能力）を有する。端末デバイスは、携帯電話、モバイルコンピュータ、タブレットコンピュータ、携帯情報端末（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ、ＰＤＡ）、メディアプレーヤ、スマートテレビ、スマートウォッチ、スマートグラスまたはスマートバンドを含むが、それらに限定されない。
【００２３】
概して、各端末デバイスは、１人の固定ユーザにより用いられる、つまり、各端末デバイスは、１人の特定のユーザに対応し得ることが理解され得る。従って、端末デバイスにより収集されるサンプルは通常、特定のユーザの個人的な特徴に関連する。しかしながら、サーバが、少なくとも１つの端末デバイスによりアップロードされたサンプルに従ってユニバーサルモデルを取得する場合、ユニバーサルモデルは、全てのユーザの情報（音声情報、画像情報およびビデオ情報を含む）を認識し得る。つまり、ユニバーサルモデルは、相対的に良好な汎用性を有する。しかしながら、ユニバーサルモデルが端末デバイスに供給され、端末デバイスがユニバーサルモデルを用いて対応する特定のユーザの情報を認識する場合、ユニバーサルモデルを用いることにより特定のユーザの情報を認識する回数および特定のユーザの情報を認識している期間に拘らず、特定のユーザの情報の認識確度は、改善され得ない。つまり、サーバにより取得されるユニバーサルモデルは、パーソナライズされた特徴を有していない。しかしながら、ユーザエクスペリエンスを改善するために、端末デバイスが特定のユーザの情報を認識する確度を改善することが通常は期待され、端末デバイスは、別のユーザの情報を認識し得ない。従って、サーバにより供給されるユニバーサルモデルは、最適化される必要がある。
【００２４】
図２は、本発明の実施形態による、パターン認識に適用可能なモデルを最適化するための方法のフローチャートである。方法は、端末デバイスにより実行され得る。図２に示されるように、方法は、具体的には、以下の段階を含み得る。
【００２５】
段階２１０：端末デバイスが、サーバにより供給されたユニバーサルモデルを受信する。
【００２６】
上述のように、ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得される。ユニバーサルモデルは、１または複数の元の特徴パラメータを含み得る。一例において、複数の元の特徴パラメータが存在する場合、複数の元の特徴パラメータは、管理を容易にするために、第１行列に記憶され得る。
【００２７】
段階２２０：ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集する。
【００２８】
本明細書において、ターゲット情報は、音声情報、画像情報およびビデオ情報を含むが、それらに限定されない。具体的には、本明細書におけるユニバーサルモデルが音声認識アルゴリズムである場合、ユーザにより入力される音声情報は、音声情報に対応するテキストを取得するために、音声認識アルゴリズムを用いることにより認識され得る。本明細書におけるユニバーサルモデルが画像認識モデルである場合、画像情報は、画像認識モデルを用いることにより認識され得。本明細書における画像情報は、顔画像とオブジェクトを含む画像とを含むが、それらに限定されない。本明細書におけるユニバーサルモデルがビデオ認識モデルである場合、ビデオ情報は、ビデオ認識モデルを用いることにより認識され得、本明細書におけるビデオ情報は、画像情報を含む。
【００２９】
ユニバーサルモデルを用いることによりターゲット情報を認識する処理において相対的にパーソナライズされたモデルを取得するために、端末デバイスは、ローカルサンプルを収集し続け得ることに留意すべきである。ローカルサンプルは、ユニバーサルモデルを最適化する処理において端末デバイスにより用いられるので、端末デバイスは、ローカルサンプルを収集した後、ローカルサンプルをローカルにのみ記憶し、ローカルサンプルをサーバにアップロードする必要はない。従って、端末デバイスがサンプルをサーバにアップロードするために消費するトラフィックが節約され得る。ローカルサンプルは、音声ファイル、画像ファイルおよびビデオファイルを含み得るが、それらに限定されない。
【００３０】
段階２３０：モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、第１のトレーニングアルゴリズムとに従って新しい特徴パラメータを取得する。第１のトレーニングアルゴリズムは、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである。
【００３１】
本明細書におけるモデル最適化条件は、ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していることのうちの１または複数を含み得る。
【００３２】
例えば、ローカルサンプルの数が予め設定された数に達していることは、収集された音声ファイル、画像ファイルまたはビデオファイルの数が５０００個を超えているということであり得る。例えば、現在時刻が予め設定された時刻に達していることは、現在時刻が１２：００Ｐ．Ｍ．を超えているということであり得る。例えば、端末デバイスが予め設定された状態であることは、端末デバイスが充電状態であるか、または待機状態であるということであり得る。例えば、端末デバイスの属性値が予め設定された閾値に達していることは、端末デバイスのバッテリレベルが８０％を超えているか、または端末デバイスの温度が２５度よりも低いということであり得る。
【００３３】
加えて、第１のトレーニングアルゴリズムは、サーバによりユニバーサルモデルを取得するために用いられるトレーニングアルゴリズムと一致し得る。例えば、サーバがディープラーニングアルゴリズムおよびサンプルに従ってユニバーサルモデルを取得する場合、端末デバイスは、ディープラーニングアルゴリズムに従って、ユニバーサルモデルにおける元の特徴パラメータも補正し得る。
【００３４】
例えば、第１のトレーニングアルゴリズムがディープラーニングアルゴリズムである場合、ユニバーサルモデルにおける元の特徴パラメータを補正するための方法が、図３に示され得る。図３において、ディープラーニングアルゴリズムは、入力層、隠れ層および出力層という３つの層を含む。入力層は、入力データを入力するために用いられる。本明細書における入力データは、元の特徴パラメータおよびローカルサンプルを含む。入力層は、「○」（ノードと称される）という１つの列を含み得、各ノードは、１個の入力データを入力するように構成される。例えば、元の特徴パラメータがａ１，  ａ２，…ａｎであり、ｎ≧１である。つまり、ｎ個の元の特徴パラメータが存在し、ｎ個の元の特徴パラメータおよびローカルサンプルは、ディープラーニングアルゴリズムの入力層で入力され得る。隠れ層は、入力層で入力されたｎ個の元の特徴パラメータをローカルサンプルに従って補正するために用いられる。補正は具体的には、入力データへの対応する演算を実行することにより実装される。図３において、隠れ層におけるｋ番目の列の各ノードは、入力データに対するｋ番目の演算が実行された後に取得された結果を示すために用いられている。任意の列の各ノードは、任意の列の前の列の全てのノードの線形結合に従って決定され、例えば、隠れ層における第１列の各ノードは、入力データに対する初回の演算が実行された後に取得された、対応する結果を示す。隠れ層における第１列のｊ番目のノードがｙ２ｊと示され得、ｙ２ｊの演算式が
【数１】
2019528502.tif 000009
であり得ると仮定する。ｘ１ｉは入力データのｉ番目の部分を示し、ωおよびｂは経験値に従って設定され得、ｆは自律的に選択され得る。出力層は、演算後に取得された入力データを出力するために用いられ、出力層は、「○」という１つの列を含み得、各ノードは、演算後に取得された１個の入力データを出力するように、例えば、１個の新しい特徴パラメータを出力するように構成される。出力された全ての新しい特徴パラメータがｂ１，  ｂ２，…ｂｍであり得ると仮定する。ｍ≧ｎ、つまり、新しい特徴パラメータの数は、元の特徴パラメータの数よりも大きいか、または等しい。一例において、出力層で出力された新しい特徴パラメータは、第２行列に記録され得る。
【００３５】
元の特徴パラメータを補正するために端末デバイスにより用いられるトレーニングアルゴリズムは、ユニバーサルモデルを取得するためにサーバにより用いられるトレーニングアルゴリズムと一致するが、端末デバイスにより収集されるローカルサンプルの数が数千個のみであるのに対し、少なくとも１つの端末デバイスによりアップロードされ、サーバにより受信されるサンプルの数は数億個または数十億個なので、サーバの演算量は、端末デバイスの演算量よりもはるかに大きいことが理解され得る。
【００３６】
加えて、図３において、入力層で入力されたサンプルは、ローカルサンプルである。例えば、音声認識アルゴリズムにおける元の特徴パラメータが補正される場合、入力層で入力されたローカルサンプルは、端末デバイスに対応する特定のユーザの音声ファイルであり、別のユーザの音声ファイルは入力されない。従って、出力層で出力された新しい特徴パラメータは、パーソナライズされた特徴を有する、つまり、特定のユーザの音声情報は、新しい特徴パラメータに従ってユニバーサルモデルが最適化された後、より良好に認識され得、別のユーザの音声情報は、認識され得ないか、または十分に認識され得ない。別の例では、画像認識モデルにおける元の特徴パラメータが補正される場合、入力層で入力されたローカルサンプルは、特定のユーザの顔画像であり得、別のユーザの顔画像は入力されない。従って、出力層で出力された新しい特徴パラメータは、パーソナライズされた特徴を有する、つまり、特定のユーザの画像情報は、ユニバーサルモデルが新しい特徴パラメータに従って最適化された後、より良好に認識され得る。
【００３７】
加えて、端末デバイスは、ＨＭＭトレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、ＥＭアルゴリズム、ＤＮＮ学習アルゴリズム、ＣＮＮ学習アルゴリズムまたはＲＮＮ学習アルゴリズムに従って、ユニバーサルモデルにおける元の特徴パラメータをさらに補正し得る。
【００３８】
本発明における相対的に高い精度のパーソナライズされたモデルを取得するために、つまり、特定のユーザの情報を認識する確度を改善するために、ユニバーサルモデルは、新しい特徴パラメータに従って最適化され得る。
【００３９】
段階２４０：第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する。
【００４０】
相対的に高い精度のパーソナライズされたモデルを取得するために、サーバから受信されたユニバーサルモデルは、最適化され得る。本明細書における第２のトレーニングアルゴリズムは、ベイズ統計モデリングアルゴリズムおよびベクトルマシンモデリングアルゴリズムを含み得るが、それらに限定されない。
【００４１】
上述のように、ユニバーサルモデルにおける元の特徴パラメータは、第１行列に記憶され得、取得された新しい特徴パラメータは、第２行列に記憶され得る。一例において、第１行列は、３０００次元（つまり、ｎ＝３０００）の行列であり得、第２行列は、９０００次元（つまり、ｍ＝９０００）の行列であり得る。第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化する処理は具体的には、以下のことを含み得る。第１行列および第２行列は、ターゲット行列を取得するために加算または乗算される。ターゲット行列は、最適化されたユニバーサルモデルにおける特徴パラメータを含む。ユニバーサルモデルにおける元の特徴パラメータは、次に、最適化されたユニバーサルモデルにおける特徴パラメータで置換される。従って、最適化されたユニバーサルモデルが取得され得る。第１行列および第２行列が加算または乗算される前は、第１行列および第２行列が異なる数の次元を有するので、２つの行列の次元の数は、「０」を追加することにより均一化され得ることが理解され得る。前述の例において、第１行列は、「０」を追加することにより９０００次元の行列へ展開され得、次に、第１行列および第２行列は、加算または乗算される。
【００４２】
当然ながら、実際の応用中、２つの行列の次元の数は、代替的に、別の方式で均一化され得る。これは、本願において限定されない。例えば、ＭＡＴＬＡＢでは、「非数値」を加算する方式が用いられ得る。「非数値」は、実際の意味を有しない値を示すために用いられる。具体的には、ＭＡＴＬＡＢにおいて「非数値」が処理される場合、「非数値」はスキップされ、処理は実行されない。
【００４３】
当然ながら、例は、前述の記載において、ユニバーサルモデルを最適化する方式を説明するためにのみ用いられており、本発明に限定を課さない。ユニバーサルモデルを最適化する方式は、用いられる第２のトレーニングアルゴリズムに従って決定され得、本発明において列挙されない。
【００４４】
段階２１０から段階２３０は、ユニバーサルモデルを一度に最適化する処理に過ぎず、当業者であれば、段階２１０から段階２３０を継続的に繰り返し実行し得る、つまり、特定のユーザの情報を認識する確度は、特定のユーザのパーソナライズされた情報をユニバーサルモデルと継続的に組み合わせることにより改善され得ることに留意すべきである。
【００４５】
結論として、本発明における端末デバイスは、まず、サーバにより供給されたユニバーサルモデルを受信し、次に、ユニバーサルモデルを最適化して、相対的にパーソナライズされたモデルを取得する。本明細書において、ユニバーサルモデルは、サーバにより、少なくとも１つの端末デバイスによりアップロードされた数億個のサンプルまたは数十億個のサンプルに従って取得されるので、ユニバーサルモデルを用いることにより情報を認識する確度は、相対的に高い。従って、端末デバイスの演算量が低減され得るのみならず、特定のユーザの情報を認識する確度も改善され得る。
【００４６】
パターン認識に適用可能なモデルを最適化するための方法に対応して、本願の実施形態は、パターン認識に適用可能なモデルを最適化するための装置をさらに提供する。図４に示されるように、装置は、受信ユニット４０１と、処理ユニット４０２と、取得ユニット４０３と、最適化ユニット４０４とを含む。
【００４７】
受信ユニット４０１は、サーバにより供給されたユニバーサルモデルを受信するように構成される。ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得され、ユニバーサルモデルは、元の特徴パラメータを含む。
【００４８】
処理ユニット４０２は、受信ユニット４０１により受信されたユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集するように構成される。
【００４９】
取得ユニット４０３は、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、第１のトレーニングアルゴリズムとに従って新しい特徴パラメータを取得するように構成される。第１のトレーニングアルゴリズムは、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである。
【００５０】
モデル最適化条件は、ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していることのうちの１または複数を含む。
【００５１】
加えて、第１のトレーニングアルゴリズムは、隠れマルコフモデル（ＨＭＭ）、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化（ＥＭ）アルゴリズム、ディープニューラルネットワーク（ＤＮＮ）アルゴリズム、畳み込みニューラルネットワーク（ＣＮＮ）アルゴリズムまたは再帰型ニューラルネットワーク（ＲＮＮ）アルゴリズムのうちの１または複数を含む。
【００５２】
最適化ユニット４０４は、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される。
【００５３】
本発明の本実施形態において提供される、パターン認識に適用可能なモデルを最適化するための装置によれば、受信ユニット４０１は、サーバにより供給されたユニバーサルモデルを受信し、処理ユニット４０２は、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集し、取得ユニット４０３は、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、第１のトレーニングアルゴリズムとに従って新しい特徴パラメータを取得し、最適化ユニット４０４は、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得する。従って、ユーザエクスペリエンスが改善されるのみならず、サーバがユニバーサルモデルを最適化する場合に存在する、サーバの大演算量という課題も解決される。
【００５４】
パターン認識に適用可能なモデルを最適化するための方法に対応して、本願の実施形態は、端末デバイスをさらに提供する。図５に示されるように、端末デバイスは、送受信機５１０と処理回路５２０とを含み、任意でメモリ５３０をさらに含み得る。処理回路５２０は、プロセッサ５２１と、無線周波数回路５２２と、ベースバンド５２３とを含み得る。
【００５５】
プロセッサ５２１は、ＮＰＵ、専用ＤＳＰ、ＮＰＵおよびハードウェアチップの組み合わせ、または専用ＤＳＰおよびハードウェアチップの組み合わせを含み得る。ＮＰＵまたは専用ＤＳＰは、演算能力を提供し、例えば、行列の乗算処理または加算処理を実装し得る。加えて、ハードウェアチップは、特定用途向け集積回路（英語：ａｐｐｌｉｃａｔｉｏｎ−ｓｐｅｃｉｆｉｃ  ｉｎｔｅｇｒａｔｅｄ  ｃｉｒｃｕｉｔ、ＡＳＩＣ）、プログラマブル論理デバイス（英語：ｐｒｏｇｒａｍｍａｂｌｅ  ｌｏｇｉｃ  ｄｅｖｉｃｅ、ＰＬＤ）またはそれらの組み合わせであり得る。ＰＬＤは、複雑プログラマブル論理デバイス（英語：ｃｏｍｐｌｅｘ  ｐｒｏｇｒａｍｍａｂｌｅ  ｌｏｇｉｃ  ｄｅｖｉｃｅ、ＣＰＬＤ）、フィールドプログラマブルゲートアレイ（英語：ｆｉｅｌｄ−ｐｒｏｇｒａｍｍａｂｌｅ  ｇａｔｅ  ａｒｒａｙ、ＦＰＧＡ）、ジェネリックアレイロジック（英語：ｇｅｎｅｒｉｃ  ａｒｒａｙ  ｌｏｇｉｃ、ＧＡＬ）またはそれらの任意の組み合わせであり得る。加えて、プロセッサ５２１は、グラフィック処理ユニット（Ｇｒａｐｈｉｃｓ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ、ＧＰＵ）をさらに含み得る。
【００５６】
メモリ５３０は、揮発性メモリ（英語：ｖｏｌａｔｉｌｅ  ｍｅｍｏｒｙ）、例えば、ランダムアクセスメモリ（英語：ｒａｎｄｏｍ−ａｃｃｅｓｓ  ｍｅｍｏｒｙ、ＲＡＭ）を含み得る。メモリ５３０は、不揮発性メモリ（英語：ｎｏｎ−ｖｏｌａｔｉｌｅ  ｍｅｍｏｒｙ）、例えば、リードオンリメモリ（英語：ｒｅａｄ−ｏｎｌｙ  ｍｅｍｏｒｙ、ＲＯＭ）、フラッシュメモリ（英語：ｆｌａｓｈ  ｍｅｍｏｒｙ）、ハードディスクドライブ（英語：ｈａｒｄ  ｄｉｓｋ  ｄｒｉｖｅ、ＨＤＤ）またはソリッドステートドライブ（英語：ｓｏｌｉｄ−ｓｔａｔｅ  ｄｒｉｖｅ、ＳＳＤ）をさらに含み得る。」メモリ５３０は、前述のメモリの組み合わせをさらに含み得る。
【００５７】
送受信機５１０は、サーバにより供給されたユニバーサルモデルを受信するように構成される。ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされたサンプルに従って、サーバにより取得され、ユニバーサルモデルは、元の特徴パラメータを含む。
【００５８】
処理回路５２０は、ユニバーサルモデルを用いることによりターゲット情報を認識し、複数のローカルサンプルを収集するように構成される。
【００５９】
処理回路５２０はさらに、モデル最適化条件が満たされた場合、複数のローカルサンプルと、元の特徴パラメータと、第１のトレーニングアルゴリズムとに従って新しい特徴パラメータを取得するように構成される。第１のトレーニングアルゴリズムは、ローカルサンプルに従って元の特徴パラメータを補正して新しい特徴パラメータを取得するために用いられる機械学習アルゴリズムである。
【００６０】
モデル最適化条件は、ローカルサンプルの数が予め設定された数に達していること、現在時刻が予め設定された時刻に達していること、端末デバイスが予め設定された状態であること、または端末デバイスの属性値が予め設定された閾値に達していることのうちの１または複数を含む。
【００６１】
加えて、第１のトレーニングアルゴリズムは、隠れマルコフモデル（ＨＭＭ）、トレーニングアルゴリズム、前向きアルゴリズム、ビタビアルゴリズム、前向き後ろ向きアルゴリズム、期待値最大化（ＥＭ）アルゴリズム、ディープニューラルネットワーク（ＤＮＮ）アルゴリズム、畳み込みニューラルネットワーク（ＣＮＮ）アルゴリズムまたは再帰型ニューラルネットワーク（ＲＮＮ）アルゴリズムのうちの１または複数を含む。
【００６２】
処理回路５２０はさらに、第２のトレーニングアルゴリズムおよび新しい特徴パラメータに従ってユニバーサルモデルを最適化して、最適化されたユニバーサルモデルを取得するように構成される。
【００６３】
本発明の本実施形態において提供されるモデルのための端末デバイスは、まず、サーバにより供給されたユニバーサルモデルを受信し、次に、ユニバーサルモデルを最適化して、相対的にパーソナライズされたモデルを取得する。本明細書において、ユニバーサルモデルは、少なくとも１つの端末デバイスによりアップロードされた数億個のサンプルまたは数十億個のサンプルに従って、サーバにより取得されるので、ユニバーサルモデルを用いることにより情報を認識する確度は、相対的に高い。従って、端末デバイスの演算量が低減され得るのみならず、特定のユーザの認識情報の確度も改善され得る。
【００６４】
当業者であれば、本明細書において開示される実施形態において説明される例と組み合わせて、ユニットおよびアルゴリズムの段階は、電子ハードウェア、コンピュータソフトウェアまたはそれらの組み合わせにより実装され得ることをさらに認識し得る。ハードウェアとソフトウェアとの間の互換性を明確に説明するために、前述の記載では概して、各例の構成および段階を機能に従って説明している。機能がハードウェアにより実行されるか、またはソフトウェアにより実行されるかは、技術的解決手段の特定の用途および設計上の制約条件に依存する。当業者であれば、異なる方法を用いて、特定の用途毎に、説明された機能を実装し得るが、実装形態が本発明の範囲を越えるものとみなされるべきではない。
【００６５】
本明細書において開示される実施形態において説明される方法またはアルゴリズムの段階は、ハードウェア、プロセッサにより実行されるソフトウェアモジュールまたはそれらの組み合わせにより実装され得る。ソフトウェアモジュールは、ランダムアクセスメモリ（ＲＡＭ）、メモリ、リードオンリメモリ（ＲＯＭ）、電気的プログラマブルＲＯＭ、電気的消去可能プログラマブルＲＯＭ、レジスタ、ハードディスク、リムーバブルディスク、ＣＤ−ＲＯＭまたは当技術分野において知られている任意の他の形式の記憶媒体に存在し得る。
【００６６】
前述の具体的な実装形態において、本発明の目的、技術的解決手段および利益がさらに詳細に説明されている。前述の説明は、本発明の具体的な実装形態に過ぎず、本発明の保護範囲を制限することは意図されていないことを理解されたい。本発明の趣旨および原理から逸脱することなく、あらゆる修正、同等の置換、または改良が、本発明の保護範囲に含まれるはずである。
【国際調査報告】
2019528502.tif 000010
2019528502.tif 000011
2019528502.tif 000012
2019528502.tif 000013