(57)【要約】【課題】  予測精度の低下を最小限としつつも学習済モデルのデータ量の圧縮を行うこと。【解決手段】  階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮方法であって、前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、前記データ量圧縮方法は、前記各ノードに対応付けられた前記誤差量を読み出す読出ステップと、前記読出ステップにて読み出された前記誤差量に基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除ステップと、を備えたデータ量圧縮方法が提供される。【選択図】図１０
2019026702.tif 000002
【特許請求の範囲】
【請求項１】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮方法であって、
前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、
前記データ量圧縮方法は、
前記各ノードに対応付けられた前記誤差量を読み出す読出ステップと、
前記読出ステップにて読み出された前記誤差量に基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除ステップと、
を備えたデータ量圧縮方法。
【請求項２】
前記ノード削除ステップは、さらに、第１のデータ量圧縮ステップを含み、
前記第１のデータ量圧縮ステップは、
各前記ノードのうちの１つのノードを着目ノードとし、前記着目ノードの誤差量が、前記着目ノードより１段上位のノードの誤差量より所定値以上大きく、かつ、前記着目ノードより下位のノードに前記着目削除候補ノードの誤差量より小さい誤差量を有するノードが存在しない場合に、前記着目ノードを削除する着目ノード削除ステップと、
着目ノードを順に変更しつつ前記着目ノード削除ステップを繰り返す繰り返し処理ステップと、を含む、請求項１に記載のデータ量圧縮方法。
【請求項３】
前記ノード削除ステップは、さらに、第２のデータ量圧縮ステップを含み、
前記第２のデータ量圧縮ステップは、
前記学習済モデルの前記木構造の末端ノードに対応付けられた誤差量と、各前記末端ノードの１段上位のノードの誤差量との差分を算出してノード間誤差量を算出する、ノード間誤差量算出ステップと、
前記ノード間誤差量算出ステップにて算出されたノード間誤差量に基づいて、誤差量が最大の前記ノードを削除する誤差量最大ノード削除ステップと、
前記学習済モデルに対応するデータ量を取得し、前記学習済モデルに対応するデータ量と目標データ量とを大小比較する比較ステップと、を含み
前記学習済モデルに対応するデータ量が前記目標データ量以下となるまで前記誤差量最大ノード削除ステップ及び前記比較ステップを繰り返し、前記学習済モデルに対応するデータ量が前記目標データ量以下となった場合に前記繰り返し処理は終了する、請求項１に記載のデータ量圧縮方法。
【請求項４】
前記第２のデータ量圧縮ステップは、さらに、
前記ノード間誤差量を誤差量が大きい順に削除し、かつ、前記ノード間誤差量が同一又は略同一の場合には、前記木構造において末端側に近いノードを優先して削除する、請求項３に記載のデータ量圧縮方法。
【請求項５】
前記データ量圧縮方法は、
ユーザにより指定された目標データ量を取得する目標データ量取得ステップを含む、請求項３に記載のデータ量圧縮方法。
【請求項６】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮装置であって、
前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、
前記データ量圧縮装置は、
前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出部と、
前記読出ステップにて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除部と、
を備えたデータ量圧縮装置。
【請求項７】
コンピュータを、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮装置として機能させるプログラムであって、
前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、
前記データ量圧縮プログラムは、
前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出ステップと、
前記読出ステップにて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除ステップと、
を備えたデータ量圧縮プログラム。
【請求項８】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するＩＣチップであって、
前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、
前記ＩＣチップは、
前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出部と、
前記読出ステップにて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除部と、
を備えたＩＣチップ。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、所定の学習処理により生成された学習済モデルのデータ量を圧縮乃至削減することが可能なデータ量圧縮方法、データ量圧縮装置、データ量圧縮プログラム、及びデータ量圧縮機能を有するＩＣチップに関し、特に、木構造を有する学習済モデルに対応するデータ量を圧縮乃至削減するデータ量圧縮方法、データ量圧縮装置、データ量圧縮プログラム、及びデータ量圧縮機能を有するＩＣチップに関する。
【背景技術】
【０００２】
近年、計算機の演算機能の飛躍的な向上等により機械学習の分野が高い注目を集めている。このような背景の中、本願の発明者らは、木構造を有する新たな機械学習の枠組みを提唱しており（特許文献１）、当該枠組みは、その追加学習の容易性、高い計算速度、及び使用メモリ容量の削減効果等から高い注目を集めている。【０００３】
図１６は、上記新たな機械学習の枠組みについて示す説明図である。図１６（ａ）には、当該学習手法における学習木の構造が示されており、図１６（ｂ）には、当該構造に対応する状態空間のイメージが示されている。同図から明らかな通り、学習木構造は、階層的に分割された各状態空間に対応する各ノードを、最上位ノード（始端ノード又は根ノード）から最下端ノード（末端ノード又は葉ノード）まで、樹形状乃至格子状に配置することにより構成されている。なお、同図は、Ｎ階層ｄ次元ｎ分割の学習木においてＮが２、ｄが２、ｎが２の場合の例を示しており、図１６（ａ）に記載の学習木の１階層目の４つの末端ノードに付された１〜４の番号は、それぞれ、図１６（ｂ）に記載の４つの状態空間に対応している。【０００４】
上記学習木を用いて学習処理を行う際には、入力されるデータが、逐次、分割された各状態空間に対応付けられ、それらが各状態空間に蓄積されていくこととなる。このとき、それまでデータが存在しなかった状態空間に新たにデータが入力された場合には、新たなノードが順次生成されていくこととなる。予測出力は、学習後に各状態空間に内包される各データの値又はベクトルの相加平均を取ることで算出されることとなる。すなわち、上記学習木を用いた学習においては、通常の場合、学習が進行するにつれて学習木を構成するノード数が増加していくこととなる。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１６−１７３６８６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
ところで、上述のような学習の枠組みによれば、学習の進行、又は予測精度の向上と共に学習木を構成するノードの数が増加することとなるため、多量のデータを学習させた場合には、記憶すべきデータ量が膨大となる場合があった。その場合、例えば、記憶容量に一定の制限が存在するＩＣチップ等に学習済アルゴリズムを搭載することが困難となる場合があった。【０００７】
データ量を抑制するため学習済モデルの一部を削除することも考え得る。しかしながら、このような木構造を有する学習済モデルのデータ量を不用意に削減すれば、予測精度を低下させてしまう虞もあった。【０００８】
本発明は、上述の技術的背景の下になされたものであり、その目的とすることころは、予測精度の低下を最小限としつつも学習済モデルのデータ量の圧縮を行うことにある。【０００９】
本発明のさらに他の目的並びに作用効果については、明細書の以下の記述を参照することにより、当業者であれば容易に理解されるであろう。
【課題を解決するための手段】
【００１０】
上述の技術的課題は、以下の構成を有するデータ量圧縮方法、装置、プログラム、及びＩＣチップにより解決することができる。【００１１】
すなわち、本開示に係るデータ量圧縮方法は、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮方法であって、前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、前記データ量圧縮方法は、前記各ノードに対応付けられた前記誤差量を読み出す読出ステップと、前記読出ステップにて読み出された前記誤差量に基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除ステップと、を備えている。【００１２】
このような構成によれば、学習済モデルのノードを予測精度に相当する誤差量を基準として削除するので、予測精度の低下を最小限としつつも学習済モデルのデータ量の圧縮を行うことができる。【００１３】
前記ノード削除ステップは、さらに、第１のデータ量圧縮ステップを含み、前記第１のデータ量圧縮ステップは、各前記ノードのうちの１つのノードを着目ノードとし、前記着目ノードの誤差量が、前記着目ノードより１段上位のノードの誤差量より所定値以上大きく、かつ、前記着目ノードより下位のノードに前記着目削除候補ノードの誤差量より小さい誤差量を有するノードが存在しない場合に、前記着目ノードを削除する着目ノード削除ステップと、着目ノードを順に変更しつつ前記着目ノード削除ステップを繰り返す繰り返し処理ステップと、を含むものであってもよい。【００１４】
このような構成によれば、学習済モデルにおいて、上位ノードより誤差量が大きいノードを削除するので、予測精度に影響を与えることなくデータ量を圧縮することができる。さらに、上記構成によれば、仮に上位ノードより誤差量が大きかったとしても、それより下位のノードに予測精度が良いノードが存在する場合には削除を行わないので、予測精度の良いノードについて削除してしまうことを防止することができ、圧縮による予測精度の低下を防止することもできる。【００１５】
前記ノード削除ステップは、さらに、第２のデータ量圧縮ステップを含み、前記第２のデータ量圧縮ステップは、前記学習済モデルの前記木構造の末端ノードに対応付けられた誤差量と、各前記末端ノードの１段上位のノードの誤差量との差分を算出してノード間誤差量を算出する、ノード間誤差量算出ステップと、前記ノード間誤差量算出ステップにて算出されたノード間誤差量に基づいて、誤差量が最大の前記ノードを削除する誤差量最大ノード削除ステップと、前記学習済モデルに対応するデータ量を取得し、前記学習済モデルに対応するデータ量と目標データ量とを大小比較する比較ステップと、を含み、前記学習済モデルに対応するデータ量が前記目標データ量以下となるまで前記誤差量最大ノード削除ステップ及び前記比較ステップを繰り返し、前記学習済モデルに対応するデータ量が前記目標データ量以下となった場合に前記繰り返し処理は終了する、ものであってもよい。【００１６】
このような構成によれば、目標データ量以下となるまでノード間誤差量の大きい順にノードを削除して行くので、予測精度の低下を最小限としつつもデータ量を圧縮することができる。【００１７】
前記第２のデータ量圧縮ステップは、さらに、前記ノード間誤差量を誤差量が大きい順に削除し、かつ、前記ノード間誤差量が同一又は略同一の場合には、前記木構造において末端側に近いノードを優先して削除する、ものであってもよい。【００１８】
このような構成によれば、原則として末端側の誤差量の大きい順に削除を行いつつ、誤差量が同一の場合には木構造全体に対してバランスよくノードを削除するよう末端側に近いノードを削除するので、予測精度の低下を最小限としつつデータ量を圧縮することができる。【００１９】
前記データ量圧縮方法は、ユーザにより指定された目標データ量を取得する目標データ量取得ステップを含む、ものであってもよい。【００２０】
このような構成によれば、目標データ量はユーザにより与えられるので、ユーザの指定する任意のデータ量まで圧縮することができる。これにより、学習済モデルを、例えば、ＩＣチップ等に搭載することができる。【００２１】
また、本開示は、データ量圧縮装置も含む。すなわち、本開示に係るデータ量圧縮装置は、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮装置であって、前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、前記データ量圧縮装置は、前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出部と、前記読出ステップにて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除部と、を備えている。なお、このデータ量圧縮装置には、例えばサーバ装置等も含まれる。【００２２】
さらに、本開示は、データ量圧縮装置として機能させるコンピュータプログラムも含む。すなわち、本開示に係るプログラムは、コンピュータを、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮装置として機能させるプログラムであって、前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、前記データ量圧縮プログラムは、前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出ステップと、前記読出ステップにて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除ステップと、を備えている。【００２３】
加えて、本開示は、データ量圧縮機能を有するＩＣチップも含む。すなわち、ＩＣチップは、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するＩＣチップであって、前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、前記ＩＣチップは、前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出部と、前記読出ステップにて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除部と、を備えている。
【発明の効果】
【００２４】
本発明に係るデータ量圧縮方法、装置、プログラム、及びＩＣチップによれば、予測精度の低下を最小限としつつも学習済モデルのデータ量の圧縮を行うことができる。
【図面の簡単な説明】
【００２５】
【図１】図１は、データ量圧縮装置のハードウェア構成について示す説明図である。
【図２】図２は、学習処理に関するゼネラルフローチャートである。
【図３】図３は、誤差の演算処理に関するフローチャートである。
【図４】図４は、予測処理に関するフローチャートである。
【図５】図５は、誤差量指定による圧縮処理に関するゼネラルフローチャートである。
【図６】図６は、削除対象ノードの判定処理に関するフローチャートである。
【図７】図７は、削除対象に関するフローチャートである。
【図８】図８は、ノード削除処理に関する概念図である。
【図９】図９は、誤差量指定による圧縮処理の実験結果である。
【図１０】図１０は、データ量指定による圧縮処理に関するゼネラルフローチャートである。
【図１１】図１１は、第２のノード削除処理に関するフローチャートである。
【図１２】図１２は、ソート処理に関する概念図である。
【図１３】図１３は、データ量指定による圧縮処理の概念図である。
【図１４】図１４は、データ量指定による圧縮処理の実験結果である。
【図１５】図１５は、情報処理システムの概略構成図である。
【図１６】図１６は、学習木の構成について示す説明図である。
【発明を実施するための形態】
【００２６】
以下、本発明に係るデータ量圧縮方法、装置、プログラム、及びＩＣチップの実施の一形態を、添付の図面を参照しつつ、詳細に説明する。
【００２７】
＜１．第１の実施形態（誤差量指定に基づく圧縮処理）＞
図１〜図９を参照しつつ、本実施形態に係るデータ量圧縮装置について説明する。
【００２８】
＜１．１  装置構成＞
図１は、本実施形態に係るデータ量圧縮装置１０のハードウェア構成について示す説明図である。同図から明らかな通り、データ量圧縮装置１０は、制御部１、外部装置との間の入出力を制御するＩ／Ｏ部２、無線又は有線の通信を制御する通信部３、及び記憶部４とを含み、それらはシステムバスを介して接続されている。制御部１は、ＣＰＵから成り、後述の木構造を有する学習済モデルのデータ量を圧縮するプログラムを含む各種プログラムを実行する。なお、このＣＰＵ等の代わりにマイクロプロセッサやマイクロコントローラ、ＧＰＵ（Ｇｒａｐｈｉｃｓ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）等を用いてもよい。また、記憶部４は、例えば、ＲＯＭ、ＲＡＭ、フラッシュメモリ、ハードディスク等を含む各種の記憶装置であって、例えば、木構造を有する学習済モデルに関する各種のデータ、教師データに相当するデータ、学習済モデルのデータ量を圧縮する機能を有するプログラム等を一時的又は非一時的に記憶している。
【００２９】
なお、情報処理装置１０の構成は、同図の構成に限定されず、出願時の技術常識の範囲で自在に変更可能である。従って、例えば、記憶部４を外部ストレージ等として別途配置してもよい。また、制御部１についても、他の情報処理装置の制御部等と協働して分散処理等を行ってもよい。さらに仮想化技術を用いた処理等が行われてもよい。
【００３０】
＜１．２  装置の動作＞
＜１．２．１  学習処理＞
図２〜図３を参照しつつ、データ量圧縮装置１０によりデータ量圧縮の対象となる学習済モデルを生成するための学習処理の一例について説明する。
【００３１】
図２は、学習処理に関するゼネラルフローチャートである。処理が開始すると、まず、学習対象となるデータが木構造を有する学習モデルへと入力される（Ｓ１０１）。次に、入力されたデータについて、当該データが属すべき状態空間とその状態空間に対応するノードが特定され、これにより、複数のノード、すなわち、根ノードから末端ノードへと至る一の経路が特定される（Ｓ１０２）。このとき、過去にアクティブとなったことのないノードが当該経路上に存在する場合には、当該位置に新たなノードが生成される。その後、当該経路上の各ノードについて、各ノードの予測誤差に相当する誤差の演算処理が行われる（Ｓ１０３）。
【００３２】
図３は、誤差の演算処理（Ｓ１０３）の詳細について示したフローチャートである。処理が開始すると、まず、根ノードが着目ノードとして設定される（Ｓ１０３１）。次に、着目ノードについて、次式より誤差の更新処理が行われる（Ｓ１０３２）。
【００３３】
【数１】
2019026702.tif 000003
【００３４】
ここで、Ｅｔ＋１は更新後の誤差、Ｅｔは更新前の誤差、αは忘却係数（０＜α＜１）を表し、同式から明らかな通り、更新後の誤差Ｅｔ＋１は、更新前の誤差Ｅｔと、着目ノードに包含された各データの値又はベクトルに基づく予測出力Ｏ（例えば、着目ノードに包含された各データの値又はベクトルの相加平均値）と教師データに相当する値又はベクトルとの差分の絶対値とを、忘却係数αをかけて足し合わせることにより演算される。すなわち、着目ノードに包含された各データの値又はベクトルに基づく予測出力Ｏと、教師データに相当する値又はベクトルとの差分が小さい程、Ｅｔ＋１は小さくなるので、誤差Ｅｔ＋１が小さい程、予測精度が良いということとなる。更新された誤差Ｅｔ＋１は、当該着目ノードと対応付けられて誤差Ｅとして記憶部４へと保存される（Ｓ１０３３）。
【００３５】
その後、この着目ノードが最下層のノードであるか否かの判定処理が行われ（Ｓ１０３４）、最下層ノードでない場合には着目ノードを１つ下位のノードへと変更する処理が行われる（Ｓ１０３５）。この一連の処理、着目ノードの経路上の１つ下位のノードへの変更処理（Ｓ１０３５）、誤差の更新処理（Ｓ１０３２）、保存処理（Ｓ１０３３）は、最下層ノードへと至るまで（Ｓ１０３４ＮＯ）、繰り返し行われる。一方、着目ノードが最下層ノード（末端ノード）へと至った場合（Ｓ１０３４ＹＥＳ）、処理は終了する。すなわち、この一連の処理によれば、経路上のすべてのノードについてそれぞれ予測精度に相当する誤差Ｅが生成されることとなる。
【００３６】
なお、誤差Ｅの算出手法は上記に限定されない。従って、例えば、着目ノードより下位の経路上に存在するノードを参照する等して得られた誤差等を利用してもよい。
【００３７】
＜１．２．２  予測処理＞
次に、図４を参照しつつ、上述の学習処理が行われた学習済モデルを用いた予測処理の一例について説明する。図４は、予測処理に関するフローチャートである。同図から明らかな通り、処理が開始すると、まず、新たな入力データが記憶部４から読み出される（Ｓ２０１）。次に、当該入力データに基づいて、属すべき状態空間（ノード）が特定され、それにより、複数の一連のノードがから成る一の経路が特定される（Ｓ２０２）。一の経路が特定されると、当該経路上において誤差Ｅが最小となるノードが特定され（Ｓ２０３）、当該誤差Ｅ最小ノードに対応する各データの値又はベクトルの相加平均に基づいて、予測出力が生成される（Ｓ２０４）。すなわち、経路上の誤差最小ノードに基づいて予測出力が生成される。これにより、予測精度が比較的良いと見込まれるノードに基づいて予測出力を生成することができる。
【００３８】
なお、本実施形態においては、予測出力は、経路上の誤差最小ノードに対応するデータに基づいて生成したが、このような処理に限定されない。従って、常に末端ノードに対応するデータに基づいて予測出力を生成するよう構成してもよい。
【００３９】
＜１．２．３  データ量の圧縮処理＞
次に、図５〜図８を参照しつつ、誤差量を指定することにより、学習済モデルのデータ量を圧縮する処理について説明する。
【００４０】
図５は、誤差量指定による圧縮処理に関するゼネラルフローチャートである。同図から明らかな通り、処理が開始すると、まず、記憶部４から誤差Ｅを含む学習済モデルに関する各種のデータの読出処理が行われる（Ｓ３０１）。各種データが読み出されると、削除対象候補ノードの判定処理が行われる（Ｓ３０２）。
【００４１】
図６は、削除対象ノードの判定処理に関するフローチャートである。同図から明らかな通り、処理が開始すると、閾値となる判定誤差量ＥＴｈを記憶部から読み出す処理が行われる（Ｓ３０２１）。なお、本実施形態においては、この判定誤差量ＥＴｈは、ユーザにより予め指定されたものである。また、判定誤差量ＥＴｈは原則として０以上の値であるがマイナスの値としてもよい。次に、着目ノードの誤差Ｅと当該着目ノードの１つ上位のノードの誤差Ｅとの差分ＥＤｉｆｆが演算される（Ｓ３０２２）。この差分ＥＤｉｆｆが上記の判定誤差量ＥＴｈより大きい場合には（Ｓ３０２３ＹＥＳ）、当該着目ノードを削除候補ノードとして保存する（Ｓ３０２４）。一方、差分ＥＤｉｆｆが上記の判定誤差量ＥＴｈ以下の場合には（Ｓ３０２３ＮＯ）、当該着目ノードについて何らの処理も行わず（削除候補ノードとして設定せず）次の処理へと進む。その後、全てのノードについて処理を行ったか否かについて判定処理を行い（Ｓ３０２５）、全てのノードについて処理が行われていない場合には（Ｓ３０２５ＮＯ）、着目ノードを所定の次のノードへと変更する処理を行い（Ｓ３０２６）、再度、削除対象候補ノードか否かの判定処理（Ｓ３０２２〜Ｓ３０２４）を行う。一方、全てのノードについて処理が行われたと判定された場合には（Ｓ３０２５ＹＥＳ）、処理は終了する。
【００４２】
図５に戻り、削除対象候補ノードの判定処理（Ｓ３０２）が終了すると、削除対象候補ノードが存在するか否かが判定される（Ｓ３０３）。その結果、削除対象候補ノードが存在しない場合には（Ｓ３０３ＮＯ）、処理は終了する。一方、削除対象候補ノードが存在する場合には（Ｓ３０３ＹＥＳ）、所定のソート処理が行われた後（Ｓ３０４）、後述する当該削除対象候補ノードの削除処理が行われる（Ｓ３０５）。この削除処理の後、処理は終了する。
【００４３】
図７は、削除対象候補ノードの削除処理（Ｓ３０５）に関する詳細フローチャートである。同図から明らかな通り、処理が開始すると、削除対象候補ノードのうち最大の誤差を有するノードが着目ノードとして設定される（Ｓ３０５１）。着目ノードが設定された後、当該着目ノードより末端側のノードにおいて着目ノードの誤差Ｅより小さい誤差Ｅのノードが存在するか否かの判定処理が行われる（Ｓ３０５２）。判定処理の結果、当該着目ノードより末端側に着目ノード以上の誤差のノードが存在する場合には（Ｓ３０５２ＮＯ）、当該着目ノードを削除する処理が行われる（Ｓ３０５３）。一方、判定処理の結果、当該着目ノードより末端側に着目ノードより小さい誤差のノードが存在する場合には（Ｓ３０５ＹＥＳ）、何らの処理も行わず（着目ノードを削除する処理を行わず）、次の処理が行われる。その後、全ての削除対象候補ノードについて処理が行われたか否かの判定が行われ（Ｓ３０５４）、未だ全ての削除対象候補ノードについて処理が行われていない場合には（Ｓ３０５４ＮＯ）、着目ノードが所定の次の削除対象候補ノードへと変更され（Ｓ３０５５）、再度着目ノードの削除判定処理（Ｓ３０５２、Ｓ３０５３）が行われる。一方、全ての削除対象候補ノードについて処理が行われた場合には（Ｓ３０５４ＹＥＳ）、処理は終了する。
【００４４】
以上の構成によれば、学習済モデルにおいて、上位ノードより誤差が大きいノードを削除するので、予測精度に影響を与えることなくデータ量を圧縮することができる。さらに、上記構成によれば、仮に上位ノードより誤差が大きかったとしても、それより下位のノードに予測精度が良いノードが存在する場合には削除を行わないので、予測精度の良いノードについて削除してしまうことを防止することができ、圧縮による予測精度の低下を防止することもできる。
【００４５】
次に、図８を参照しつつ、本実施形態に係るノード削除の具体例について示す。図８は、上述のノード削除処理に関する概念図である。同図の破線枠内には、第１のノード２０ａ、第１のノードの１つ下位に存在する第２のノード２０ｂ、第２のノードの１つ下位に存在する一方のノードである第３のノード２０ｃ、第２のノードの１つ下位に存在する他方のノードである第４のノード２０ｄとが存在する。なお、この例にあっては、第１のノード２０ａの誤差Ｅが０．５、第２のノード２０ｂの誤差Ｅが１．０、第３のノード２０ｃの誤差Ｅが１．２、第４のノード２０ｄの誤差Ｅが０．３である。また、判定誤差量ＥＴｈは０．１である。
【００４６】
着目ノードが第２のノード２０ｂである場合を考える。このとき、着目ノードである第２のノード２０ｂの誤差Ｅである１．０と１つ上位の第１のノード２０ａの誤差Ｅである０．５との差分０．５は（Ｓ３０２２）、判定誤差量ＥＴｈである０．１より大きい（Ｓ３０２３ＹＥＳ）。そのため、第２のノードは削除対象候補ノードとなる（Ｓ３０２４）。次に、削除対象候補ノードが存在することから（Ｓ３０３ＹＥＳ）、１つ下位のノードに第２のノード２０ｂの誤差Ｅである０．５より小さい誤差を有するノードが存在するかを判定すると（Ｓ３０５２）、第４のノード２０ｄの誤差Ｅが０．３であるので、第２のノード２０ｂの誤差Ｅである０．５より小さい誤差となるノードが存在することとなる（Ｓ３０５２ＹＥＳ）。そのため、この場合、第２のノード２０ｂは削除されることなく残存することとなる。なお、同様の検討を行うと、同図の破線枠内において削除されるノードは、上位ノードより誤差が０．１以上大きく、かつ、下位ノードにより小さな誤差のノードが存在しないという条件を満たすノードは第３のノード２０ｃのみである。以上が本実施形態に係るノード削除処理の具体例である。
【００４７】
＜１．２．４  実験結果＞
次に、図９を参照しつつ、本実施形態に係るデータ量圧縮装置１０を用いて実際に木構造を有する学習済モデルのデータ量を圧縮した例について説明する。
【００４８】
図９は、誤差量指定による圧縮処理の実験結果をまとめた表である。同図には、ノイズを付与しない所定のデータ（本実施形態においては、サインカーブ）について学習させた学習済モデルを圧縮した場合、５％のノイズを付与した所定のデータを学習させた学習済モデルを圧縮した場合、及び、１０％のノイズを付与した所定のデータを学習させた学習済モデルを圧縮した場合の実験結果が示されており、すなわち、圧縮前のノード数とメモリ容量［ＭＢ］、及び、圧縮後のノード数とメモリ容量［ＭＢ］が示されている。
【００４９】
ノイズを付与しないデータについて学習させた学習済モデルを圧縮した場合、圧縮前に３６３９９個であったノード数は圧縮後に３６３８２個に削減され、メモリ容量が３．０９３８３［ＭＢ］から３．０９２８３［ＭＢ］となった。このような実験結果から、ノイズ付与を行わずに学習を行った学習済モデルの場合には末端ノードにおける予測誤差も小さく、その結果、あまりデータ量の削減効果は得られないことが分かる。
【００５０】
ノイズを５％付与したデータについて学習させた学習済モデルを圧縮した場合、圧縮前に３６３９９個であったノード数は圧縮後に１７５４２個に削減され、メモリ容量が３．０９３８３［ＭＢ］から１．４９０９９［ＭＢ］となった。このような実験結果から、ノイズが５％付与されたことにより末端側のノードにおける予測精度が低下し、これにより、ノイズを付与しないデータを学習させた学習済モデルを圧縮した場合よりも大きなデータ量の削減効果が見られた。
【００５１】
ノイズを１０％付与したデータについて学習させた学習済モデルを圧縮した場合、圧縮前に３６３９９個であったノード数は圧縮後に１７１３７個に削減され、メモリ容量が３．０９３８３［ＭＢ］から１．４５６５６［ＭＢ］となった。このような実験結果から、ノイズが１０％付与されたことにより末端側のノードにおける予測精度が低下し、これにより、ノイズを５％付与したデータを学習させた学習済モデルを圧縮した場合よりも大きなデータ量の削減効果が見られた。
【００５２】
これらの実験結果より、学習済モデル中に予測誤差の大きいノードが存在する程、より大きなデータ量の削減効果が見られることが確認される。
【００５３】
＜２．第２の実施形態（目標データ量指定に基づく圧縮処理）＞
第１の実施形態においては、上位ノードとの誤差の差分が所定量以上の場合には削除対象候補ノードとし、当該削除対象候補ノードについて所定条件下で削除処理を行った。そのため、データ量がどの程度削除されるかは事前に予測することは出来なかった。本実施形態においては、ユーザが目標データ量を指定し、当該目標データ量を達成するまでデータ量の圧縮処理を行うデータ量圧縮装置について説明する。
【００５４】
＜２．１  装置構成＞
本実施形態に係るデータ量圧縮装置は、第１の実施形態に係るデータ量圧縮装置１０のハードウェア構成と略同一であるので、ここでは説明を省略する。
【００５５】
＜２．２  データ量の圧縮処理＞
図１０は、目標データ量指定による圧縮処理に関するゼネラルフローチャートである。同図から明らかな通り、処理が開始すると、記憶部４から所定の木構造を有する学習済モデルを読み出す処理が行われる（Ｓ５０１）。その後、ユーザにより指定された目標とする記憶容量（データ量）（Ｘ）を取得する処理を行う（Ｓ５０２）。なお、この取得処理は予め記憶されていた記憶容量（Ｘ）を読み出すものであってもよいし、ＧＵＩ等を介してユーザへと入力を求めてもよい。
【００５６】
記憶容量（Ｘ）の取得処理（Ｓ５０２）の後、第１のノード削除処理が行われる（Ｓ５０３）。この第１のノード削除処理は、第１の実施形態に係るデータ量圧縮処理である。この第１のノード削除処理の後、データ量（記憶容量）が指定された記憶容量（Ｘ）以下か否かの判定が行われる（Ｓ５０４）。ここで、第１のノード削除処理後のデータ量が指定された記憶容量（Ｘ）以下である場合、処理は終了する。一方、第１のノード削除処理後のデータ量が指定された記憶容量（Ｘ）より大きい場合には（Ｓ５０４ＮＯ）、後述する第２のノード削除処理が行われた後（Ｓ５０５）、処理は終了する。
【００５７】
図１１は、第２のノード削除処理（Ｓ５０５）に関する詳細フローチャートである。処理が開始すると、全ての末端ノードを削除対象候補ノードとして設定する（Ｓ５０５１）。次に、全ての削除対象候補ノードについて、着目ノードの誤差Ｅと着目ノードより１つ上位のノードの誤差Ｅとの差分ＥＤｉｆｆを演算する（Ｓ５０５２）。その後、この各削除対象候補ノードに対応付けられた差分ＥＤｉｆｆと木構造における削除候補ノードの深さ（末端に近づくほど深い）に基づいてソート処理を行い、削除優先度付のリストを生成する（Ｓ５０５３）。
【００５８】
図１２は、ソート処理により生成された削除優先度リストの概念図である。同図において、左列には削除優先度、中央列にはノード深さ（数字が大きい程末端側に配置）、右列には誤差の差分ＥＤｉｆｆが配置されている。同図においては、上位となる程、誤差の差分ＥＤｉｆｆが大きくなり、また、差分量が同一の場合には、ノード深さが深い程上位となるようソートされている（同図のＮｏ．３及びＮｏ．４の行参照）。
【００５９】
図１１に戻り、上記ソート処理（Ｓ５０５３）の後、削除優先度に基づき、削除優先度上位のノードを特定し、当該ノードの親ノード（１つ上位のノード）に関するデータを記憶部４へと一時的に保存する（Ｓ５０５４）。その後、当該削除優先度上位のノードを削除すると共に（Ｓ５０５５）、一時保存していた親ノードを削除対象候補ノードへと追加して保存する（Ｓ５０５６）。
【００６０】
その後、学習済モデルに関するデータ量を読み出すと共に、データ量が指定された記憶容量（Ｘ）以下か否かを判定する（Ｓ５０５７）。その結果、学習済モデルに関するデータ量が未だ指定された記憶容量（Ｘ）より大きい場合には（Ｓ５０５７ＮＯ）、再度、一連の削除処理（Ｓ５０５２〜Ｓ５０５６）を行う。一方、学習済モデルに関するデータ量が指定された記憶容量（Ｘ）以下となった場合（Ｓ５０５７ＹＥＳ）、処理は終了する。
【００６１】
このような構成によれば、原則として末端側の誤差量が大きい順に削除を行いつつも、誤差量が同一の場合には木構造全体に対してバランスよくノードを削除するよう末端側に近いノードを削除するので、予測精度の低下を最小限としつつデータ量を圧縮することができる。
【００６２】
図１３は、データ量指定による圧縮処理の概念図である。図１３（ａ）は、第２のノード削除処理（Ｓ５０５）を行う前の状態について示しており、図１３（ｂ）は、第２のノード削除処理（Ｓ５０５）を行った後の状態について示している。両図から、末端の左端に位置するノード２１ａがその誤差の差分が上位であることにより削除されると、その親ノード２１ｂが次の削除対象候補ノードとなる。
【００６３】
このような構成によれば、目標データ量以下となるまでノード間誤差の大きい順にノードを削除して行くので、予測精度の低下を最小限としつつもデータ量を圧縮することができる。また、目標データ量はユーザにより与えられるので、ユーザの指定する任意のデータ量まで圧縮することができ、これにより、学習済モデルを、例えば、所望のＩＣチップ等に搭載することができる。
【００６４】
＜２．３  実験結果＞
図１４は、データ量指定による圧縮処理の実験結果をまとめた表である。同図には、ノイズを付与しない所定のデータ（本実施形態においては、サインカーブ）について学習させた学習済モデルを圧縮した場合、５％のノイズを付与した所定のデータを学習させた学習済モデルを圧縮した場合、及び、１０％のノイズを付与した所定のデータを学習させた学習済モデルを圧縮した場合の実験結果、すなわち、圧縮前のノード数とメモリ容量［ＭＢ］、第１のノード削除処理（Ｓ５０３）後のノード数とメモリ容量［ＭＢ］、及び、第２のノード削除処理（Ｓ５０５）後のノード数とメモリ容量［ＭＢ］が示されている。なお、同実験においては、１［ＭＢ］を目標データ量としている。
【００６５】
ノイズを付与しないデータについて学習させた学習済モデルを圧縮した場合、圧縮前に３６３９９個であったノード数は、第１のノード削除処理後には３６３８２個となり、第２のノード削除処理後には１１７６４個へと削減された。また、３．０９３８３［ＭＢ］であったメモリ容量は、第１のノード削除処理後には３．０９２８３［ＭＢ］、第２のノード削除処理後には０．９９９８５５［ＭＢ］となった。このような実験結果から、第１のノード削除処理の効果が小さいノイズ付与無しの場合であっても、第２のノード削除処理により、着実に目標データ量へとデータ量を削減させることができることが確認される。
【００６６】
また、ノイズを５％付与したデータについて学習させた学習済モデルを圧縮した場合、圧縮前に３６３９９個であったノード数は、第１のノード削除処理後には１７５４２個となり、第２のノード削除処理後には１１７６４個へと削減された。また、３．０９３８３［ＭＢ］であったメモリ容量は、第１のノード削除処理後には１．４９０９９［ＭＢ］、第２のノード削除処理後には０．９９９８５５［ＭＢ］となった。このような実験結果から、第１のノード削除処理により大きくデータ量を削減した後に、第２のノード削除処理により目標データ量へとデータ量が削減されていることが確認される。
【００６７】
さらに、ノイズを１０％付与したデータについて学習させた学習済モデルを圧縮した場合、圧縮前に３６３９９個であったノード数は、第１のノード削除処理後には１６７７７個となり、第２のノード削除処理後には１１７６４個へと削減された。また、３．０９３８３［ＭＢ］であったメモリ容量は、第１のノード削除処理後には１．４２５９６［ＭＢ］、第２のノード削除処理後には０．９９９８５５［ＭＢ］となった。このような実験結果から、第１のノード削除処理により大きくデータ量を削減した後に、第２のノード削除処理により目標データ量へとデータ量が削減されていることが確認される。
【００６８】
＜３．その他＞
本開示は、上述の実施形態に限定されることはなく、従って、種々の変形が可能である。
【００６９】
上述の実施形態では、学習モデルの学習処理及びデータ量圧縮処理もいずれもデータ量圧縮装置１０内にて行う構成とした。しかしながら、本開示はそのような構成に限定されない。従って、例えば、サーバ装置４０とクライアント装置３０とから構成される情報処理システム（サーバ・クライアント・システム又はＳａａＳシステム）として構成してもよい。
【００７０】
図１５は、上記情報処理システム１００の概略構成図である。クライアント装置３０は、クライアント装置３０の制御を行う制御部３１、入出力を行うためのＩ／Ｏ部３２、サーバ装置４０と通信を行う通信部３３、及び種々の情報を記憶する記憶部３４とから構成されている。また、サーバ装置４０は、サーバ装置４０の制御を行う制御部４１、入出力を行うためのＩ／Ｏ部４２、クライアント装置３０と通信を行う通信部４３、及び種々の情報を記憶する記憶部４４とから構成されている。
【００７１】
このような情報処理システム１００において、ユーザがクライアント装置３０から学習対象となるデータファイルをサーバ装置４０へと送信すると、サーバ装置４０は、当該データファイルに基づいて学習処理を実行する。当該学習処理の完了後、サーバ装置４０は、学習条件（入出力次元や種々のパラメータ等）を含むパラメータファイルと、学習済モデルに関するデータファイルとをバイナリファイルとしてユーザへと返送する。その後、ユーザが、返送されたパラメータファイルとバイナリファイルをサーバ装置４０へと送信すると共に、サーバ装置へと通信を介してデータ圧縮指令を行うことで、ユーザはサーバ上でデータの圧縮処理を行うことができる。このような構成によれば、クライアント装置３０が高い演算能力や記憶能力を持つ必要がないので、学習処理又はデータ圧縮処理が行いやすくなる。
【００７２】
また、上述の実施形態では、データ量の圧縮処理はバッチ的に行われている。しかしながら、本開示はこのような例に限定されない。従って、例えば、学習処理又は予測処理を行いつつ、平行して常に或いは定期的にデータ量の圧縮処理を実行し、データ量が所定の値を超えないように機能させることもできる。このような構成によれば、記憶容量に一定の制限が存在する環境下でも適切なデータ量（記憶容量）で動作させることができる。
【００７３】
さらに、上述の第２の実施形態では、目標データ量に下限等は設けてられていない。しかしながら本開示はこのような構成に限定されない。従って、予測精度の確保のため、例えば、目標データ量に一定の下限を設けても良い。また、予測精度の確保のため、所定の階層以下のノードしか削除を許容しないような構成としてもよい。
【産業上の利用可能性】
【００７４】
本開示は、少なくとも、所定の学習処理により生成された学習済モデルのデータ量を圧縮乃至削減することが可能なデータ量圧縮装置、データ量圧縮プログラム、及びデータ量圧縮機能を有するＩＣチップを製造等する産業にて利用可能である。
【符号の説明】
【００７５】
１    制御部
２    Ｉ／Ｏ部
３    通信部
４    記憶部
１０    データ量圧縮装置
３０    クライアント装置
３１    制御部
３２    Ｉ／Ｏ部
３３    通信部
３４    記憶部
４０    サーバ装置
４１    制御部
４２    Ｉ／Ｏ部
４３    通信部
４４    記憶部
１００    情報処理システム
【図１】
2019026702.tif 000004
【図２】
2019026702.tif 000005
【図３】
2019026702.tif 000006
【図４】
2019026702.tif 000007
【図５】
2019026702.tif 000008
【図６】
2019026702.tif 000009
【図７】
2019026702.tif 000010
【図８】
2019026702.tif 000011
【図９】
2019026702.tif 000012
【図１０】
2019026702.tif 000013
【図１１】
2019026702.tif 000014
【図１２】
2019026702.tif 000015
【図１３】
2019026702.tif 000016
【図１４】
2019026702.tif 000017
【図１５】
2019026702.tif 000018
【図１６】
2019026702.tif 000019
【手続補正書】
【提出日】令和2年3月10日(2020.3.10)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮方法であって、
前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、
前記データ量圧縮方法は、
前記各ノードに対応付けられた前記誤差量を読み出す読出ステップと、
前記読出ステップにて読み出された前記誤差量に基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除ステップと、
を備えたデータ量圧縮方法。
【請求項２】
前記ノード削除ステップは、さらに、第１のデータ量圧縮ステップを含み、
前記第１のデータ量圧縮ステップは、
各前記ノードのうちの１つのノードを着目ノードとし、前記着目ノードの誤差量が、前記着目ノードより１段上位のノードの誤差量より所定値以上大きく、かつ、前記着目ノードより下位のノードに前記着目ノードの誤差量より小さい誤差量を有するノードが存在しない場合に、前記着目ノードを削除する着目ノード削除ステップと、
着目ノードを順に変更しつつ前記着目ノード削除ステップを繰り返す繰り返し処理ステップと、を含む、請求項１に記載のデータ量圧縮方法。
【請求項３】
前記ノード削除ステップは、さらに、第２のデータ量圧縮ステップを含み、
前記第２のデータ量圧縮ステップは、
前記学習済モデルの前記木構造の末端ノードに対応付けられた誤差量と、各前記末端ノードの１段上位のノードの誤差量との差分を算出してノード間誤差量を算出する、ノード間誤差量算出ステップと、
前記ノード間誤差量算出ステップにて算出されたノード間誤差量に基づいて、誤差量が最大の前記ノードを削除する誤差量最大ノード削除ステップと、
前記学習済モデルに対応するデータ量を取得し、前記学習済モデルに対応するデータ量と目標データ量とを大小比較する比較ステップと、を含み
前記学習済モデルに対応するデータ量が前記目標データ量以下となるまで前記誤差量最大ノード削除ステップ及び前記比較ステップを繰り返し、前記学習済モデルに対応するデータ量が前記目標データ量以下となった場合に前記繰り返し処理は終了する、請求項１に記載のデータ量圧縮方法。
【請求項４】
前記第２のデータ量圧縮ステップは、さらに、
前記ノード間誤差量を誤差量が大きい順に削除し、かつ、前記ノード間誤差量が同一又は略同一の場合には、前記木構造において末端側に近いノードを優先して削除する、請求項３に記載のデータ量圧縮方法。
【請求項５】
前記データ量圧縮方法は、
ユーザにより指定された目標データ量を取得する目標データ量取得ステップを含む、請求項３に記載のデータ量圧縮方法。
【請求項６】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮装置であって、
前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、
前記データ量圧縮装置は、
前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出部と、
前記読出部にて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除部と、
を備えたデータ量圧縮装置。
【請求項７】
コンピュータを、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮装置として機能させるプログラムであって、
前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、
前記プログラムは、
前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出ステップと、
前記読出ステップにて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除ステップと、
を備えたプログラム。
【請求項８】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するＩＣチップであって、
前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、
前記ＩＣチップは、
前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出部と、
前記読出部にて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除部と、
を備えたＩＣチップ。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００１３
【補正方法】変更
【補正の内容】
【００１３】
前記ノード削除ステップは、さらに、第１のデータ量圧縮ステップを含み、前記第１のデータ量圧縮ステップは、各前記ノードのうちの１つのノードを着目ノードとし、前記着目ノードの誤差量が、前記着目ノードより１段上位のノードの誤差量より所定値以上大きく、かつ、前記着目ノードより下位のノードに前記着目ノードの誤差量より小さい誤差量を有するノードが存在しない場合に、前記着目ノードを削除する着目ノード削除ステップと、着目ノードを順に変更しつつ前記着目ノード削除ステップを繰り返す繰り返し処理ステップと、を含むものであってもよい。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００２１
【補正方法】変更
【補正の内容】
【００２１】
また、本開示は、データ量圧縮装置も含む。すなわち、本開示に係るデータ量圧縮装置は、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮装置であって、前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、前記データ量圧縮装置は、前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出部と、前記読出部にて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除部と、を備えている。なお、このデータ量圧縮装置には、例えばサーバ装置等も含まれる。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００２２
【補正方法】変更
【補正の内容】
【００２２】
さらに、本開示は、データ量圧縮装置として機能させるコンピュータプログラムも含む。すなわち、本開示に係るプログラムは、コンピュータを、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するデータ量圧縮装置として機能させるプログラムであって、前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、前記プログラムは、前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出ステップと、前記読出ステップにて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除ステップと、を備えている。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】００２３
【補正方法】変更
【補正の内容】
【００２３】
加えて、本開示は、データ量圧縮機能を有するＩＣチップも含む。すなわち、ＩＣチップは、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定のデータ群を学習させることにより得られた学習済モデルに対応するデータ量を圧縮するＩＣチップであって、前記学習済モデルにおける各前記ノードには、前記学習の過程において生成され、かつ、予測精度に相当する誤差量が対応付けられており、前記ＩＣチップは、前記学習済モデルの構造に関する構造情報と、前記各ノードに対応付けられた前記誤差量とを読み出す読出部と、前記読出部にて読み出された前記構造情報と前記誤差量とに基づいて、前記学習済モデルの一部のノードを削除し、それにより前記学習済モデルに対応する前記データ量を圧縮する、ノード削除部と、を備えている。
【国際調査報告】
2019026702.tif 000020
2019026702.tif 000021
2019026702.tif 000022
2019026702.tif 000023