(57)【要約】【課題】学習に要する演算時間や精度を調整しつつ効率的な学習を実行する。【解決手段】機械学習装置（１０）は、複数の学習データから複数のデータセットを生成する生成手段（１１０）と、複数のデータセット毎に機械学習を実行する学習手段（１２０）と、学習手段の学習結果を複数のデータセット間で比較する比較手段（１３０，１４０）と、比較手段の比較結果に基づいて、学習データの間引きを実行する間引き手段（１５０）とを備える。【選択図】図１
2019191731.tif 000002
【特許請求の範囲】
【請求項１】
複数の学習データから複数のデータセットを生成する生成手段と、
前記複数のデータセット毎に機械学習を実行する学習手段と、
前記学習手段の学習結果を複数のデータセット間で比較する比較手段と、
前記比較手段の比較結果に基づいて、前記学習データの間引きを実行する間引き手段と
を備えることを特徴とする機械学習装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数の学習データを用いて機械学習を実行する機械学習装置の技術分野に関する。
【背景技術】
【０００２】
この種の装置として、複数の学習データの中から実際に学習に使用するデータを選択して（言い換えれば、データを間引きして）、学習を実行するものが知られている。例えば特許文献１では、入力データをカテゴリ分けし、各カテゴリを代表するデータを用いて学習を行うことで、学習精度を下げることなく学習時間を低減するという技術が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平０９−３３０４０６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上述した特許文献１に記載された技術では、学習用の入力データ間で類似度を比較して代表データ（即ち、実際に学習に使用するデータ）を抽出している。しかしながら、このようなデータの間引きは、学習演算の出力値（即ち、学習結果）に対する相関性が低く、演算時間や精度のコントロールが難しいという技術的問題点を有している。
【０００５】
本発明は、例えば上記問題点に鑑みてなされたものであり、学習に要する演算時間や精度を調整しつつ効率的な学習を実行することが可能な機械学習装置を提供することを課題とする。
【課題を解決するための手段】
【０００６】
本発明に係る機械学習装置の一態様では、複数の学習データから複数のデータセットを生成する生成手段と、前記複数のデータセット毎に機械学習を実行する学習手段と、前記学習手段の学習結果を複数のデータセット間で比較する比較手段と、前記比較手段の比較結果に基づいて、前記学習データの間引きを実行する間引き手段とを備える。
【図面の簡単な説明】
【０００７】
【図１】本実施形態に係る機械学習装置の構成を示すブロック図である。
【図２】本実施形態に係る機械学習装置の動作の流れを示すフローチャートである。
【図３】学習結果の類似度を示す相関係数の算出例を示す表である。
【図４】相関係数を用いて算出される平均値に基づく学習データの選択方法を示す概念図である。
【発明を実施するための形態】
【０００８】
以下、図面を参照して機械学習装置の実施形態について説明する。
【０００９】
＜装置構成＞
まず、本実施形態に係る機械学習装置の全体構成について、図１を参照して説明する。図１は、本実施形態に係る機械学習装置の構成を示すブロック図である。
【００１０】
図１に示すように、本実施形態に係る機械学習装置１０は、入力される複数の学習データを用いて機械学習を行い、その学習結果を出力する構成となっている。機械学習装置１０は、その機能を実現するための処理ブロック又は物理的な処理回路として、データセット生成部１１０、学習部１２０、相関係数算出部１３０、平均値算出部１４０、及び学習データ選択部１５０を備えて構成されている。
【００１１】
データセット生成部１１０は、機械学習装置１０に入力される複数の学習データから、複数のデータセット（即ち、複数の学習データから構成される集合）を生成することが可能に構成されている。なお、データセットの生成方法については特に限定されないが、同一の学習データが、いくつかのデータセットに重複して属していてもよい。データセット生成部１１０において生成された複数のデータセットは、学習部１２０に出力される構成となっている。データセット生成部１１０は、後述する付記における「生成手段」の一具体例である。
【００１２】
学習部１２０は、多層構造のニューラルネットワークを利用したディープラーニングによって機械学習を実行することが可能に構成されている。学習部１１０は、データセット生成部１１０で生成された複数のデータセットを用いて、データセット毎に機械学習を実行する。学習部１２０からの出力は、機械学習装置１０の学習結果として装置外部に出力される構成となっている。また、学習部１２０の学習データは、相関係数算出部１３０にも出力される構成となっている。学習部１２０は、後述する付記における「学習手段」の一具体例である。
【００１３】
相関係数算出部１３０は、学習部１２０によるデータセット毎の学習結果を互いに比較して、相関係数（具体的には、学習結果の類似度を示す値）を算出することが可能に構成されている。相関係数算出部１３０による相関係数の具体的な算出方法については、後に詳述する。相関係数算出部１３０で算出された相関係数は、平均値算出部１４０に出力される構成となっている。
【００１４】
平均値算出部１４０は、相関係数算出部１３０で算出された相関係数を用いて、学習データごとの相関係数の平均値を算出する。相関係数の平均値は、各データが属する複数のデータセットに対応する相関係数を積算していき、それを積算した値の数で除することで算出できる。平均値算出部１４０で算出された相関係数の平均値は、学習データ選択部１５０に出力される構成となっている。平均値算出部１４０は、相関係数算出部１３０と共に、後述する付記における「比較手段」の一具体例として機能する。
【００１５】
学習データ選択部１５０は、平均値算出部１４０で算出された相関係数の平均値に基づいて、それ以降の学習に使用するデータの選択（言い換えれば、データの間引き）を実行することが可能に構成されている。学習データ選択部１５０による学習データの具体的な選択方法については、後に詳述する。学習データ選択部１５０による学習データの選択結果は、学習部１２０に出力される構成となっている。学習データ選択部１５０は、後述する付記における「間引き手段」の一具体例である。
【００１６】
＜動作説明＞
次に、本実施形態に係る機械学習装置１０の動作の流れについて、図２を参照して説明する。図２は、本実施形態に係る機械学習装置の動作の流れを示すフローチャートである。
【００１７】
図２に示すように、本実施形態に係る機械学習装置１０の動作時には、まずデータセット生成部１１０が、学習データから複数のデータセットを生成する（ステップＳ１０１）。データセット生成部１１０は、例えばＤｍａｘ個（Ｄ１〜Ｄｍａｘ）の学習データから、Ｇｍａｘ個（Ｇ１〜Ｇｍａｘ）のデータセットを生成する。続いて、学習部１２０が、生成された複数のデータセットを用いて、データセット毎に機械学習を実行する（ステップＳ１０２）。この結果、学習されたモデルがＭｍａｘ個（Ｍ１〜Ｍｍａｘ）得られる。
【００１８】
続いて、相関係数算出部１３０が、学習部１２０の学習結果を用いて、データセット同士の相関係数Ｒを算出する（ステップＳ１０３）。相関係数Ｒは、例えば対象となる２つの値の共分散を、２つの値の標準偏差の積で除した値として算出することができる。より具体的には、学習されたモデルのレイヤをＬｘ（Ｌ１〜Ｌｍａｘ）、各レイヤのパーセプトロンをＰｘ（Ｐ１〜Ｐｍａｘ）とすると、データセットＭａとＭｂとの相関関数Ｒ［Ｌｘ］[ａ，ｂ]は、下記式（１）を用いて算出できる。
【数１】
2019191731.tif 000003
なお、ａ：１〜Ｍｍａｘ、ｂ：２〜Ｍｍａｘ、ａ＜ｂである。
【００１９】
ここで、ステップＳ１０３において算出される相関関数Ｒについて、図３を参照して具体的に説明する。図３は、学習結果の類似度を示す相関係数の算出例を示す表である。
【００２０】
図３に示すように、相関関数Ｒは、データセットＭａとＭｂとの組み合わせに応じて複数算出される。例えば、図に示すケースでは、Ｍ１及びＭ２（即ち、ａ＝１、ｂ＝２）の相関関数Ｒは“０．６”、Ｍ２及びＭ３（即ち、ａ＝２、ｂ＝３）の相関関数Ｒは“０．２”と算出されている。なお、相関係数Ｒの値は、０〜１の範囲で算出され、０に近いほど互いの類似度が低く、１に近いほど互いの類似度が高いことを示している。
【００２１】
図２に戻り、相関係数Ｒが算出されると、平均値算出部１４０が相関係数Ｒの平均値Ｓｃｏｒｅを算出する（ステップＳ１０４）。図３の例で考えると、学習データＤ１が、データセットＧ１（言い換えれば、Ｍ１）、及びＧ３（言い換えれば、Ｍ３）の２つのデータセットに含まれている場合、平均値Ｓｃｏｒｅは、下記式（２）のように算出される。
【００２２】
［（０．６＋０．３＋０．５）＋（０．４）］／４＝０．４５  ・・・（２）
ただし、説明の便宜上、ここでは学習されたモデルがＭ１〜Ｍ４までであるとして算出を行っている。
【００２３】
続いて、学習データ選択部１５０が、算出された平均値Ｓｃｏｒｅに基づいて、以降の学習に利用する学習データを選択する（ステップＳ１０５）。具体的には、学習データ選択部１５０は、平均値Ｓｃｏｒｅの高いものから所定個数の学習データを、学習に使用するデータとして選択する。
【００２４】
ここで、ステップＳ１０５における学習データの選択方法について、図４を参照して具体的に説明する。図４は、相関係数を用いて算出される平均値に基づく学習データの選択方法を示す概念図である。
【００２５】
図４に示すように、学習データＤ１の平均値Ｓｃｏｒｅが“０．４５”、学習データＤ２の平均値Ｓｃｏｒｅが“０．３２”、学習データＤ３の平均値Ｓｃｏｒｅが“０．６３”、学習データＤ４の平均値Ｓｃｏｒｅが“０．９４”、・・・、学習データＤｍａｘの平均値Ｓｃｏｒｅが“０．９９”として算出されているとする。これらの値を昇順で並び替えると、上位からＤ２、Ｄ１、Ｄ３、Ｄ４、・・・、Ｄｍａｘとなる（説明の便宜上、Ｄ５〜Ｄｍａｘ−１の平均値Ｓｃｏｒｅについては考慮していない）。
【００２６】
この場合、学習データ選択部１５０は、平均値Ｓｃｏｒｅが小さい所定個数（ここでは３個）の学習データを、学習に使用するデータとして選択する。言い換えれば、学習データ選択部１５０は、選択された学習データ以外のデータを、学習には使用しないデータとして間引きする。このようにすれば、学習結果が互いに近い（即ち、類似度の高い）ものとなる学習データを間引きすることができる。
【００２７】
なお、学習データ選択部１５０が選択するデータの個数（即ち、上記「所定個数」）については、例えば、学習データをどの程度減らしたいのか（言い換えれば、どの程度演算時間を短縮したいのか）に応じて決定すればよい。
【００２８】
＜技術的効果＞
次に、本実施形態に係る機械学習装置１０によって得られる技術的効果について説明する。
【００２９】
図１から図４を参照して説明したように、本実施形態に係る機械学習装置１０によれば、複数のデータセットの学習結果を比較して、学習データの間引きが実行される。よって、学習精度の低下を抑制しつつ、学習に要する演算時間を好適に低減することが可能である。本実施形態では特に、データセット毎の学習結果から算出される相関係数Ｒを利用して、間引きする学習データを決定している。これにより、学習結果に影響を与えないような学習データを選択して間引きすることができる。このため、学習データの数を減らしたとしても、それに起因する学習精度の低下を好適に抑制することが可能である。従って、学習に要する演算時間や精度のコントロールが好適に行えるようになる。
【００３０】
＜付記＞
以上説明した実施形態から導き出される発明の各種態様を以下に説明する。
【００３１】
（付記１）
付記１に記載の機械学習装置は、複数の学習データから複数のデータセットを生成する生成手段と、前記複数のデータセット毎に機械学習を実行する学習手段と、前記学習手段の学習結果を複数のデータセット間で比較する比較手段と、前記比較手段の比較結果に基づいて、前記学習データの間引きを実行する間引き手段とを備える。
【００３２】
付記１に記載の機械学習装置によれば、複数のデータセット毎に実行される学習の結果を比較して、学習データの間引き（言い換えれば、学習に使用するデータの選択）が実行される。このため、実際の学習結果を考慮した適切な間引きが実現され、例えば学習データそのものを比較して間引きをする場合と比較すると、学習に要する演算時間や精度のコントロールが好適に行えるようになる。
【００３３】
本発明は、上述した実施形態に限られるものではなく、請求の範囲及び明細書全体から読み取れる発明の要旨或いは思想に反しない範囲で適宜変更可能であり、そのような変更を伴う機械学習装置もまた本発明の技術的範囲に含まれるものである。
【符号の説明】
【００３４】
１０  機械学習装置
１１０  データセット生成部
１２０  学習部
１３０  相関係数算出部
１４０  平均値算出部
１５０  学習データ選択部
【図１】
2019191731.tif 000004
【図２】
2019191731.tif 000005
【図３】
2019191731.tif 000006
【図４】
2019191731.tif 000007