(57)【要約】【課題】  少ないデータで高い精度の品質予測モデルを作成することができる予測モデル作成装置、予測モデル作成方法、および予測モデル作成プログラムを提供する。【解決手段】  予測モデル作成装置は、１以上の工程を含む製造工程の各工程の分析データから、事前に機械学習したアルゴリズムにより特徴量を抽出する特徴量抽出部と、前記特徴量抽出部が抽出した特徴量からニューラルネットワークによって品質予測モデルを作成するモデル作成部と、を備える。【選択図】  図１
2019179319.tif 000002
【特許請求の範囲】
【請求項１】
１以上の工程を含む製造工程の各工程の分析データから、事前に機械学習したアルゴリズムにより特徴量を抽出する特徴量抽出部と、
前記特徴量抽出部が抽出した特徴量からニューラルネットワークによって品質予測モデルを作成するモデル作成部と、を備えることを特徴とする予測モデル作成装置。
【請求項２】
前記製造工程は、複数の工程を含み、
前記モデル作成部は、前記ニューラルネットワークにおいて、前記複数の工程のうち後工程の分析データから前記特徴量抽出部が抽出した特徴量を、初期工程から導かれる隠し層に入力することを特徴とする請求項１記載の予測モデル作成装置。
【請求項３】
前記特徴量抽出部は、事前に得られているデータベースを参照することで、前記アルゴリズムを機械学習することを特徴とする請求項１または２に記載の予測モデル作成装置。
【請求項４】
前記モデル作成部が前記品質予測モデルを作成した後に、前記特徴量抽出部が前記製造工程の各工程の分析データから抽出した特徴量を、前記品質予測モデルに適用することで、品質を予測する品質予測部を備えることを特徴とする請求項１〜３のいずれか一項に記載の予測モデル作成装置。
【請求項５】
特徴量抽出部が、１以上の工程を含む製造工程の各工程の分析データから、事前に機械学習したアルゴリズムにより特徴量を抽出し、
モデル作成部が、前記特徴量抽出部が抽出した特徴量からニューラルネットワークによって品質予測モデルを作成する、ことを特徴とする予測モデル作成方法。
【請求項６】
コンピュータに、
１以上の工程を含む製造工程の各工程の分析データから、事前に機械学習したアルゴリズムにより特徴量を抽出する処理と、
抽出された前記特徴量からニューラルネットワークによって品質予測モデルを作成する処理と、を実行させることを特徴とする予測モデル作成プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本件は、予測モデル作成装置、予測モデル作成方法、および予測モデル作成プログラムに関する。
【背景技術】
【０００２】
ものづくりの現場において品質予測を早期に行うことは、高品質な製品を作るだけでなく、安価な製品を製造するうえでも重要である。これらの取り組みにおいて、機械学習などのＡＩ（人工知能）技術を活用して材料の特性を予測し、ものづくり工程の改善を進めるマテリアルインフォマティクスという考えが浸透し始めている。そこで、ニューラルネットワークを用いて品質予測モデルを作成する技術が開示されている（例えば、特許文献１，２参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平５−１０１１８７号公報
【特許文献２】特開平８−３２２８１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、ニューラルネットワークを用いてモデルを作成しようとしても、品質予測の精度を高めるためには多量のデータが必要となってしまう。
【０００５】
１つの側面では、本件は、少ないデータで高い精度の品質予測モデルを作成することができる予測モデル作成装置、予測モデル作成方法、および予測モデル作成プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
１つの態様では、予測モデル作成装置は、１以上の工程を含む製造工程の各工程の分析データから、事前に機械学習したアルゴリズムにより特徴量を抽出する特徴量抽出部と、前記特徴量抽出部が抽出した特徴量からニューラルネットワークによって品質予測モデルを作成するモデル作成部と、を備える。
【発明の効果】
【０００７】
少ないデータで高い精度の品質予測モデルを作成することができる予測モデル作成装置、予測モデル作成方法、および予測モデル作成プログラムを提供することができる。
【図面の簡単な説明】
【０００８】
【図１】（ａ）は実施例１に係る予測モデル作成装置の全体構成を例示するブロック図であり（ｂ）は特徴量抽出部、演算部およびモデル格納部のハードウェア構成を説明するためのブロック図である。
【図２】予測モデル作成装置による品質予測の概念図である。
【図３】実測された原材料の分析データから、公共のナレッジデータを活用し、有用な特徴量を事前に抽出する特徴量抽出工程を例示する図である。
【図４】実測された原材料の分析データから、社内データベースを活用し、有用な特徴量を事前に抽出する特徴量抽出工程を例示する図である。
【図５】一般的なニューラルネットワーク法の概念図を例示する図である。
【図６】ニューラルネットワークのフロー構築を例示する図である。
【図７】品質予測モデル作成装置による品質予測モデル作成処理の一例を表すフローチャートである。
【図８】作成された品質予測モデルを用いて品質予測を行う際に実行されるフローチャートを例示する図である。
【図９】実施例に従って作成された品質予測モデルの結果を示す図である。
【発明を実施するための形態】
【０００９】
一般に、画像やスペクトルなどの複数の分析データをデータ加工せずに入力して、特性と関連するパラメータを抽出し、その抽出方法を学習するためには膨大なデータが必要である。しかしながら、ものづくり現場には、データ形式がそろった大量のデータが十分に無いことが現状である。また、それらのデータを今後取得したとしても、膨大な数の試作品などを作成することが困難な昨今の製造現場においては、少量データからでも品質を予測する方法や、過去のデータを活用した方法などの提案が必要とされている。
【００１０】
そこで、ディープラーニングによる品質予測の試みが考えられる。具体的には、入力データを用いてニューラルネットワーク構造を基に重み因子を決定し、非線形演算を行うニューラルネットワーク法を利用することで、品質予測モデルを作成することが考えられる。一般的なニューラルネットワーク法は、入力データを１次元配列に並べ替え、ニューロンを模した複数の隠し層に線形結合を行う。ここで、入力データが画像データやセンサデータの場合、データ入力が膨大になるため、畳み込み演算などによって特徴量を抽出するなどして、入力データを低次元化することが望まれる。製造工程毎に複数のデータが取得される場合、それらを全て入力データとすると、膨大な入力データ量となる。そのため、出力層の精度を高めるためには、データを大量に用意する必要がある。しかしながら、製造現場で真に利用可能な技術とするための課題は、少数サンプルからの学習精度向上と考えられる。一方で、入力データの次元が多くなると何が最終特性に影響しているか分からなくなるため、分析結果の物理的背景が不明瞭になるという問題も発生する。
【００１１】
そこで、以下の実施例では、少ないデータで高い精度の品質予測モデルを作成することができる予測モデル作成装置、予測モデル作成方法、および予測モデル作成プログラムについて説明する。
【実施例１】
【００１２】
図１（ａ）は、実施例１に係る予測モデル作成装置１００の全体構成を例示するブロック図である。図１（ａ）で例示するように、予測モデル作成装置１００は、特徴量抽出部１０、演算部２０、モデル格納部３０、出力装置４０などを備える。演算部２０は、モデル作成部２１、最適化部２２および品質予測部２３を備える。
【００１３】
図１（ｂ）は、特徴量抽出部１０、演算部２０およびモデル格納部３０のハードウェア構成を説明するためのブロック図である。図１（ｂ）で例示するように、ＣＰＵ１０１、ＲＡＭ１０２、記憶装置１０３等が備わっている。ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）１０１は、中央演算処理装置である。ＣＰＵ１０１は、１以上のコアを含む。ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）１０２は、ＣＰＵ１０１が実行するプログラム、ＣＰＵ１０１が処理するデータなどを一時的に記憶する揮発性メモリである。記憶装置１０３は、不揮発性記憶装置である。記憶装置１０３として、例えば、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、フラッシュメモリなどのソリッド・ステート・ドライブ（ＳＳＤ）、ハードディスクドライブに駆動されるハードディスクなどを用いることができる。記憶装置１０３は、予測モデル作成プログラムを記憶している。ＣＰＵ１０１が記憶装置１０３に記憶されている予測モデル作成プログラムを実行することで、特徴量抽出部１０、演算部２０およびモデル格納部３０が実現される。なお、特徴量抽出部１０、演算部２０およびモデル格納部３０は、専用の回路などのハードウェアであってもよい。
【００１４】
図２は、予測モデル作成装置１００による品質予測の概念図である。図２の例では、原材料に対する製造工程を経て最終製品が製造される場合の品質予測モデルの作成が例示されている。ここで、製造工程とは、原材料を取得する初期工程、原材料に対して所定の処理を施すことで仕掛品や半製品を製造する後工程、仕掛品や半製品から最終製品を製造する最終工程などを含む。
【００１５】
ここでは、異なる原材料Ａ〜Ｉを同様の製造工程に流した場合に製造される最終製品の品質にばらつきがある場合を想定している。例えば、原材料Ａ〜Ｉは、異なる鉱山から産出された材料、異なる材料メーカーが製造した材料等であり、材料としての性質が互いに異なっている。最終製品の品質は、「優」から「劣」まで定量的に測定できるものとする。
【００１６】
原材料の分析データ（初期工程の分析データ）と、仕掛品、半製品等の分析データ（後工程の分析データ）とから、品質予測モデルを作成する。この場合において、実測データをそのままディープラーニング等で分析するのではなく、事前に実測データから意味のある特徴量を説明因子として抽出する。例えば、各原材料の分析データから、特徴量１〜９を説明因子として抽出する。また、後工程の分析データから、特徴量１０〜１２を説明因子として抽出する。これらの特徴量から、品質予測モデルを作成する。本実施例においては、解析の負荷を軽減するため、後工程の分析データから抽出した特徴量１０〜１２を原材料の分析データから抽出した特徴量１〜９と同列に入力するのではなく、隠し層に入力する。それにより、品質予測モデルを作成する際の決定因子の削減を行う。
【００１７】
図３は、実測された原材料の分析データから、公共のナレッジデータを活用し、有用な特徴量を事前に抽出する特徴量抽出工程を例示する図である。原材料特性を示すデータとしての画像データやスペクトルデータからなる入力データ群に対して、公共のナレッジデータを用いてどのような特徴量を抽出すればよいか、事前に機械学習によってアルゴリズムを求めておく。図３の例では、原材料の分析データの一例として、粉末ＸＲＤが用いられている。例えば、公共のナレッジデータを用いれば、粉末ＸＲＤからピーク強度、ピーク半値幅、ピークの有無などを特徴量として抽出するアルゴリズムを事前に機械学習することができる。一例として、原材料の分析データからピーク強度、ピーク半値幅、ピークの有無等の測量値を学習値として、その値を出力するアルゴリズムを機械学習によって事前に求めておく。公共のナレッジデータを利用するため、データ量は十分である。そのため、汎用データから特徴量を抽出するアルゴリズムを機械学習により事前に求めておくことができる。
【００１８】
図４は、実測された原材料の分析データから、社内データベースを活用し、有用な特徴量を事前に抽出する特徴量抽出工程を例示する図である。図４の例では、原材料の分析データの一例として、ＳＥＭ画像が用いられている。ここでは公共のナレッジデータのほか、より具体的にかつ材料特性の説明に特化した物理量を以前に社内で解析したことがある場合を想定している。この場合、品質予測モデルに役に立つか立たないかは別問題として、同様の分析対象物に対して測定した実績がある場合、それらを抽出する工程を経るものである。社内データベースを用いてどのような特徴量を抽出すればよいか、事前に機械学習によってアルゴリズムを求めておく。例えば、入力画像から凝集度、粒径等の測量値を学習値として、その値を出力するアルゴリズムを機械学習によって事前に求めておく。社内データベースに大量の画像がある場合、特徴量を抽出するためのアルゴリズムを事前学習によって求めておくことができる。
【００１９】
これらの特徴量抽出工程を経て得られた特徴量を説明因子として用いてニューラルネットワーク法によって品質予測モデルを作成する。入力データの何が特性に関するものかわからない場合、求めたい特性値毎に利用される特徴量を学習しなければならない。そのため、学習には入力データの精度に関係してデータ数が必要である。これに対して、本実施例では、あらかじめ入力データから特徴量を抽出する手法が機械学習されているため、その手間が不要となる。
【００２０】
図５は、一般的なニューラルネットワーク法の概念図を例示する図である。図５で例示するように、説明因子として特徴量を用いる。図５の例では、特徴量１〜７を用いるため、入力層におけるニューロン数（ノード）は、７個である。説明因子をいくつかの隠し層に演算する際に最適な重み因子を線形演算し、隠し層の数値データとする。ここで、活性化関数を演算することで非線形性を与える必要があるが、ここでは省略してある。図５の例では、隠し層の階層数は、１つである。隠し層におけるニューロン数は、３個である。また、図５の例では、出力層におけるニューロン数は、１個である。
【００２１】
ニューラルネットワーク法において決定すべき因子は重み因子である。そのため、特徴量が増えるにしたがってニューロン数が増加し、隠し層の階層数も増加し、決定すべき重み因子の数は爆発的に増加する。ここで、隠し層のｊ番目のニューロンにおけるＨｊは、隠し層の評価値である。なお、「ｉ」は、ｉ番目の特徴量を表す。ｆｉは、ｉ番目の評価値である。ｗｊｉは、重み因子である。この場合、Ｈｊは下記式（１）で表すことができる。
Ｈｊ＝Σｉ（ｗｊｉ×ｆｉ）      （１）
【００２２】
例えば画像などを入力データとした場合、すべての画素に対して重み因子を計算することは現実的ではないため、畳み込み演算などによって特徴を抽出する工程が含まれる。本実施例においては、公共ナレッジデータや社内データベースを活用した事前の知見を加味して機械学習されているため、特徴量を減らすことができている。
【００２３】
ここからは、複数工程からの検査結果が得られるような製品品質を予測する品質予測モデル作成のための手法を説明する。通常のニューラルネットワーク法では、後工程で得られた説明因子も全て一緒に入力データとして考慮する。その場合、一般的には説明因子が増えれば、ニューロン数が増え、検討する隠し層の階層数も増え、決定すべき重み因子の数も増える。結果として必要データがさらに増加し、スモールデータが基本のものづくり工程では十分な品質予測精度が得られないおそれがある。
【００２４】
例えば、説明因子が７個から１１個に増加した場合を考える。隠し層を２階層とし、それぞれ７因子、３因子、予測結果の順番でニューロン数が減っていくとすると、決定すべき重み因子の数は合計で１０１個となる。これに対し、図５の例で原材料からのみ品質を予測する場合では隠し層は１層で３因子とすると決定すべき重み因子は２４個であった。そこで、本実施例では、原材料の分析で求まった隠し層部分（例えば最終特性の隠し層部分）に、製造工程の途中の工程で抽出される特徴量を加えて、重み因子を決定するフローを構築する。
【００２５】
図６は、その概念図である。この例では、原材料から求まる隠し層に後工程から新たに求まった特徴量を４個加えている。このようにすれば説明因子が４個増えても、決定すべき重み因子は４８個となり、決定すべき重み因子の削減につながる。後工程の特徴量を入力すべき箇所は、ニューラルネットワーク法によって重み因子や隠し層の階層数、ニューロン数を決定する際に、入力箇所も変数として同時に最適化して決定する。
【００２６】
図７は、予測モデル作成装置１００による品質予測モデル作成処理の一例を表すフローチャートである。以下、図７のフローチャートに沿って、予測モデル作成装置１００の各部の処理について説明する。まず、特徴量抽出部１０は、分析装置２００から分析データを取得する（ステップＳ１）。例えば、特徴量抽出部１０は、分析装置２００が各原材料に対して取得した粉末ＸＲＤ、ＳＥＭ画像等を初期工程の分析データとして取得する。また、特徴量抽出部１０は、分析装置２００が、仕掛品、半製品等に対して取得した粉末ＸＲＤ、ＳＥＭ画像等を後工程の分析データとして取得する。
【００２７】
次に、特徴量抽出部１０は、分析データから初期工程の特徴量を抽出する（ステップＳ２）。例えば、図３または図４で説明したように、公共ナレッジデータ３００、社内データベース４００などを用いて事前に機械学習することで得られたアルゴリズムを用いて、分析データから特徴量を抽出する。
【００２８】
次に、特徴量抽出部１０は、抽出した初期工程の特徴量を演算部２０に入力する（ステップＳ３）。次に、モデル作成部２１は、ニューラルネットワーク法による品質予測モデルを作成する（ステップＳ４）。次に、最適化部２２は、ステップＳ４で作成された品質予測モデルと、入力された実測品質との相関が最適であるか否かを判定する（ステップＳ５）。例えば、相関が１または１に近い所定範囲の値になれば最適であると判定される。ステップＳ５で「Ｎｏ」と判定された場合、モデル作成部２１は、隠し層の階層数およびニューロン数の少なくともいずれか一方を変更する（ステップＳ６）。次に、変更された隠し層の数およびニューロン数を用いて、ステップＳ４から再度実行される。
【００２９】
ステップＳ５で「Ｙｅｓ」と判定された場合、モデル作成部２１は、１つ後の後工程があるか否かを判定する（ステップＳ７）。ステップＳ７で「Ｙｅｓ」と判定された場合、特徴量抽出部１０は、１つ後の後工程の特徴量を演算部２０に入力する（ステップＳ８）。次に、モデル作成部２１は、ニューラルネットワーク法による品質予測モデル作成を行う（ステップＳ９）。次に、最適化部２２は、ステップＳ９で作成された品質予測モデルと実測品質との相関が最適であるか否かを判定する（ステップＳ１０）。ステップＳ１０で「Ｎｏ」と判定された場合、モデル作成部２１は、当該後工程の入力箇所、隠し層の階層数およびニューロン数の少なくともいずれかを変更する（ステップＳ１１）。次に、変更された入力箇所、隠し層の階層数およびニューロン数を用いて、ステップＳ９から再度実行される。
【００３０】
ステップＳ１０で「Ｙｅｓ」と判定された場合、ステップＳ７が再度実行される。ステップＳ７で「Ｎｏ」と判定された場合、モデル格納部３０は、作成された品質予測モデルを格納する（ステップＳ１２）。その後、フローチャートの実行が終了する。以上の処理により、品質予測モデルの作成が終了する。
【００３１】
図８は、作成された品質予測モデルを用いて品質予測を行う際に実行されるフローチャートを例示する図である。以下、図８のフローチャートに沿って、予測モデル作成装置１００の各部の処理について説明する。まず、特徴量抽出部１０は、分析装置２００から分析データを取得する（ステップＳ２１）。例えば、特徴量抽出部１０は、分析装置２００が各原材料に対して取得した粉末ＸＲＤ、ＳＥＭ画像等を初期工程の分析データとして取得する。また、特徴量抽出部１０は、分析装置２００が、仕掛品、半製品等に対して取得した粉末ＸＲＤ、ＳＥＭ画像等を後工程の分析データとして取得する。
【００３２】
次に、特徴量抽出部１０は、分析データから各工程の特徴量を抽出する（ステップＳ２２）。例えば、図３または図４で説明したように、公共ナレッジデータ３００、社内データベース４００などを用いて事前に機械学習することで得られたアルゴリズムを用いて、分析データから特徴量を抽出する。次に、品質予測部２３は、ステップＳ２２で抽出された特徴量を、モデル格納部３０に格納された品質予測モデルに適用することで、品質予測を行う（ステップＳ２３）。出力装置４０は、品質予測結果を出力する（ステップＳ２４）。以上の処理により、品質予測を行うことができる。
【００３３】
図９は、本実施例に従って作成された品質予測モデルの結果を示す図である。図９において、横軸は最終製品の実測品質を示し、縦軸は予測された品質を示す。得られた結果が直線に近いほど、品質を正確に予測できていることになる。３種類のプロットは、重み因子をランダムに与えた場合の品質予測結果（凡例にて「ランダムｗｅｉｇｈｔ」と記述）、原材料の特徴量のみから最終品質予測を行った結果（凡例にて「１工程のみ」と記述）、そして後工程で得られた特徴量を隠し層の途中から加えた本手法によって得られた結果（凡例にて「２工程利用」と記述）である。実測品質と予測品質とを直線近似した場合のＲ因子を調べたところ、「ランダムｗｅｉｇｈｔ」よりも「１工程のみ」の品質予測精度が高く、「２工程利用」の品質予測精度がさらに高くなっていることがわかる。
【００３４】
本実施例によれば、各工程の分析データから事前に機械学習したアルゴリズムにより特徴量を抽出し、当該抽出された特徴量を用いてニューラルネットワークによって品質予測モデルを作成している。この場合、機械学習しないで特徴量を抽出する場合と比較して、必要なデータ数を削減することができる。すなわち、少ないデータで高い精度の品質予測モデルを作成することができる。
【００３５】
製造工程が複数の工程を含む場合に、ニューラルネットワークにおいて、複数の工程のうち後工程の分析データから抽出された特徴量を、初期工程から導かれる隠し層に入力することで、決定すべき重み因子数を削減することができる。それにより、少ないデータで高い精度の品質予測モデルを作成することができる。
【００３６】
公共ナレッジや社内データベースは、事前に得られているデータベースであるため、これらのデータベースを参照することで、少ないデータで特徴量抽出のアルゴリズムを機械学習することができる。
【００３７】
更なる本手法の効果として、事前処理によって物理的背景のはっきりした特徴量が抽出されており、かつ決定因子が少ないため重み因子から逆分析が容易となる。つまり、製品特性に直接的に影響度の高い特徴量を抽出することが容易となる。製品特性に影響を及ぼす物理的背景のはっきりした特徴量を見出すことにより、製品特性に及ぼす物理的背景の気付きにつながる。
【００３８】
上記実施例において、特徴量抽出部１０が、１以上の工程を含む製造工程の各工程の分析データから、事前に機械学習したアルゴリズムにより特徴量を抽出する特徴量抽出部の一例である。モデル作成部２１が、前記特徴量抽出部が抽出した特徴量からニューラルネットワークによって品質予測モデルを作成するモデル作成部の一例である。品質予測部２３が、前記モデル作成部が前記品質予測モデルを作成した後に、前記特徴量抽出部が前記製造工程の各工程の分析データから抽出した特徴量を、前記品質予測モデルに適用することで、品質を予測する品質予測部の一例である。
【００３９】
以上、本発明の実施例について詳述したが、本発明は係る特定の実施例に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
【符号の説明】
【００４０】
１０  特徴量抽出部
２０  演算部
２１  モデル作成部
２２  最適化部
２３  品質予測部
３０  モデル格納部
４０  出力装置
１００  予測モデル作成装置
【図１】
2019179319.tif 000003
【図２】
2019179319.tif 000004
【図３】
2019179319.tif 000005
【図４】
2019179319.tif 000006
【図５】
2019179319.tif 000007
【図６】
2019179319.tif 000008
【図７】
2019179319.tif 000009
【図８】
2019179319.tif 000010
【図９】
2019179319.tif 000011