(57)【要約】  早期に異常を予測することができるモデルを作成する。データ系列群（１０１）は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含む。時刻ラベル（１０２）は、データ系列群（１０１）中のデータのそれぞれに付加された時刻情報である。状態ラベル（１０３）は、データ系列群（１０１）中の一部のデータに付加される。損失関数制御手段（１０４）は、時刻ラベル（１０２）及び状態ラベル（１０３）に基づいて、学習に用いられる損失関数を決定する。しきい値（１０８）は、損失関数制御手段の場合分け条件を調整するために用いられる。回帰器（１０５）は、モデルであり、異常検知又は余寿命予測をするために使用される。辞書（１０７）は、回帰器（１０５）のパラメータを格納する。回帰器学習手段（１０６）は、損失関数制御手段（１０４）で決定された損失関数を元に回帰器（１０５）を学習する。
2020170304.tif 000002
【特許請求の範囲】
【請求項１】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群と、
前記データ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、
前記データ系列群中の一部のデータに付加された状態ラベルと、
前記時刻ラベル及び前記状態ラベルに基づいて、学習に用いられる損失関数を決定する損失関数制御手段と、
前記損失関数制御手段の場合分け条件を調整するためのしきい値と、
異常検知又は余寿命予測をするためのモデルと、
前記モデルのパラメータを格納する辞書と、
前記損失関数制御手段で決定された損失関数を元に前記モデルを学習する学習手段と
を備える学習装置。
【請求項２】
前記損失関数制御手段は、異常の有無又は余寿命の予測が可能な範囲で異常検知又は余寿命予測をするように学習に用いられる損失関数を制御する請求項１に記載の学習装置。
【請求項３】
前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命が前記しきい値以上の場合は、前記余寿命を目的変数とした損失関数を前記学習に用いられる損失関数とし、前記余寿命が前記しきい値未満の場合は、前記モデルを用いて予測される余寿命の値が前記しきい値未満の場合に正の値を持ち、しきい値以上の場合は０となる損失関数を前記学習に用いられる損失関数とする請求項１又は２に記載の学習装置。
【請求項４】
前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命をＴとし、前記モデルを用いて予測される余寿命の値をＹとし、前記データ系列に正例のデータが含まれるか否かを示す論理値をＣとし、前記しきい値をθとした場合、Ｃ＝１かつＴ≦θの場合は、ＹとＴの差に応じた値となり、Ｃ＝０又はＴ＞θの場合、０とθ−Ｙのうち大きい方の値となる損失関数を、前記学習に用いられる損失関数とする請求項１又は２に記載の学習装置。
【請求項５】
前記学習手段は、前記モデルの性能指標に基づいて、前記しきい値を探索する請求項１から４何れか１項に記載の学習装置。
【請求項６】
前記学習手段は、前記性能指標が所定の性能指標よりも低くならない範囲で、前記しきい値を増加させる請求項５に記載の学習装置。
【請求項７】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する学習方法。
【請求項８】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体。
【請求項９】
請求項１から６何れか１項に記載の学習装置を用いて学習されたモデルのパラメータを用いて、異常を検知し又は余寿命を予測する異常予測モデルと、前記しきい値とを有し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測装置。
【請求項１０】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測方法。
【請求項１１】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、学習装置、方法、及びコンピュータ可読媒体に関し、更に詳しくは、例えば観測対象の状態などを推定するモデルを作成する学習装置、方法、及びコンピュータ可読媒体に関する。【０００２】
また、本開示は、予測装置、方法、及びコンピュータ可読媒体に関し、更に詳しくは、例えば観測対象の状態などを推定する予測装置、方法、及びコンピュータ可読媒体に関する。
【背景技術】
【０００３】
構造物やプラントなどの管理において、各部位に劣化や故障などの異常が発生しないように、適切に検査や保守を実施することが求められる。検査や保守などの進め方の基準として、以前は一律の定期的な実施が普通であった。これに対し、近年では、検査や保守などの進め方の基準は、各部位の状態を基準とする方法に移行している。特に、確実に対処が必要になるまでの余寿命予測を用いて、各部位について猶予が分かれば、過剰な検査や交換などを避けることができる。また、優先度が高いものから順に対処を進めることができる。【０００４】
特許文献１は、関連技術として、プラントなどの異常を予期して余寿命を計算する予兆診断システムを開示する。特許文献１に記載の予兆診断システムは、機械設備に設置した複数のセンサから、センサデータを時系列データとして取得し、時系列データを学習データとした統計的手法を用いて、機械設備の異常や性能などの状態を示す指標である状態測度を算出する。予兆診断システムは、過去から現在までの状態測度の推移を、多項式を用いて近似した近似式を算出し、その近似式を用いて、将来の所定の時点までの状態測度を推定する。特許文献１では、現在の時刻から推定された状態測度がしきい値に達する時刻までの時間が、余寿命として算出される。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特許第５８２７４２５号
【発明の概要】
【発明が解決しようとする課題】
【０００６】
特許文献１では、過去における異常や性能低下の推移に基づいて、将来の異常や性能低下の推移が推定される。しかしながら、特許文献１では、例えば用いられる指標で検出できる異常が生じる前は、余寿命を算出することができず、早期に異常を予測することができない。【０００７】
本開示は、上記事情に鑑み、早期に異常を予測することができるモデルを作成できる学習装置、方法、及びコンピュータ可読媒体を提供することを目的とする。【０００８】
また、本開示は、早期に異常を予測することのできるモデルを用いて、異常な状態などが予測可能な予測装置、方法、及びコンピュータ可読媒体を提供することを目的とする。
【課題を解決するための手段】
【０００９】
上記目的を達成するために、本開示は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群と、前記データ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、前記時刻ラベル及び前記状態ラベルに基づいて、学習に用いられる損失関数を決定する損失関数制御手段と、前記損失関数制御手段の場合分け条件を調整するためのしきい値と、異常検知又は余寿命予測をするためのモデルと、前記モデルのパラメータを格納する辞書と、前記損失関数制御手段で決定された損失関数を元に前記モデルを学習する学習手段とを備える学習装置を提供する。【００１０】
本開示は、また、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する学習方法を提供する。【００１１】
本開示は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体を提供する。【００１２】
本開示は、上記学習装置を用いて学習されたモデルのパラメータを用いて、異常を検知し又は余寿命を予測する異常予測モデルと、前記しきい値とを有し、正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測装置を提供する。【００１３】
本開示は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測方法を提供する。【００１４】
本開示は、同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体を提供する。
【発明の効果】
【００１５】
本開示に係る学習装置、方法、及びコンピュータ可読媒体は、早期に異常などを予測することができるモデルを作成することができる。【００１６】
また、本開示に係る予測装置、方法、及びコンピュータ可読媒体は、早期に異常などを予測することができるモデルを用いて、異常な状態などを予測することができる。
【図面の簡単な説明】
【００１７】
【図１】本開示の第１実施形態に係る学習装置を示すブロック図。
【図２】データ系列群に含まれるデータ系列、時刻ラベル、状態ラベル、及び損失関数が０になる回帰結果を模式的に示す図。
【図３】学習装置の動作手順を示すフローチャート。
【図４】本開示の第２実施形態に係る学習装置を示すブロック図。
【図５】異常予測装置を示すブロック図。
【図６】情報処理装置の構成例を示すブロック図。
【発明を実施するための形態】
【００１８】
以下、図面を参照しつつ、本開示の実施の形態を説明する。図１は、本開示の第１実施形態に係るモデル作成装置（学習装置）を示す。学習装置１００は、データ系列群１０１、時刻ラベル１０２、状態ラベル１０３、損失関数制御手段１０４、回帰器１０５、回帰器学習手段１０６、辞書１０７、及びしきい値１０８を有する。
【００１９】
データ系列群１０１は、同一物を離散的に観測したデータの系列から成る。データ系列群１０１は、同一物を離散的な時刻又は離散的な条件で観測して系列状に取得されたデータの集まりである。ここで、離散的とは、ビデオ画像のように連続した等間隔な時刻に限らない、不連続な時刻、日時、又は年代での撮影を含むことを意味している。例えば、データ系列群１０１は、同一患者の同一器官を異なる日時に撮影した画像データを含み得る。
【００２０】
なお、同一の系列として取得されたデータは、同一物のみを捉えたものには限定されず、対応しない領域を含んでいてもよい。同一の系列として取得されたデータが対応しない領域を含む場合は、既存の技術などを用いて、画像上の位置などデータ同士の対応関係が分かればよい。その場合、データ系列群１０１は、対応する領域同士が同じ系列をなすように分割して考えることができる。各データは、画像データに限定されず、異常検知に有効な可能性のある指標群、或いは、一定の時間幅を持つような時系列信号であってもよいし、またそれらの複合系でもよい。
【００２１】
時刻ラベル１０２は、データ系列群中の各データに付加された時刻情報である。時刻ラベル１０２は、データ系列群１０１中の各系列中のデータがそれぞれ取得された時刻を示す。時刻ラベル１０２の値に基づいてデータの取得時点での余寿命を算出することができ、時刻ラベル１０２を学習に用いることができる。
【００２２】
状態ラベル１０３は、データ系列群中の一部のデータに付加された状態を示すラベルである。状態ラベル１０３は、データ系列群１０１中のデータに対して付与される異常か否かを示すラベルデータを示す。正解ラベルは、欠陥や病巣など異常として検知したい対象を正例、正常な場合を負例とするクラス、或いはそのクラスがデータ中の領域ごとに対応付けられたものである。ただし、正例は複数種類があってもよい。状態ラベル１０３は、必ずしも同じ系列内の全てのデータに付与されている必要はない。状態ラベル１０３は、最も大きい時刻ラベル１０２を持つデータ、及び正例には付与されているものとする。
【００２３】
ここで、状態ラベル１０３が正例であるデータを含むデータ系列では、系列中で初めに正例となったデータの時刻ラベル１０２を基準として遡ることで、各データの余寿命が定義できる。状態ラベル１０３が正例であるデータを含まないデータ系列に対しては余寿命が定義できない。しかしながら、後述の損失関数制御手段１０４を用いることで、学習に用いられる損失関数は定義される。
【００２４】
損失関数制御手段１０４は、時刻ラベル１０２及び状態ラベル１０３の値に基づいて、学習に用いられる損失関数を決定する。損失関数制御手段１０４は、例えば、異常の有無又は余寿命の予測が可能な範囲で異常検知又は余寿命予測をするように学習に用いられる損失関数を制御する。回帰器１０５は、データから余寿命を予測するモデルを含む。回帰器学習手段１０６は、学習手段であり、損失関数制御手段１０４で得られた損失関数を元に回帰器１０５を最適化する。辞書１０７は、回帰器学習手段１０６により調整される回帰器１０５のパラメータを格納する。しきい値（しきい値記憶手段）１０８は、損失関数制御手段１０４の場合分け条件を調整するためのしきい値を記憶する。
【００２５】
図２は、データ系列群に含まれるデータ系列、時刻ラベル、状態ラベル、及び損失関数が０になる回帰結果を模式的に示している。データ系列群１０１中の正例データを含む系列は、例えば図２のデータ２０１〜２０４のような複数のデータから成る。データ２０１〜２０４は、同じ対象物の時間経過に伴う変化を観察したデータである。時刻ラベル１０２であるラベルＴ３〜Ｔ０は、データ２０１〜２０４のそれぞれに付与される。一方、状態ラベル１０３であるラベル２０８〜２１１は、データの全て又は一部に付与される。
【００２６】
図２においてデータ２０３及び２０４には、異常であることを示す特徴２０６及び２０７が含まれている。データ２０３及び２０４は、特徴２０６及び２０７が含まれることで正例とみなされ、正例であることを示すラベル２１０及び２１１が与えられている。この例では、隣接するデータ２０２は、異常の予兆２０５を含む。しかしながら、データ２０２が取得された時点では予兆段階であるため、データ２０２には正のラベルは付与されていない。
【００２７】
データ２０１〜２０４のそれぞれについて、損失関数制御手段１０４が制御する損失関数は、図２において式２１２〜２１５で示されるように、回帰器１０５の予測値Ｙについて最小値０を取る。図２において、θはしきい値１０８を表す。式２１２〜２１５は、回帰器１０５の目的変数に対応する。予兆があるデータ２０２に対しては、異常が発生しているデータ２０３の時刻ラベルＴ１を基準として、余寿命Ｔ１−Ｔ２が目的変数となっている。一方、異常の予兆が現れる前のデータ２０１では、余寿命の予測が困難なため、しきい値θ以上の値であればよいという損失に置き換わっている。
【００２８】
損失関数制御手段１０４は、データ系列群１０１中の異常データ系列について、時刻ラベル１０２を、余寿命Ｔに換算する。損失関数制御手段１０４は、換算した余寿命Ｔが後述のしきい値１０８以下であれば、余寿命Ｔを目的変数とした回帰損失関数を返す。損失関数制御手段１０４は、そうでない場合は、しきい値１０８未満の予測に対してのみ正の値を持ち、しきい値１０８以上では０となるような片側損失関数を返す。つまり、損失関数制御手段１０４は、しきい値１０８以下の余寿命を持つデータについては余寿命を回帰する問題とする。損失関数制御手段１０４は、しきい値１０８を超える余寿命を持つデータ、或いは正常系列のデータについては、しきい値１０８を超える任意の数値を返すように、後述の回帰器学習手段１０６で学習させる。
【００２９】
損失関数Ｌは、具体的には、しきい値をθ、回帰器出力をＹ、余寿命をＴとして、
Ｃ＝１かつＴ≦θのとき    Ｌ（Ｙ，θ）＝（Ｙ−Ｔ）２
Ｃ＝０又はＴ＞θのとき    Ｌ（Ｙ，θ）＝ｍａｘ（０，θ−Ｙ）
などと選ぶことができる。ここで、Ｃは、系列に正例が含まれるか否かを示す論理値を表す。損失関数の次数は変わってもよく、また損失関数には、求める予測精度に応じて誤差を許容するように変形したものを用いてもよい。
【００３０】
回帰器１０５は、一まとまりのデータ或いはその特徴量を入力として、異常が予期される場合には余寿命を予測する。回帰器１０５の出力は余寿命に対応する数値であるが、後述のしきい値１０８以上の出力は正常であることを意味するように学習される。また、回帰器１０５は、データが領域ごとに異なる状態ラベルと対応付けられている場合は、領域ごとに予測を行い、その結果からヒートマップの作成や領域検出を行ってもよい。
【００３１】
回帰器学習手段１０６は、損失関数制御手段１０４で決定された損失関数とデータ系列群１０１中のデータとの組から、回帰器１０５のパラメータを生成（最適化）する。回帰器学習手段１０６の学習結果として、残差やしきい値を用いて分類精度（性能指標）を評価することができる。回帰器学習手段１０６は、その値をもとにしきい値パラメータを調整するため、分類精度を損失関数制御手段１０４に渡してもよい。
【００３２】
回帰器学習手段１０６は、回帰器１０５がニューラルネットワークなどの場合は、損失関数を最小化するように勾配法でパラメータを最適化する。回帰器１０５に用いられるモデルは任意であり、例えば、モデルにはＳＶＲ（Support Vector Regression）やランダムフォレストなどが用いられる。回帰器学習手段１０６は、回帰器１０５のモデルに対応した最適化手法で、で用いられる方法で対応するものを採用する。
【００３３】
辞書１０７は、回帰器１０５のパラメータを記録する。回帰器学習手段１０６は、辞書１０７に記憶されるパラメータを更新する。辞書１０７は、回帰器１０５がニューラルネットワークの場合は、重みとバイアスなどを保持する。辞書１０７に記録されたパラメータは、回帰器１０５の動作において参照される。
【００３４】
しきい値１０８は、損失関数制御手段１０４の場合分けの境界を表すパラメータである。最適化については、例えばグリッド探索を行い、回帰器学習手段１０６から得られる回帰器１０５の性能指標から過剰な値か否かを判定することで調整する。最適化は、具体的には、以下のように行う。しきい値を増大する、すなわち損失関数を余寿命Ｔの回帰とする余寿命値の範囲を拡大していくとき、度を越えると、正常と差がなかった時刻のデータについても余寿命を予測させることになるが、それは困難である。そのため、そこでの学習の結果得られる回帰器１０５について、学習データ或いは検証用データに対する分類精度や余寿命予測精度の悪化が見られるので、一定以上の悪化が見られた時点でしきい値の拡大を停止すればよい。また、回帰器学習手段１０６の最適化で、このしきい値１０８を拡大するための罰則項を損失関数に付加しておき、回帰器と同時にしきい値を最適化してもよい。また、異常のクラスを複数あるとみなす場合などに、それに合わせてしきい値を複数保持し、使い分けてもよい。
【００３５】
続いて、動作手順を説明する。図３は、学習装置１００の動作手順（学習方法）を示す。損失関数制御手段１０４は、しきい値１０８を初期化する（ステップＳ１）。損失関数制御手段１０４は、データ系列群１０１中の各データ系列に対して、時刻ラベル１０２と状態ラベル１０３に基づいて損失関数を決定する（ステップＳ２）。
【００３６】
回帰器学習手段１０６は、得られた損失関数とデータ系列群１０１中のデータとの組を用いて回帰器１０５を学習し、辞書１０７を更新する（ステップＳ３）。回帰器学習手段１０６は、得られた学習結果から、その時点で用いたしきい値が過剰に拡大していないかを評価する（ステップＳ４）。回帰器学習手段１０６は、ステップＳ４では、例えば学習結果としての予測精度が所定の予測精度より劣化しているか否かを判断することで、しきい値が過剰に拡大しているか否かを評価する。
【００３７】
回帰器学習手段１０６は、予測精度が劣化していなかった場合は、余寿命予測を行う範囲を拡大するように、しきい値１０８を更新する（ステップＳ５）。その後、処理は、ステップＳ２に戻り、損失関数制御手段１０４は損失関数を決定する。回帰器学習手段１０６は、予測精度が劣化していると判断した場合は、しきい値をその時点で固定し、或いはその直前の値に戻し、必要に応じて回帰器１０５の再学習を行って処理を終了する。
【００３８】
本実施形態では、損失関数制御手段１０４は、余寿命が予測可能な範囲では余寿命の回帰が学習され、また正常なデータや余寿命予測が困難な範囲のデータに対しては一定以上の値が返されるように、損失関数を制御する。回帰器学習手段１０６は、その境目となる余寿命の値を、しきい値１０８として調整する。このしきい値１０８を、回帰器１０５の予測精度が低下しない範囲で大きくするように最適化することで、異常の早期検知が可能となる。
【００３９】
本実施形態では、あらかじめ選んだ異常度の推移を外挿するのではなく、単一のデータからの予測として扱う。また、予測の早期性を制御するパラメータを導入することで、更なる早期異常予測やそれに有効な特徴抽出を学習できる。このため、学習装置１００は、可能な限り早期の異常予測、及び余寿命推定が可能な回帰器１０５を学習することができる。
【００４０】
次いで、本開示の第２実施形態を説明する。図４は、本開示の第２実施形態に係るモデル作成装置（学習装置）を示す。学習装置４００は、データ系列群４０１、時刻ラベル４０２、状態ラベル４０３、損失関数制御手段４０４、分類器４０５、分類器学習手段４０６、辞書４０７、及びしきい値４０８を有する。
【００４１】
ここで、余寿命予測において、あらかじめ要求する精度が決まっているときなどには、回帰ではなく順序クラスの分類として取り扱うことができる。すなわち、余寿命を適当な幅のビンに区切り、それぞれをクラスとして正解付けてもよい。その場合、図１に示される回帰器１０５、及び回帰器学習手段１０６に代えて、分類器４０５、及び分類器学習手段４０６が用いられる。他の点は、第１実施形態と同様でよい。
【００４２】
学習装置４００において、損失関数制御手段４０４は、あらかじめ与えた大きさのビンで余寿命を区切り、しきい値４０８に応じて正常クラスとして扱う範囲と、正常クラスとして扱わない範囲との境目を決める。そして、損失関数制御手段４０４は、用いられる損失関数を、正常クラスとして扱う範囲のクラス間の混同を許す形にする。損失関数制御手段４０３は、例えば、クラス分類に用いられる交差エントロピーなどについて、正常クラスとして扱う範囲のクラスを区別しない形に変更すればよい。しきい値４０８は、第１実施形態におけるしきい値１０８と同様に、分類器４０５の精度が低下しない範囲で大きくなるように調整される。このような学習装置４００が用いられる場合も、第１実施形態と同様な効果が得られる。
【００４３】
なお、図１に示される学習装置１００を用いて学習された回帰器１０５は、異常予測装置に用いることができる。図５は、異常予測装置（予測装置）を示す。異常予測装置５００は、回帰器５０２、辞書５０３、及びしきい値５０４を有する。回帰器５０２には、データ５０１が入力される。データ５０１は、図１に示されるデータ系列群１０１の系列内の各データと同じ形式のデータである。回帰器５０２に代えて、学習装置４００で学習された分類器４０５が用いられてもよい。
【００４４】
回帰器５０２は、辞書５０３に記憶されるパラメータを反映して、入力されたデータ５０１に対して回帰出力５０５を出力する。回帰出力５０５は、しきい値５０４とあわせて、次のように解釈され得る。しきい値５０４を超える回帰出力５０５については、正常データや余寿命が十分に長いデータである。一方、しきい値５０４以下の回帰出力５０５については、異常データであり、余寿命が回帰出力５０５に対応した数値になるとい予測結果である。異常予測装置５００は、正常データ又は余寿命が所定の値よりも長いデータについてはしきい値５０４を超える値を出力し、しきい値以下の余寿命を持つ異常データに対しては余寿命を予測するという動作を行う。
【００４５】
上記した学習装置１００及び４００、並びに異常予測装置５００は、コンピュータ装置として構成され得る。図６は、学習装置１００若しくは４００、又は異常予測装置５００に用いられ得る情報処理装置（コンピュータ装置）の構成例を示す。情報処理装置６００は、制御部（ＣＰＵ：Central Processing Unit）６１０、記憶部６２０、ＲＯＭ（Read Only Memory）６３０、ＲＡＭ（Random Access Memory）６４０、通信インタフェース（ＩＦ：Interface）６５０、及びユーザインタフェース６６０を有する。
【００４６】
通信インタフェース６５０は、有線通信手段又は無線通信手段などを介して、情報処理装置６００と通信ネットワークとを接続するためのインタフェースである。ユーザインタフェース６６０は、例えばディスプレイなどの表示部を含む。また、ユーザインタフェース６６０は、キーボード、マウス、及びタッチパネルなどの入力部を含む。
【００４７】
記憶部６２０は、各種のデータを保持できる補助記憶装置である。記憶部６２０は、必ずしも情報処理装置６００の一部である必要はなく、外部記憶装置であってもよいし、ネットワークを介して情報処理装置６００に接続されたクラウドストレージであってもよい。記憶部６２０は、例えば図１に示されるデータ系列群１０１、時刻ラベル１０２、及び状態ラベル１０３を記憶するために用いられ得る。また、記憶部６２０は、辞書１０７として用いられ得る。ＲＯＭ６３０は、不揮発性の記憶装置である。ＲＯＭ６３０には、例えば比較的容量が少ないフラッシュメモリなどの半導体記憶装置が用いられる。ＣＰＵ６１０が実行するプログラムは、記憶部６２０又はＲＯＭ６３０に格納され得る。
【００４８】
上記プログラムは、様々なタイプの非一時的なコンピュータ可読媒体を用いて格納され、情報処理装置６００に供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記憶媒体を含む。非一時的なコンピュータ可読媒体の例は、例えばフレキシブルディスク、磁気テープ、又はハードディスクなどの磁気記録媒体、例えば光磁気ディスクなどの光磁気記録媒体、ＣＤ（compact disc）、又はＤＶＤ（digital versatile disk）などの光ディスク媒体、及び、マスクＲＯＭ、ＰＲＯＭ（programmable ROM）、ＥＰＲＯＭ（erasable PROM）、フラッシュＲＯＭ、又はＲＡＭなどの半導体メモリを含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体を用いてコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバなどの有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【００４９】
ＲＡＭ６４０は、揮発性の記憶装置である。ＲＡＭ６４０には、ＤＲＡＭ（Dynamic Random Access Memory）又はＳＲＡＭ（Static Random Access Memory）などの各種半導体メモリデバイスが用いられる。ＲＡＭ６４０は、データなどを一時的に格納する内部バッファとして用いられ得る。ＣＰＵ６１０は、記憶部６２０又はＲＯＭ６３０に格納されたプログラムをＲＡＭ６４０に展開し、実行する。ＣＰＵ６１０がプログラムを実行することで、例えば図１に示される損失関数制御手段１０４、回帰器１０５、及び回帰器学習手段１０６などの機能が実現される。
【００５０】
以上、本開示の実施形態を詳細に説明したが、本開示は、上記した実施形態に限定されるものではなく、本開示の趣旨を逸脱しない範囲で上記実施形態に対して変更や修正を加えたものも、本開示に含まれる。
【００５１】
例えば、上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
【００５２】
［付記１］
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群と、
前記データ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、
前記データ系列群中の一部のデータに付加された状態ラベルと、
前記時刻ラベル及び前記状態ラベルに基づいて、学習に用いられる損失関数を決定する損失関数制御手段と、
前記損失関数制御手段の場合分け条件を調整するためのしきい値と、
異常検知又は余寿命予測をするためのモデルと、
前記モデルのパラメータを格納する辞書と、
前記損失関数制御手段で決定された損失関数を元に前記モデルを学習する学習手段と
を備える学習装置。
【００５３】
［付記２］
前記損失関数制御手段は、異常の有無又は余寿命の予測が可能な範囲で異常検知又は余寿命予測をするように学習に用いられる損失関数を制御する付記１に記載の学習装置。
【００５４】
［付記３］
前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命が前記しきい値以上の場合は、前記余寿命を目的変数とした損失関数を前記学習に用いられる損失関数とし、前記余寿命が前記しきい値未満の場合は、前記モデルを用いて予測される余寿命の値が前記しきい値未満の場合に正の値を持ち、しきい値以上の場合は０となる損失関数を前記学習に用いられる損失関数とする付記１又は２に記載の学習装置。
【００５５】
［付記４］
前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命をＴとし、前記モデルを用いて予測される余寿命の値をＹとし、前記データ系列に正例のデータが含まれるか否かを示す論理値をＣとし、前記しきい値をθとした場合、Ｃ＝１かつＴ≦θの場合は、ＹとＴの差に応じた値となり、Ｃ＝０又はＴ＞θの場合、０とθ−Ｙのうち大きい方の値となる損失関数を、前記学習に用いられる損失関数とする付記１又は２に記載の学習装置。
【００５６】
［付記５］
前記学習手段は、前記モデルの性能指標に基づいて、前記しきい値を探索する付記１から４何れか１つに記載の学習装置。
【００５７】
［付記６］
前記学習手段は、前記性能指標が所定の性能指標よりも低くならない範囲で、前記しきい値を増加させる付記５に記載の学習装置。
【００５８】
［付記７］
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する学習方法。
【００５９】
［付記８］
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体。
【００６０】
［付記９］
付記１から６何れか１つに記載の学習装置を用いて学習されたモデルのパラメータを用いて、異常を検知し又は余寿命を予測する異常予測モデルと、前記しきい値とを有し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測装置。
【００６１】
［付記１０］
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測方法。
【００６２】
［付記１１］
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する処理をコンピュータに実行させるためのプログラムを格納するコンピュータ可読媒体。
【符号の説明】
【００６３】
１００、４００：学習装置
１０１、４０１：データ系列群
１０２、４０２：時刻ラベル
１０３、４０３：状態ラベル
１０４、４０４：損失関数制御手段
１０５：回帰器
１０６：回帰器学習手段
１０７、４０７：辞書
１０８、４０８：しきい値
４０５：分類器
４０６：分類器学習手段
５００：異常予測装置
５０１：データ
５０２：回帰器
５０３：辞書
５０４：しきい値
５０５：回帰出力
５５０  通信インタフェース
５６０  ユーザインタフェース
【図１】
2020170304.tif 000003
【図２】
2020170304.tif 000004
【図３】
2020170304.tif 000005
【図４】
2020170304.tif 000006
【図５】
2020170304.tif 000007
【図６】
2020170304.tif 000008
【手続補正書】
【提出日】令和3年8月2日(2021.8.2)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群と、
前記データ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、
前記データ系列群中の一部のデータに付加された状態ラベルと、
前記時刻ラベル及び前記状態ラベルに基づいて、学習に用いられる損失関数を決定する損失関数制御手段と、
前記損失関数制御手段の場合分け条件を調整するためのしきい値と、
異常検知又は余寿命予測をするためのモデルと、
前記モデルのパラメータを格納する辞書と、
前記損失関数制御手段で決定された損失関数を元に前記モデルを学習する学習手段と
を備える学習装置。
【請求項２】
前記損失関数制御手段は、異常の有無又は余寿命の予測が可能な範囲で異常検知又は余寿命予測をするように学習に用いられる損失関数を制御する請求項１に記載の学習装置。
【請求項３】
前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命が前記しきい値以上の場合は、前記余寿命を目的変数とした損失関数を前記学習に用いられる損失関数とし、前記余寿命が前記しきい値未満の場合は、前記モデルを用いて予測される余寿命の値が前記しきい値未満の場合に正の値を持ち、しきい値以上の場合は０となる損失関数を前記学習に用いられる損失関数とする請求項１又は２に記載の学習装置。
【請求項４】
前記データ系列群は前記状態ラベルが正例であるデータを含み、かつ前記モデルは余寿命を予測するためのモデルであり、
前記損失関数制御手段は、前記データ系列群中で最初に正例となったデータの時刻ラベルを基準として遡ることで定義される各データの余寿命をＴとし、前記モデルを用いて予測される余寿命の値をＹとし、前記データ系列に正例のデータが含まれるか否かを示す論理値をＣとし、前記しきい値をθとした場合、Ｃ＝１かつＴ≦θの場合は、ＹとＴの差に応じた値となり、Ｃ＝０又はＴ＞θの場合、０とθ−Ｙのうち大きい方の値となる損失関数を、前記学習に用いられる損失関数とする請求項１又は２に記載の学習装置。
【請求項５】
前記学習手段は、前記モデルの性能指標に基づいて、前記しきい値を探索する請求項１から４何れか１項に記載の学習装置。
【請求項６】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する学習方法。
【請求項７】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、
前記決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習する処理をコンピュータに実行させるためのプログラム。
【請求項８】
請求項１から５何れか１項に記載の学習装置を用いて学習されたモデルのパラメータを用いて、異常を検知し又は余寿命を予測する異常予測モデルと、前記しきい値とを有し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測装置。
【請求項９】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する予測方法。
【請求項１０】
同一物を離散的な時刻に観測したデータの系列であるデータ系列を含むデータ系列群中のデータのそれぞれに付加された時刻情報である時刻ラベルと、前記データ系列群中の一部のデータに付加された状態ラベルと、損失関数の場合分け条件を調整するためのしきい値とに基づいて、学習に用いられる損失関数を決定し、該決定された損失関数を元に異常検知又は余寿命予測をするためのモデルのパラメータを学習することで学習されたモデルを用いて、異常を検知し又は余寿命を予測し、
正常データ又は余寿命が所定の値よりも長いデータについては前記しきい値を超える値を出力し、前記しきい値以下の余寿命を持つ異常データに対しては余寿命を予測する処理をコンピュータに実行させるためのプログラム。
【国際調査報告】
2020170304.tif 000009
2020170304.tif 000010
2020170304.tif 000011
2020170304.tif 000012
2020170304.tif 000013
2020170304.tif 000014
2020170304.tif 000015