(57)【要約】      （修正有）【課題】異常動作を未然に防止することができる人工知能を用いた制御装置を提供する。【解決手段】制御装置１の入力値、内部演算値、及び出力値の少なくとも一つを含む制御パラメータが所定範囲にあるか否かによって、制御装置の動作状態が正常か異常かを判定する判定部４と、制御装置の性能を決定する性能パラメータの値を学習時の制御装置の制御パラメータに基づいて、所定範囲を決定する決定部３とを、備えることを特徴とする。【選択図】図１
2020046905.tif 000002
【特許請求の範囲】
【請求項１】
人工知能を用いた制御装置であって、
前記制御装置の入力値、内部演算値、及び出力値の少なくとも一つを含む制御パラメータが所定範囲にあるか否かによって、前記制御装置の動作状態が正常か異常かを判定する判定部と、
前記制御装置の性能を決定する性能パラメータの値の学習時の制御装置の制御パラメータに基づいて、前記所定範囲を決定する決定部とを、備えることを特徴とする制御装置。
【請求項２】
請求項１に記載の制御装置であって、
前記所定範囲は、前記制御パラメータの各々の上限値及び下限値の少なくとも一つによって規定されることを特徴とする制御装置。
【請求項３】
請求項１に記載の制御装置であって、
前記所定範囲は、前記制御パラメータで構成されるベクトルが分布する空間における領域で規定されることを特徴とする制御装置。
【請求項４】
請求項３に記載の制御装置であって、
前記所定範囲は、前記制御パラメータで構成されるベクトルが分布する空間において組み合わされる複数の領域で規定されることを特徴とする制御装置。
【請求項５】
請求項３に記載の制御装置であって、
前記領域は関数で近似して表されることを特徴とする制御装置。
【請求項６】
請求項１に記載の制御装置であって、
少なくとも、プラントの温度を制御する装置、自動運転車を制御する装置、ロボットを制御する装置、又は飛行体を制御する装置であることを特徴とする制御装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、人工知能を用いた制御装置に関し、特に、その異常を検知する技術に関する。
【背景技術】
【０００２】
本技術分野の背景技術として、特開平５−２９７９０４（特許文献１）がある。この文献には、「プラント状態，各制御装置及びそれらへの入力信号の正・異常状態また運転員の手動による要求に従い、制御方式切換装置により各制御装置のどの出力信号を給水調節弁の制御に使用するのか決定を行う。」と記載されている（段落［０００９］参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平５−２９７９０４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、前述した特許文献１に記載された先行技術は、制御装置に適用されている人工知能の学習時の情報を考慮して、制御装置の正常又は異常を判定していない。
【課題を解決するための手段】
【０００５】
本願において開示される発明の代表的な一例を示せば以下の通りである。すなわち、人工知能を用いた制御装置であって、前記制御装置の入力値、内部演算値、及び出力値の少なくとも一つを含む制御パラメータが所定範囲にあるか否かによって、前記制御装置の動作状態が正常か異常かを判定する判定部と、前記制御装置の性能を決定する性能パラメータの値を学習時の制御装置の制御パラメータに基づいて、前記所定範囲を決定する決定部とを、備えることを特徴とする。
【発明の効果】
【０００６】
本発明の一態様によれば、人工知能を用いた制御装置の異常動作を未然に防止できる。前述した以外の課題、構成及び効果は、以下の実施例の説明によって明らかにされる。
【図面の簡単な説明】
【０００７】
【図１】実施例１〜７における制御装置の全体図である。
【図２】実施例１〜７における制御装置（学習側）のシステム構成図である。
【図３】実施例１〜７のおける制御装置（実行側）のシステム構成図である。
【図４】実施例１、５における制御装置と制御対象を示す図である。
【図５】実施例１〜４における人工知能を用いた制御手段の学習部の処理を示す図である。
【図６】実施例１〜４における人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）部の処理を示す図である。
【図７】実施例１〜５における人工知能を用いた制御手段の処理を示す図である。
【図８】実施例１〜４における人工知能を用いた制御の動作状態の判定部（実行時処理）部の処理を示す図である。
【図９】実施例２における制御装置と制御対象を示す図である。
【図１０】実施例３における制御装置と制御対象を示す図である。
【図１１】実施例４における制御装置と制御対象を示す図である。
【図１２】実施例５における人工知能を用いた制御手段の学習部の処理を示す図である。
【図１３】実施例５における人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）部の処理を示す図である。
【図１４】実施例５における人工知能を用いた制御の動作状態の判定部（実行時処理）部の処理を示す図である。
【図１５】実施例６、７における制御装置と制御対象を示す図である。
【図１６】実施例６、７における人工知能を用いた制御手段の学習部の処理を示す図である。
【図１７】実施例６における人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）部の処理を示す図である。
【図１８】実施例６、７における人工知能を用いた制御手段の処理を示す図である。
【図１９】実施例６における人工知能を用いた制御の動作状態の判定部（実行時処理）部の処理を示す図である。
【図２０】実施例７における人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）部の処理を示す図である。
【図２１】実施例７における人工知能を用いた制御の動作状態の判定部（実行時処理）部の処理を示す図である。
【発明を実施するための形態】
【０００８】
以下、本発明の実施例を図面を用いて説明する。
【０００９】
［実施例１］
本実施例においては、人工知能を用いた制御装置の制御に関するパラメータ（例えば、入力値、内部演算値、出力値）が所定範囲（例えば、過去に実績がある範囲）にあるか否かによって、前記制御装置の動作状態が正常か異常か（前記制御装置の処理を行うか否か）を判定する判定部と、前記制御装置の性能を決定する性能パラメータ（例えば、重み係数）の値を学習時の制御装置の制御に関するパラメータに基づいて前記所定範囲を決定する決定部とを備える形態を示す。
【００１０】
特に、前記所定範囲は、前記制御に関するパラメータの各々について上限値及び下限値の少なくとも一つで規定する。
【００１１】
また、実施例１では、プラントの温度を制御する制御装置を例示するが、後述するように、本発明は自動運転車の制御装置や、ロボットの制御装置や、ドローンなどの飛行体の制御装置などの様々な用途に適用できる。
【００１２】
図１は、制御装置（学習側）１及び制御装置（実行側）２の全体を表す図である。
【００１３】
制御装置（学習側）１は、学習時の情報に基づいた所定範囲決定部（学習時処理）３を有し、制御装置（実行側）２は、人工知能を用いた制御の動作状態の判定部（実行時処理）４を有する。学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能の学習時の情報（学習時の入力／内部演算値／出力）に基づいて、人工知能を用いた制御実行時の動作状態（正常／異常）を判定するための範囲を決定する。人工知能を用いた制御の動作状態の判定部（実行時処理）４は、人工知能を用いた制御実行時の入力／内部演算値／出力が前記所定範囲にあるか否かで、動作状態（正常／異常）を判定する。
【００１４】
図２は、制御装置（学習側）１のシステム構成図である。
【００１５】
制御装置（学習側）１は、ハードウェアとして、記憶装置１１、ＣＰＵ１２、ＲＯＭ１３、ＲＡＭ１４、データバス１５、入力回路１６、入出力ポート１７及び出力回路１８を有する。入力回路１６は、外部から入力された信号を処理する。入力回路１６に入力される外部からの信号とは、例えば、制御装置（学習側）１に設置又は接続されているセンサからの信号等である。又は、制御装置（実行側）２に設置又は接続されているセンサからの信号等である。外部から入力される信号は、入力回路１６を経て、入力信号となり入出力ポート１７へ送られる。入出力ポートに送られた各入力信号は、データバス１５を経て、ＲＡＭ１４又は記憶装置１１に格納される。ＲＯＭ１３及び／又は記憶装置１１は、後述する処理を実行するためのプログラムを格納しており、該プログラムはＣＰＵ１２で実行される。その際、ＲＡＭ１４及び／又は記憶装置１１に格納された値を、適宜、用いて演算を行う。演算結果のうち外部へ送り出す情報（値）は、データバス１５を経て入出力ポート１７に送られ、出力信号として出力回路１８に送られる。出力回路１８は、出力信号を外部に出力する。外部へ出力される出力信号は、前述の所定範囲に関する情報などである。
【００１６】
なお、ＣＰＵ１２がプログラムを実行して行う処理の一部を、他の演算装置（例えば、ＦＰＧＡ（Field Programable Gate Array）やＡＳＩＣ（Application Specific Integrated Circuit）などのハードウェア）で実行してもよい。
【００１７】
図３は、制御装置（実行側）２のシステム構成図である。
【００１８】
制御装置（実行側）２は、ハードウェアとして、記憶装置２１、ＣＰＵ２２、ＲＯＭ２３、ＲＡＭ２４、データバス２５、入力回路２６、入出力ポート２７、出力回路２８及び通信回路（受信）２９を有する。入力回路２６は、外部から入力された信号を処理する。入力回路１６に入力される外部からの信号とは、例えば、制御装置（実行側）２に設置又は接続されているセンサからの信号等である。通信回路（受信）２９は、外部から入力された信号を処理する。通信回路（受信）２９に入力される外部から信号とは、例えば、制御装置（学習側）１から送信される前述の所定範囲に関する情報等である。外部から入力される信号は、入力回路１６を経て、入力信号となり入出力ポート２７へ送られる。入出力ポートに送られた各入力信号は、データバス２５を経て、ＲＡＭ２４又は記憶装置２１に格納される。ＲＯＭ２３及び／又は記憶装置２１は、後述する処理を実行するためのプログラムを格納しており、該プログラムはＣＰＵ２２で実行される。その際、ＲＡＭ２４及び／又は記憶装置２１に格納された値を、適宜、用いて演算を行う。演算結果のうち外部へ送り出す情報（値）は、データバス２５を経て入出力ポート２７に送られ、出力信号として出力回路２８に送られる。出力回路２８は、出力信号を外部に出力する。外部へ出力される出力信号は、制御対象に所望の動きをさせるためのアクチュエータ信号などである。
【００１９】
なお、ＣＰＵ２２がプログラムを実行して行う処理の一部を、他の演算装置（例えば、ＦＰＧＡ（Field Programable Gate Array）やＡＳＩＣ（Application Specific Integrated Circuit）などのハードウェア）で実行してもよい。
【００２０】
図４は、制御装置（学習側）１、制御装置（実行側）２及び制御装置（実行側）２によって制御される対象として例示するプラント７を示す図である。
【００２１】
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段６のパラメータ値を学習する。人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。人工知能を用いた制御の動作状態の判定部（実行時処理）３は、前記決定された所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。人工知能を用いた制御手段６は、プラント７の温度を制御するための操作量（例えば、蒸気温度を調節するための目標バルブ開度など）を演算する。
【００２２】
以下、実施例１の各処理の詳細を説明する。
【００２３】
＜人工知能を用いた制御手段の学習部（図５）＞
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段のパラメータ値を学習する。具体的には、図５に示すように、パラメータ値更新器５２を用いて、人工知能５１のパラメータ値を学習する。人工知能を制御手段として用いる場合、制御対象の逆モデルとすることが一例として用いられる。また、人工知能として、例えば、深層学習が用いられる。深層学習のパラメータ値の更新方法としては、教師信号である学習時の入力１〜入力Ｎａ及び学習時の出力１〜出力Ｎｃを用いて、誤差逆伝搬法による確率的勾配降下法で、深層学習のパラメータ値を決定（更新）する。学習中に人工知能の内部で演算される値（深層学習の場合は中間層の各ユニットの出力値など）は、学習時の内部演算値１〜内部演算値Ｎｂとする。
【００２４】
なお、入力１〜入力Ｎａは、個別の入力情報であり、それぞれ制御周期で変化していく値であり、入力１（ｋ）〜入力Ｎａ（ｋ）と表記してもよい（ｋ：１，２，３，・・・）。同じく、出力１〜出力Ｎｃ及び内部演算値１〜内部演算値Ｎｂも同様に、出力１（ｋ）〜出力Ｎｃ（ｋ）及び内部演算値１（ｋ）〜内部演算値Ｎｂ（ｋ）と表記してもよい。
【００２５】
＜人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）（図６）＞
人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。具体的には、図６に示すように、以下の演算を行う。
・学習時の入力１〜入力Ｎａから下記を求める（３１）。
入力値１の最大値をU_U_1
入力値１の最小値をU_L_1
入力値２の最大値をU_U_2
入力値２の最小値をU_L_2
・・・
入力値Ｎａの最大値をU_U_Na
入力値Ｎａの最小値をU_L_Na
・学習時の内部演算値１〜内部演算値Ｎｂから下記を求める（３２）。
内部演算値１の最大値をI_U_1
内部演算値１の最小値をI_L_1
内部演算値２の最大値をI_U_2
内部演算値２の最小値をI_L_2
・・・
内部演算値Ｎｂの最大値をI_U_Nb
内部演算値Ｎｂの最小値をI_L_Nb
・学習時の出力１〜出力Ｎｃから下記を求める（３３）。
出力値１の最大値をY_U_1
出力値１の最小値をY_L_1
出力値２の最大値をY_U_2
出力値２の最小値をY_L_2
・・・
出力値Ｎｃの最大値をY_U_Nc
出力値Ｎｃの最小値をY_L_Nc
【００２６】
＜人工知能を用いた制御手段（図７）＞
人工知能を用いた制御手段６は、プラント７の温度を制御するための操作量（例えば、蒸気温度を調節するための目標バルブ開度など）を演算する。具体的には、図７に示すように、人工知能を用いた制御手段の学習部５で学習済みの人工知能６１を用いる。前述したように、人工知能を制御手段として用いる場合、制御対象の逆モデルとすることが一例として考えられる。また、人工知能として、例えば、深層学習が考えられる。
【００２７】
＜人工知能を用いた制御の動作状態の判定部（実行時処理）（図８）＞
人工知能を用いた制御の動作状態の判定部（実行時処理）４は、人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３が決定した所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。具体的には、図８に示すように、下記の全ての条件が成立する場合に、動作状態が正常であると判定し、異常フラグf_anomaly=0を出力する。一方、いずれか一つの条件が成立しない場合に、動作状態が異常であると判定して、異常フラグf_anomaly=1を出力する。なお、下記では、所定範囲を上限値及び下限値で規定したが、パラメータの種類によっては、上限値又は下限値のいずれかで規定してもよい。
U_L_1 ≦ 入力値1 ≦ U_U_1
U_L_2 ≦ 入力値2 ≦ U_U_2
・・・
U_L_Na ≦ 入力値Na ≦U_U_Na
I_L_1 ≦ 内部演算値1 ≦I_U_1
I_L_2 ≦ 内部演算値2 ≦I_U_2
・・・
I_L_Nb ≦ 内部演算値Nb ≦I_U_Nb
Y_L_1 ≦ 出力値1 ≦ Y_U_1
Y_L_2 ≦ 出力値2 ≦ Y_U_2
・・・
Y_L_Nb ≦ 出力値Nb ≦Y_U_Nb
【００２８】
f_anomaly=1のときの対応策として、制御を停止する、フェールセーフ処理を行う、又は、制御装置２の制御に関するパラメータ（入力値、内部演算値、出力値）を前述した範囲内に制限して、制御してもよい。
【００２９】
本実施例によれば、人工知能を用いた制御装置２の制御に関するパラメータが所定範囲にあるか否かによって、当該人工知能を用いた制御装置２の動作状態が正常か異常か（人工知能を用いた制御装置２の処理を行うか否か）を判定する。また、当該人工知能を用いた制御装置２の性能を決定する性能パラメータ（重み係数）の値を学習中の人工知能を用いた制御装置１の制御に関するパラメータに基づいて当該所定範囲を決定する。
【００３０】
従って、学習時のデータ（教師データ）にはない入力値を異常と判定するので、人工知能を用いた制御装置２の異常動作の可能性を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。また、例えば、学習時のデータにはない内部演算値及び／又は出力値が得られたとき、人工知能によって外挿された領域（空間）の内部演算値及び／又は出力値の採用を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。
【００３１】
［実施例２］
本実施例においては、人工知能を用いた制御装置の制御に関するパラメータ（例えば、入力値、内部演算値、出力値）が所定範囲（例えば、過去に実績がある範囲）にあるか否かによって、前記制御装置の動作状態が正常か異常か（前記制御装置の処理を行うか否か）を判定する判定部と、前記制御装置の性能を決定する性能パラメータ（重み係数）の値を学習時の制御装置の制御に関するパラメータに基づいて前記所定範囲を決定する決定部とを備える形態を示す。
【００３２】
特に、前記所定範囲は、前記制御に関するパラメータの各々について上限値及び下限値の少なくとも一つで規定する。
【００３３】
また、前記制御装置は、自動運転車を制御する装置である。
【００３４】
図１は、実施例２の制御装置（学習側）１と制御装置（実行側）２の構成を示しており、実施例１と同じであるので、詳述しない。図２は、実施例２の制御装置（学習側）１のシステム構成を示しており、実施例１と同じであるので、詳述しない。図３は、実施例２の制御装置（実行側）２のシステム構成を示しており、実施例１と同じであるので、詳述しない。
【００３５】
図９は、実施例２の制御装置（学習側）１、制御装置（実行側）２及び制御装置（実行側）２によって制御される対象として例示する自動運転車８を示す図である。
【００３６】
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段６のパラメータ値を学習する。人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。人工知能を用いた制御の動作状態の判定部（実行時処理）３は、前記決定された所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。人工知能を用いた制御手段６では、自動運転車８を制御するための操作量（例えば、目標速度、目標回転角速度など）を演算する。
【００３７】
以下、実施例２の各処理の詳細を説明する。
【００３８】
＜人工知能を用いた制御手段の学習部（図５）＞
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段のパラメータ値を学習する。具体的には、図５に示されており、実施例１と同じであるので、詳述しない。
【００３９】
＜人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）（図６）＞
人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。具体的には、図６に示されており、実施例１と同じであるので、詳述しない。
【００４０】
＜人工知能を用いた制御手段（図７）＞
人工知能を用いた制御手段６は、自動運転車８を制御するための操作量（例えば、目標速度、目標回転角速度など）を演算する。具体的には、図７に示すように、人工知能を用いた制御手段の学習部５で学習済みの人工知能６１を用いる。前述したように、人工知能を制御手段として用いる場合、制御対象の逆モデルとすることが一例として考えられる。また、人工知能として、例えば、深層学習が考えられる。
【００４１】
＜人工知能を用いた制御の動作状態の判定部（実行時処理）（図８）＞
人工知能を用いた制御の動作状態の判定部（実行時処理）４は、人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３が決定した所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。具体的には、図８に示されており、実施例１と同じであるので、詳述しない。
【００４２】
本実施例によれば、人工知能を用いた制御装置２の制御に関するパラメータが所定範囲にあるか否かによって、当該人工知能を用いた制御装置２の動作状態が正常か異常か（人工知能を用いた制御装置２の処理を行うか否か）を判定する。また、当該人工知能を用いた制御装置２の性能を決定する性能パラメータ（重み係数）の値を学習中の人工知能を用いた制御装置１の制御に関するパラメータに基づいて当該所定範囲を決定する。
【００４３】
従って、学習時のデータ（教師データ）にはない入力値を異常と判定するので、人工知能を用いた制御装置２の異常動作の可能性を未然に防止でき（例えば、不適切な車速や回転角速度にならないなど）、自動運転車８の制御システムの信頼性及び安全性を向上できる。また、例えば、学習時のデータにはない内部演算値及び／又は出力値が得られたとき、人工知能によって外挿された領域（空間）の内部演算値及び／又は出力値の採用を未然に防止でき（例えば、不適切な車速や回転角速度にならないなど）、自動運転車８の制御システムの信頼性及び安全性を向上できる。
【００４４】
［実施例３］
本実施例においては、人工知能を用いた制御装置の制御に関するパラメータ（例えば、入力値、内部演算値、出力値）が所定範囲（例えば、過去に実績がある範囲）にあるか否かによって、前記制御装置の動作状態が正常か異常か（前記制御装置の処理を行うか否か）を判定する判定部と、前記制御装置の性能を決定する性能パラメータ（重み係数）の値を学習時の制御装置の制御に関するパラメータに基づいて前記所定範囲を決定する決定部とを備える形態を示す。
【００４５】
特に、前記所定範囲は、前記制御に関するパラメータの各々について上限値及び下限値の少なくとも一つで規定する。
【００４６】
また、前記制御装置は、ロボットを制御する装置である。
【００４７】
図１は、実施例３の制御装置（学習側）１と制御装置（実行側）２の構成を示しており、実施例１と同じであるので、詳述しない。図２は、実施例３の制御装置（学習側）１のシステム構成を示しており、実施例１と同じであるので、詳述しない。図３は、実施例３の制御装置（実行側）２のシステム構成を示しており、実施例１と同じであるので、詳述しない。
【００４８】
図１０は、実施例３の制御装置（学習側）１、制御装置（実行側）２及び制御装置（実行側）２によって制御される対象として例示するロボット９を示す図である。
【００４９】
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段６のパラメータ値を学習する。人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。人工知能を用いた制御の動作状態の判定部（実行時処理）３は、前記決定された所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。人工知能を用いた制御手段６では、ロボット９を制御するための操作量（例えば、角度、速度、トルクなど）を演算する。
【００５０】
以下、実施例３の各処理の詳細を説明する。
【００５１】
＜人工知能を用いた制御手段の学習部（図５）＞
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段のパラメータ値を学習する。具体的には、図５に示されており、実施例１と同じであるので、詳述しない。
【００５２】
＜人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）（図６）＞
人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。具体的には、図６に示されており、実施例１と同じであるので、詳述しない。
【００５３】
＜人工知能を用いた制御手段（図７）＞
人工知能を用いた制御手段６は、ロボット９を制御するための操作量（例えば、角度、速度、トルクなど）を演算する。具体的には、図７に示すように、人工知能を用いた制御手段の学習部５で学習済みの人工知能６１を用いる。前述したように、人工知能を制御手段として用いる場合、制御対象の逆モデルとすることが一例として考えられる。また、人工知能として、例えば、深層学習が考えられる。
【００５４】
＜人工知能を用いた制御の動作状態の判定部（実行時処理）（図８）＞
人工知能を用いた制御の動作状態の判定部（実行時処理）４は、人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３が決定した所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。具体的には、図８に示されており、実施例１と同じであるので、詳述しない。
【００５５】
本実施例によれば、人工知能を用いた制御装置２の制御に関するパラメータが所定範囲にあるか否かによって、当該人工知能を用いた制御装置２の動作状態が正常か異常か（人工知能を用いた制御装置２の処理を行うか否か）を判定する。また、当該人工知能を用いた制御装置２の性能を決定する性能パラメータ（重み係数）の値を学習中の人工知能を用いた制御装置１の制御に関するパラメータに基づいて当該所定範囲を決定する。
【００５６】
従って、学習時のデータ（教師データ）にはない入力値を異常と判定するので、人工知能を用いた制御装置２の異常動作の可能性を未然に防止でき（例えば、不適切な角度、速度、トルクにならないなど）、ロボット９の制御システムの信頼性を向上できる。また、例えば、学習時のデータにはない内部演算値及び／又は出力値が得られたとき、人工知能によって外挿された領域（空間）の内部演算値及び／又は出力値の採用を未然に防止でき（例えば、不適切な角度、速度、トルクなどにならないなど）、ロボット９の制御システムの信頼性を向上できる。
【００５７】
［実施例４］
本実施例においては、人工知能を用いた制御装置の制御に関するパラメータ（例えば、入力値、内部演算値、出力値）が所定範囲（例えば、過去に実績がある範囲）にあるか否かによって、前記制御装置の動作状態が正常か異常か（前記制御装置の処理を行うか否か）を判定する判定部と、前記制御装置の性能を決定する性能パラメータ（重み係数）の値を学習時の制御装置の制御に関するパラメータに基づいて前記所定範囲を決定する決定部とを備える形態を示す。
【００５８】
特に、前記所定範囲は、前記制御に関するパラメータの各々について上限値及び下限値の少なくとも一つで規定する。
【００５９】
また、前記制御装置は、ドローンなど飛行体を制御する装置である。
【００６０】
図１は、実施例４の制御装置（学習側）１と制御装置（実行側）２の構成を示しており、実施例１と同じであるので、詳述しない。図２は、実施例４の制御装置（学習側）１のシステム構成を示しており、実施例１と同じであるので、詳述しない。図３は、実施例４の制御装置（実行側）２のシステム構成を示しており、実施例１と同じであるので、詳述しない。
【００６１】
図１１は、実施例４の制御装置（学習側）１、制御装置（実行側）２及び制御装置（実行側）２によって制御される対象として例示するドローン１０を示す図である。
【００６２】
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段６のパラメータ値を学習する。人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。人工知能を用いた制御の動作状態の判定部（実行時処理）３は、前記決定された所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。人工知能を用いた制御手段６は、ドローン１０を制御するための操作量（例えば、各ロータの回転速度など）を演算する。
【００６３】
以下、実施例４の各処理の詳細を説明する。
【００６４】
＜人工知能を用いた制御手段の学習部（図５）＞
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段のパラメータ値を学習する。具体的には、図５に示されており、実施例１と同じであるので、詳述しない。
【００６５】
＜人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）
人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。具体的には、図６に示されており、実施例１と同じであるので、詳述しない。
【００６６】
＜人工知能を用いた制御手段（図７）＞
人工知能を用いた制御手段６は、ドローン１０を制御するための操作量（例えば、各ロータの回転速度など）を演算する。具体的には、図７に示すように、人工知能を用いた制御手段の学習部５で学習済みの人工知能６１を用いる。前述したように、人工知能を制御手段として用いる場合、制御対象の逆モデルとすることが一例として考えられる。また、人工知能として、例えば、深層学習が考えられる。
【００６７】
＜人工知能を用いた制御の動作状態の判定部（実行時処理）（図８）＞
人工知能を用いた制御の動作状態の判定部（実行時処理）４は、人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３が決定した所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。具体的には、図８に示されており、実施例１と同じであるので、詳述しない。
【００６８】
本実施例によれば、人工知能を用いた制御装置２の制御に関するパラメータが所定範囲にあるか否かによって、当該人工知能を用いた制御装置２の動作状態が正常か異常か（人工知能を用いた制御装置２の処理を行うか否か）を判定する。また、当該人工知能を用いた制御装置２の性能を決定する性能パラメータ（重み係数）の値を学習中の人工知能を用いた制御装置１の制御に関するパラメータに基づいて当該所定範囲を決定する。
【００６９】
従って、学習時のデータ（教師データ）にはない入力値を異常と判定するので、人工知能を用いた制御装置２の異常動作の可能性を未然に防止でき（不適切な各ロータの回転速度にならないなど）、ドローン１０の制御システムの信頼性を向上できる。また、例えば、学習時のデータにはない内部演算値及び／又は出力値が得られたとき、人工知能によって外挿された領域（空間）の内部演算値及び／又は出力値の採用を未然に防止でき（不適切な各ロータの回転速度にならないなど）、ドローン１０の制御システムの信頼性を向上できる。
【００７０】
［実施例５］
本実施例においては、人工知能を用いた制御装置の制御に関するパラメータ（例えば、入力値、内部演算値、出力値）が所定範囲（例えば、過去に実績がある範囲）にあるか否かによって、前記制御装置の動作状態が正常か異常か（前記制御装置の処理を行うか否か）を判定する判定部と、前記制御装置の性能を決定する性能パラメータ（重み係数）の値を学習時の制御装置の制御に関するパラメータに基づいて前記所定範囲を決定する決定部とを備える形態を示す。
【００７１】
特に、前記所定範囲は、前記制御に関するパラメータで構成されるベクトルが分布する空間をベクトルで規定する。
【００７２】
また、前記制御装置は、少なくともプラントの温度を制御する装置であるが、他のものを制御する装置でもよい。
【００７３】
図１は、実施例５の制御装置（学習側）１と制御装置（実行側）２の構成を示しており、実施例１と同じであるので、詳述しない。図２は、実施例５の制御装置（学習側）１のシステム構成を示しており、実施例１と同じであるので、詳述しない。図３は、実施例５の制御装置（実行側）２のシステム構成を示しており、実施例１と同じであるので、詳述しない。
【００７４】
図４は、実施例５の制御装置（学習側）１、制御装置（実行側）２及び制御装置（実行側）２によって制御されるプラント７を示しており、実施例１と同じであるので、詳述しない。
【００７５】
以下、実施例５の各処理の詳細を説明する。
【００７６】
＜人工知能を用いた制御手段の学習部（図１２）＞
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段のパラメータ値を学習する。具体的には、図５に示すように、パラメータ値更新器５３を用いて、人工知能５１のパラメータ値を学習する。人工知能を制御手段として用いる場合、制御対象の逆モデルとすることが一例として用いられる。また、人工知能として、例えば、深層学習が用いられる。深層学習のパラメータ値の更新方法としては、教師信号である学習時の入力１及び学習時の出力１を用いて、誤差逆伝搬法による確率的勾配降下法で、深層学習のパラメータ値を決定（更新）する。学習中に人工知能の内部で演算される値（深層学習の場合は中間層のユニットの出力値など）は、学習時の内部演算値１とする。
【００７７】
なお、入力１は、制御周期で変化する値であり、入力１（ｋ）と表記してもよい（ｋ：１，２，３，・・・）。同じく、出力１及び内部演算値１も同様に、出力１（ｋ）及び内部演算値１（ｋ）と表記してもよい。
【００７８】
＜人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）（図１３）＞
【００７９】
人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。具体的には、図１３に示すように、以下の演算を行う。
・学習時の入力１、学習時の内部演算値１、学習時の出力１のすべてが範囲内となるように、 下記の値を更新（決定）する。
学習時の入力１の軸：U_L_1, U_U_1
学習時の内部演算値１の軸：I_L_1, I_U_1
学習時の出力１の軸：Y_L_1, Y_U_1
U_L_1, U_U_1, I_L_1, I_U_1, Y_L_1,  Y_U_1は、下記のベクトルＶ１〜Ｖ８で囲われる空間を規定するためのパラメータである。
V1=[U_L_1, I_L_1, Y_L_1]
V2=[U_L_1, I_U_1, Y_L_1]
V3=[U_L_1, I_L_1, Y_U_1]
V4=[U_L_1, I_U_1, Y_U_1]
V5=[U_U_1, I_L_1, Y_L_1]
V6=[U_U_1, 1_L_1, Y_U_1]
V7=[U_U_1, 1_U_1, Y_L_1]
V8=[U_U_1, I_U_1, Y_U_1]
【００８０】
前述した空間を規定するパラメータの値を大きくすると、後述する異常判定精度が悪化するので、パラメータの値は、学習時の入力１、学習時の内部演算値１、学習時の出力１のすべてが範囲内となる条件を満たす値のうち、極力小さい値とするとよい。
【００８１】
＜人工知能を用いた制御手段（図７）＞
人工知能を用いた制御手段６は、プラント７の温度を制御するための操作量（例えば、蒸気温度を調節するための目標バルブ開度など）を演算する。具体的には、図７に示されており、実施例１と同じであるので、詳述しない。
【００８２】
＜人工知能を用いた制御の動作状態の判定部（実行時処理）（図１４）＞
人工知能を用いた制御の動作状態の判定部（実行時処理）４は、人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３が決定した所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。具体的には、図１４に示すように、下記の条件ａ）が成立する場合に、動作状態が正常であると判定し、異常フラグf_anomaly=0を出力する。一方、条件ａ）が成立しない場合に、動作状態が異常であると判定して、異常フラグf_anomaly=1を出力する。
【００８３】
条件ａ）下記のベクトルＶ１〜Ｖ８で囲われる空間にベクトルP=[U_1, I_1, Y_1]が存在しない。
V1=[U_L_1, I_L_1, Y_L_1]
V2=[U_L_1, I_U_1, Y_L_1]
V3=[U_L_1, I_L_1, Y_U_1]
V4=[U_L_1, I_U_1, Y_U_1]
V5=[U_U_1, I_L_1, Y_L_1]
V6=[U_U_1, 1_L_1, Y_U_1]
V7=[U_U_1, 1_U_1, Y_L_1]
V8=[U_U_1, I_U_1, Y_U_1]
【００８４】
f_anomaly=1のときの対応策として、制御を停止する、フェールセーフ処理を行う、又は、制御装置２の制御に関するパラメータを前述した範囲内に制限して、制御してもよい。
【００８５】
なお、本実施例では三次元としているが、本実施例における処理はＮ次元まで拡張可能である。
【００８６】
本実施例によれば、人工知能を用いた制御装置２の制御に関するパラメータが所定範囲にあるか否かによって、当該人工知能を用いた制御装置２の動作状態が正常か異常か（人工知能を用いた制御装置２の処理を行うか否か）を判定する。また、当該人工知能を用いた制御装置２の性能を決定する性能パラメータ（重み係数）の値を学習中の人工知能を用いた制御装置１の制御に関するパラメータに基づいて当該所定範囲を決定する。
【００８７】
特に、実施例５において、所定範囲は、当該人工知能を用いた制御装置の制御に関するパラメータで構成されるベクトルが分布する空間をベクトルで規定する。ベクトル空間の内側に制御に関するパラメータがあるか否かで、制御装置の異常を判断するので、処理が比較的簡便になる。
【００８８】
従って、学習時のデータ（教師データ）にはない入力値を異常と判定するので、人工知能を用いた制御装置２の異常動作の可能性を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。また、例えば、学習時のデータにはない内部演算値及び／又は出力値が得られたとき、人工知能によって外挿された領域（空間）の内部演算値及び／又は出力値の採用を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。
【００８９】
［実施例６］
本実施例においては、人工知能を用いた制御装置の制御に関するパラメータ（例えば、入力値、内部演算値、出力値）が所定範囲（例えば、過去に実績がある範囲）にあるか否かによって、前記制御装置の動作状態が正常か異常か（前記制御装置の処理を行うか否か）を判定する判定部と、前記制御装置の性能を決定する性能パラメータ（重み係数）の値を学習時の制御装置の制御に関するパラメータに基づいて前記所定範囲を決定する決定部とを備える形態を示す。
【００９０】
特に、実施例５において、前記所定範囲は、前記制御装置の制御に関するパラメータで構成されるベクトルが分布する空間を分割し、分割した空間をベクトルで規定する。
【００９１】
また、前記制御装置は、少なくともプラントの温度を制御する装置であるが、他のものを制御する装置でもよい。
【００９２】
図１は、実施例５の制御装置（学習側）１と制御装置（実行側）２の構成を示しており、実施例１と同じであるので、詳述しない。図２は、実施例５の制御装置（学習側）１のシステム構成を示しており、実施例１と同じであるので、詳述しない。図３は、実施例５の制御装置（実行側）２のシステム構成を示しており、実施例１と同じであるので、詳述しない。
【００９３】
図１５は、実施例６の制御装置（学習側）１、制御装置（実行側）２及び制御装置（実行側）２によって制御される対象として例示するプラント７を示す図である。
【００９４】
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段６のパラメータ値を学習する。人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。人工知能を用いた制御の動作状態の判定部（実行時処理）３は、前記決定された所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。人工知能を用いた制御手段６は、プラント７の温度を制御するための操作量（例えば、蒸気温度を調節するための目標バルブ開度など）を演算する。
【００９５】
以下、実施例６の各処理の詳細を説明する。
【００９６】
＜人工知能を用いた制御手段の学習部（図１６）＞
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段のパラメータ値を学習する。具体的には、図１６に示すように、パラメータ値更新器５５を用いて、人工知能５４のパラメータ値を学習する。人工知能を制御手段として用いる場合、制御対象の逆モデルとすることが一例として用いられる。また、人工知能として、例えば、深層学習が用いられる。深層学習のパラメータ値の更新方法としては、教師信号である学習時の入力１と学習時の出力１を用いて、誤差逆伝搬法による確率的勾配降下法で、深層学習のパラメータ値を決定（更新）する。
【００９７】
なお、入力１は、制御周期で変化していく値であり、入力１（ｋ）と表記されてもよい（ｋ：１，２，３，・・・）。同じく、出力１も同様に、出力１（ｋ）と表記してもよい。
【００９８】
＜人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）（図１７）＞
【００９９】
人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。具体的には、図１７に示す処理で決定するとよい。
ｉ）ベースクラスタリング
・ｋ−ｍｅａｎｓ法によってデータを分割（クラスタリング）する。
ｉｉ）所定範囲の規定
・各分割範囲に属するデータの各次元の最小値と最大値で各分割範囲を規定する。
・範囲１：ベクトルR1a, R1b, R1c, R1dを頂点とする直方体で囲われる範囲
・範囲２：ベクトルR2a, R2b, R2c, R2dを頂点とする直方体で囲われる範囲
・範囲３：ベクトルR3a, R3b, R3c, R3dを頂点とする直方体で囲われる範囲
・範囲４：ベクトルR4a, R4b, R4c, R4dを頂点とする直方体で囲われる範囲
【０１００】
＜人工知能を用いた制御手段（図１８）＞
人工知能を用いた制御手段６は、プラント７の温度を制御するための操作量（例えば、蒸気温度を調節するための目標バルブ開度など）を演算する。具体的には、図１８に示すように、人工知能を用いた制御手段の学習部５で学習済みの人工知能６２を用いる。前述したように、人工知能を制御手段として用いる場合、制御対象の逆モデルとすることが一例として考えられる。また、人工知能として、例えば、深層学習が考えられる。
【０１０１】
＜人工知能を用いた制御の動作状態の判定部（実行時処理）（図１９）＞
人工知能を用いた制御の動作状態の判定部（実行時処理）４は、人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３が決定した所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。具体的には、図１９に示すように、ベクトル[U_1, Y_1]が、範囲１〜範囲４のいずれかの内部にも存在している場合に、制御に関するパラメータが所定範囲内にあると判定して、異常フラグf_anomaly=0を出力する。一方、ベクトル[U_1, Y_1]が、範囲１〜範囲４のいずれの内部にも存在していないとき、制御に関するパラメータが所定範囲内にないと判定して、異常フラグf_anomaly=1を出力する。
【０１０２】
f_anomaly=1のときの対応策として、制御を停止する、フェールセーフ処理を行う、又は、制御装置２の制御に関するパラメータ（入力値、内部演算値、出力値）を前述した範囲内に制限して、制御してもよい。
【０１０３】
なお、本実施例では二次元としているが、本実施例における処理はＮ次元まで拡張可能である。
【０１０４】
本実施例によれば、人工知能を用いた制御装置２の制御に関するパラメータが所定範囲にあるか否かによって、当該人工知能を用いた制御装置２の動作状態が正常か異常か（人工知能を用いた制御装置２の処理を行うか否か）を判定する。また、当該人工知能を用いた制御装置２の性能を決定する性能パラメータ（重み係数）の値を学習中の人工知能を用いた制御装置１の制御に関するパラメータに基づいて当該所定範囲を決定する。
【０１０５】
特に、実施例６において、所定範囲は、当該人工知能を用いた制御装置の制御に関するパラメータで構成されるベクトルが分布する空間を分割し、分割された空間をベクトルで規定する。分割されたベクトル空間の内側に制御に関するパラメータがあるか否かで、制御装置の異常を判断するので、空間の表現性が向上し、比較的簡便な処理の両立が可能となる。
【０１０６】
従って、学習時のデータ（教師データ）にはない入力値を異常と判定するので、人工知能を用いた制御装置２の異常動作の可能性を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。また、例えば、学習時のデータにはない内部演算値及び／又は出力値が得られたとき、人工知能によって外挿された領域（空間）の内部演算値及び／又は出力値の採用を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。
【０１０７】
［実施例７］
本実施例においては、人工知能を用いた制御装置の制御に関するパラメータ（例えば、入力値、内部演算値、出力値）が所定範囲（例えば、過去に実績がある範囲）にあるか否かによって、前記制御装置の動作状態が正常か異常か（前記制御装置の処理を行うか否か）を判定する判定部と、前記制御装置の性能を決定する性能パラメータ（重み係数）の値を学習時の制御装置の制御に関するパラメータに基づいて前記所定範囲を決定する決定部とを備える形態を示す。
【０１０８】
特に、前記所定範囲は、前記制御装置の制御に関するパラメータで構成されるベクトルが分布する空間を関数で近似して規定する。
【０１０９】
また、前記制御装置は、少なくともプラントの温度を制御する装置であるが、他のものを制御する装置でもよい。
【０１１０】
図１は、実施例５の制御装置（学習側）１と制御装置（実行側）２の構成を示しており、実施例１と同じであるので、詳述しない。図２は、実施例５の制御装置（学習側）１のシステム構成を示しており、実施例１と同じであるので、詳述しない。図３は、実施例５の制御装置（実行側）２のシステム構成を示しており、実施例１と同じであるので、詳述しない。
【０１１１】
図１５は、制御装置（学習側）１、制御装置（実行側）２及び制御装置（実行側）２によって制御されるプラント７を示しているが、実施例６と同じであるので、詳述しない。
【０１１２】
以下、実施例７の各処理の詳細を説明する。
【０１１３】
＜人工知能を用いた制御手段の学習部（図１６）＞
人工知能を用いた制御手段の学習部５は、人工知能を用いた制御手段のパラメータ値を学習する。具体的には、図５に示されており、実施例１と同じであるので、詳述しない。
【０１１４】
＜人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）（図２０）＞
【０１１５】
人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３は、人工知能を用いた制御手段６の動作状態が正常か異常かを判定するための所定範囲を決定する。具体的には、図２０に示すように、ＳＶＭ（カーネルモデル）を適用して、所定範囲を決定する。ＳＶＭは、データを囲うな曲線に相当する関数を生成する。当該関数（ＳＶＭ）にベクトル[U, Y]を代入したとき、当該ベクトルが当該所定範囲内に存在しない場合に、ＳＶＭ（カーネルモデル）の値が負になる。ＳＶＭについては、多くの文献があるので、ここではこれ以上の詳述はしない。
【０１１６】
＜人工知能を用いた制御手段（図１８）＞
人工知能を用いた制御手段６は、プラント７の温度を制御するための操作量（例えば、蒸気温度を調節するための目標バルブ開度など）を演算する。具体的には、図１８に示されており、実施例１と同じなので、詳述しない。
【０１１７】
＜人工知能を用いた制御の動作状態の判定部（実行時処理）（図２１）＞
人工知能を用いた制御の動作状態の判定部（実行時処理）４は、人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）３が決定した所定範囲を用いて、人工知能を用いた制御手段６の動作状態が正常か異常かを判定する。具体的には、図２１に示すように、ベクトル[U_1, Y_1]が所定範囲内に存在する場合に、ＳＶＭ（カーネルモデル）の値が正の値になり、制御に関するパラメータが所定範囲内にあると判定して、f_anomaly=0を出力する。一方、ベクトル[U_1, Y_1]が、所定の範囲の内部に存在しない場合に、ＳＶＭ（カーネルモデル）の値が負の値になり、制御に関するパラメータが所定範囲内にないと判定して、f_anomaly=1を出力する。
【０１１８】
f_anomaly=1のときの対応策として、制御を停止する、フェールセーフ処理を行う、又は、制御装置２の制御に関するパラメータ（入力値、内部演算値、出力値）を前述した範囲内に制限して、制御してもよい。
【０１１９】
なお、本実施例では二次元としているが、本実施例における処理はＮ次元まで拡張可能である。
【０１２０】
本実施例によれば、人工知能を用いた制御装置２の制御に関するパラメータが所定範囲にあるか否かによって、当該人工知能を用いた制御装置２の動作状態が正常か異常か（人工知能を用いた制御装置２の処理を行うか否か）を判定する。また、当該人工知能を用いた制御装置２の性能を決定する性能パラメータ（重み係数）の値を学習中の人工知能を用いた制御装置１の制御に関するパラメータに基づいて当該所定範囲を決定する。
【０１２１】
特に、実施例７において、所定範囲は、当該人工知能を用いた制御装置の制御に関するパラメータで構成されるベクトルが分布する空間を関数で近似して規定される。関数の出力値で制御装置の異常を判断するので、異常判定の説明性が高くなり、かつ、比較的簡便な処理の両立が可能となる。
【０１２２】
従って、学習時のデータ（教師データ）にはない入力値を異常と判定するので、人工知能を用いた制御装置２の異常動作の可能性を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。また、例えば、学習時のデータにはない内部演算値及び／又は出力値が得られたとき、人工知能によって外挿された領域（空間）の内部演算値及び／又は出力値の採用を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。
【０１２３】
以上に説明したように、本発明の実施例によると、学習時の情報に基づいた所定範囲決定部（学習時処理）３が、制御装置１の入力値、内部演算値及び出力値の少なくとも一つを含む制御に関するパラメータが、所定範囲（例えば、過去に実績がある範囲）にあるか否かによって、制御装置１の動作状態が正常か異常か（制御装置の処理を行うか否か）を判定し、人工知能を用いた制御の動作状態の判定部（実行時処理）４が、制御装置１の性能を決定する性能パラメータ（例えば、重み係数）の値を学習時の制御装置の制御に関するパラメータに基づいて、所定範囲を決定するので、学習時の情報に基づいて正常又は異常を判定できる。従って、例えば、学習時のデータにはない入力値を異常と判定するので、人工知能を用いた制御装置２の異常動作の可能性を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。また、例えば、学習時のデータにはない内部演算値及び／又は出力値が得られたとき、人工知能によって外挿された領域（空間）の内部演算値及び／又は出力値の採用を未然に防止でき（例えば、不適切な温度にならないなど）、プラント７の制御システムの信頼性を向上できる。
【０１２４】
また、制御に関するパラメータの各々の上限値及び下限値の少なくとも一つによって所定範囲を規定するので、簡易且つ分かりやすく制御に関するパラメータを規定できる。
【０１２５】
また、制御に関するパラメータで構成されるベクトルが分布する空間における領域で所定範囲を規定するので、制御に関するパラメータが所定条件を満たすかをベクトル空間の内側にあるか否かで判定でき、処理が比較的簡便になる。
【０１２６】
また、制御に関するパラメータで構成されるベクトルが分布する空間において組み合わされる複数の領域で所定範囲を規定するので、制御に関するパラメータが所定条件を満たすかを分割された複数のベクトル空間の内側にあるか否かで判断でき、空間の表現性が向上し、比較的簡便な処理の両立が可能となる。
【０１２７】
また、制御に関するパラメータで構成されるベクトルが分布する空間における、関数で近似された領域で所定範囲を規定するので、制御に関するパラメータが所定条件を満たすかを関数で近似されたベクトル空間の内側にあるか否かで判定でき、処理が比較的簡便になる。
【０１２８】
なお、本発明は前述した実施例に限定されるものではなく、添付した特許請求の範囲の趣旨内における様々な変形例及び同等の構成が含まれる。例えば、前述した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに本発明は限定されない。また、ある実施例の構成の一部を他の実施例の構成に置き換えてもよい。また、ある実施例の構成に他の実施例の構成を加えてもよい。また、各実施例の構成の一部について、他の構成の追加・削除・置換をしてもよい。
【０１２９】
また、前述した各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等により、ハードウェアで実現してもよく、プロセッサがそれぞれの機能を実現するプログラムを解釈し実行することにより、ソフトウェアで実現してもよい。
【０１３０】
各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリ、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）等の記憶装置、又は、ＩＣカード、ＳＤカード、ＤＶＤ等の記録媒体に格納することができる。
【０１３１】
また、制御線や情報線は説明上必要と考えられるものを示しており、実装上必要な全ての制御線や情報線を示しているとは限らない。実際には、ほとんど全ての構成が相互に接続されていると考えてよい。
【符号の説明】
【０１３２】
１  制御装置（学習側）
２  制御装置（実行側）
３  人工知能を用いた制御の学習時の情報に基づいた所定範囲決定部（学習時処理）
４  人工知能を用いた制御の動作状態の判定部（実行時処理）
５  人工知能を用いた制御手段の学習部
６  人工知能を用いた制御手段
７  プラント
８  自動運転車
９  ロボット
１０  ドローン
１１  制御装置（学習側）の記憶装置
１２  制御装置（学習側）のＣＰＵ
１３  制御装置（学習側）のＲＯＭ
１４  制御装置（学習側）のＲＡＭ
１５  制御装置（学習側）のデータバス
１６  制御装置（学習側）の入力回路
１７  制御装置（学習側）の入出力ポート
１８  制御装置（学習側）の通信回路（送信）
２１  制御装置（実行側）の記憶装置
２２  制御装置（実行側）のＣＰＵ
２３  制御装置（実行側）のＲＯＭ
２４  制御装置（実行側）のＲＡＭ
２５  制御装置（実行側）のデータバス
２６  制御装置（実行側）の入力回路
２７  制御装置（実行側）の入出力ポート
２８  制御装置（実行側）の出力回路
２９  制御装置（実行側）の通信回路（受信）
３１  人工知能を用いた制御の学習時の入力情報に基づいた所定範囲決定部（学習時処理）
３２  人工知能を用いた制御の学習時の内部演算値情報に基づいた所定範囲決定部（学習時処理）
３３  人工知能を用いた制御の学習時の出力情報に基づいた所定範囲決定部（学習時処理）
５１、５４  人工知能（深層学習など）
５２、５３、５５  パラメータ値更新器
６１、６２  人工知能（深層学習など）
【図１】
2020046905.tif 000003
【図２】
2020046905.tif 000004
【図３】
2020046905.tif 000005
【図４】
2020046905.tif 000006
【図５】
2020046905.tif 000007
【図６】
2020046905.tif 000008
【図７】
2020046905.tif 000009
【図８】
2020046905.tif 000010
【図９】
2020046905.tif 000011
【図１０】
2020046905.tif 000012
【図１１】
2020046905.tif 000013
【図１２】
2020046905.tif 000014
【図１３】
2020046905.tif 000015
【図１４】
2020046905.tif 000016
【図１５】
2020046905.tif 000017
【図１６】
2020046905.tif 000018
【図１７】
2020046905.tif 000019
【図１８】
2020046905.tif 000020
【図１９】
2020046905.tif 000021
【図２０】
2020046905.tif 000022
【図２１】
2020046905.tif 000023