(57)【要約】  制御装置は、人工知能を用いた制御装置の安全性を高めるために、実績のある入力信号に関する情報である実績入力情報を記憶する入力情報記憶部と、入力信号に基づき人工知能を用いて制御対象を制御する人工知能制御部と、実績入力情報に基づいて入力信号の値が実績のある範囲内にあるかどうかを判断し、入力信号の値が実績のある範囲内にある場合に入力信号を人工知能制御部に送信することを許可する入力信号評価部とを備える。
2019087374.tif 000002
【特許請求の範囲】
【請求項１】
実績のある入力信号に関する情報である実績入力情報を記憶する入力情報記憶部と、  受信した入力信号に基づき人工知能を用いて制御対象を制御する人工知能制御部と、  前記実績入力情報に基づいて前記入力信号の値が実績のある範囲内にあるかどうかを判断し、前記入力信号の値が実績のある範囲内にある場合に前記入力信号を前記人工知能制御部に送信することを許可する入力信号評価部と、を有する制御装置。
【請求項２】
前記入力情報記憶部は、前記実績ある入力信号の値の最大値と最小値を算出し、前記最大値を上限値として前記最小値を下限値として記憶し、  前記入力信号評価部は、前記入力信号の値が前記下限値以上かつ前記上限値以下である場合に前記入力信号を前記人工知能制御部に送信することを許可する、請求項１に記載の制御装置。
【請求項３】
前記入力情報記憶部は、前記実績ある入力信号の値を関数で近似する近似関数情報を記憶し、  前記入力信号評価部は、前記入力信号の値と前記近似関数情報が示す値との差が所定範囲内にある場合に前記入力信号を前記人工知能制御部に送信することを許可する、請求項１に記載の制御装置。
【請求項４】
前記入力情報記憶部は、前記実績ある入力信号の値をクラスタリングして１つ以上のデータ集合に分け、前記データ集合に関するデータ範囲を決定し、前記データ範囲の情報を記憶し、  前記入力信号評価部は、前記入力信号の値が前記データ範囲内にある場合に前記入力信号を前記人工知能制御部に送信することを許可する、請求項１に記載の制御装置。
【請求項５】
前記人工知能を用いずに前記制御対象を制御する非人工知能制御部を更に有し、  前記入力信号評価部は、前記入力信号の値が実績のある範囲内にある場合は前記人工知能制御部に前記制御対象を制御させ、前記入力信号の値が実績のある範囲内にない場合は前記非人工知能制御部に前記制御対象を制御させる、請求項１に記載の制御装置。
【請求項６】
前記入力信号の値を実績のある範囲内の値に補正する入力信号補正部を更に有し、  前記入力信号評価部は、前記入力信号の値が実績のある範囲内にない場合に、前記入力信号補正部に前記入力信号の値を補正させる、請求項１に記載の制御装置。
【請求項７】
前記人工知能制御部によって前記入力信号に基づいて前記制御対象に対して行われた制御が正常か否かを判定する制御正常性判定部を更に有し、  前記入力情報記憶部は、前記制御正常性判定部にて前記制御が正常と判定された前記入力信号に関する前記実績入力情報を記憶する、請求項１に記載の制御装置。
【請求項８】
前記人工知能制御部は、前記入力信号と前記制御対象を制御するための過去の出力信号とに基づいて、前記制御対象を制御するための出力信号を生成し、  前記入力情報記憶部は、前記入力信号と前記過去の出力信号との組み合わせに関する組み合わせ実績入力情報を記憶し、  前記入力信号評価部は、前記組み合わせ実績入力情報に基づいて、前記入力信号を前記人工知能制御部に送信することを許可するか否かを判定する、請求項１に記載の制御装置。
【請求項９】
前記入力情報記憶部は、同種の制御対象を制御する複数の制御装置が存在した場合、前記複数の制御装置に関する実績入力情報を記憶し、  前記入力信号評価部は、前記実績入力情報に基づき、前記入力信号の値が、前記複数の制御装置のうち少なくとも１つの制御装置にて実績のある範囲内にある場合に、前記入力信号を前記人工知能制御部に送信することを許可する、請求項１に記載の制御装置。
【請求項１０】
前記制御装置は、他の制御装置と通信可能であり、  前記入力情報記憶部は、自装置の実績入力情報を他の制御装置と相互に通知して共有し、  前記入力信号評価部は、前記複数の制御装置の実績入力情報に基づいて、前記入力信号を前記人工知能制御部に送信することを許可するか否かを判断する、請求項９に記載の制御装置。
【発明の詳細な説明】
【技術分野】
【０００１】  本発明は、制御装置に関し、特に、人工知能を用いた制御装置に関する。
【背景技術】
【０００２】  入力信号に応じて制御を行うことが様々な分野で行われている。例えば、特許文献１の段落０００９には、プラント状態、各制御装置及びそれらへの入力信号の正・異常状態また運転員の手動による要求に従い、制御方式切換装置により各制御装置のどの出力信号を給水調節弁の制御に使用するのか決定を行う旨が記載されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平０５−２９７９０４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】  近年、制御装置に人工知能を利用する検討が行われている。人工知能は処理内容が不透明な場合があり、入力信号が正常であっても異常な制御を行う可能性がある。しかしながら、特許文献１に記載された技術は、入力信号が正常か異常かに応じて制御方式を切り換えるものであり、入力信号が正常であっても異常な制御が行われる可能性が考慮されていない。【０００５】  本発明の目的は、人工知能を用いた制御装置の安全性を高めることである。
【課題を解決するための手段】
【０００６】  上記目的を達成するために本発明の一態様による制御装置は、実績のある入力信号に関する情報である実績入力情報を記憶する入力情報記憶部と、入力信号に基づき人工知能を用いて制御対象を制御する人工知能制御部と、前記実績入力情報に基づいて前記入力信号の値が実績のある範囲内にあるかどうかを判断し、前記入力信号の値が実績のある範囲内にある場合に前記入力信号を前記人工知能制御部に送信することを許可する入力信号評価部と、を有している。
【発明の効果】
【０００７】  本発明の一態様によれば、人工知能を用いた制御装置の安全性を高めることができる。
【図面の簡単な説明】
【０００８】
【図１】第１の実施の形態による制御装置のブロック図である。
【図２】図１に示した制御装置のハードウェア構成を示すシステム図である。
【図３】図１に示した制御装置によってロボットを制御する形態を示す図である。
【図４】図１に示した入力情報記憶部における処理の一例のイメージを示す図である。
【図５】図１に示した入力信号評価部における処理の一例を説明するためのフローチャートである。
【図６】図１に示した人工知能制御部における処理の一例のイメージを示す図である。
【図７】第２の実施の形態による入力情報記憶部における処理の一例のイメージを示す図である。
【図８】第２の実施の形態による入力信号評価部における処理の一例を説明するためのフローチャートである。
【図９】第３の実施の形態による入力情報記憶部における処理の一例のイメージを示す図である。
【図１０】第３の実施の形態による入力信号評価部における処理の一例を説明するためのフローチャートである。
【図１１】第４の実施の形態による入力情報記憶部における処理の一例のイメージを示す図である。
【図１２】第４の実施の形態による前処理部における処理のイメージを示す図である。
【図１３】ある２次元のベクトルからなるデータ群をｋ−ｍｅａｎｓ法により、クラスタ数４でクラスタリングした結果例を示す図である。
【図１４】第４の実施の形態による所定範囲生成部における処理のイメージを示す図である。
【図１５】図１３で示した分割結果に基づいて所定範囲生成部にて範囲を設定した結果例を示す図である。
【図１６】第４の実施の形態による入力信号評価部における処理の一例を説明するための図である。
【図１７】第５の実施の形態による制御装置のブロック図である。
【図１８】図１７に示した制御装置によってロボットを制御する形態を示す図である。
【図１９】図１７に示した入力信号評価部における処理の一例を説明するための図である。
【図２０】図１７に示した非人工知能制御部における処理の一例のイメージを示す図である。
【図２１】第６の実施の形態による非人工知能制御部５における処理の一例のイメージを示す図である。
【図２２】第７の実施の形態による制御装置のブロック図である。
【図２３】図２２に示した制御装置によってロボットを制御する形態を示す図である。
【図２４】図２２に示した入力信号補正部における処理の一例を説明するための図である。
【図２５】第８の実施の形態による制御装置のブロック図である。
【図２６】図２５に示した制御装置によってロボットを制御する形態を示す図である。
【図２７】図２５に示した入力信号記憶部における処理の一例を説明するための図である。
【図２８】第９の実施の形態による制御装置のブロック図である。
【図２９】第１０の実施の形態にて制御装置によって制御対象を制御する一例を示す図である。
【図３０】第１１の実施の形態にて制御装置によって制御対象を制御する一例を示す図である。
【図３１】第１２の実施の形態による制御システム示す図である。
【図３２】第１３の実施の形態による制御システムを示す図である。
【発明を実施するための形態】
【０００９】  以下に、本発明の実施の形態について図面を参照して説明する。
【００１０】  （第１の実施の形態）  図１は、第１の実施の形態による制御装置のブロック図である。
【００１１】  本形態における制御装置１は、図１に示すように、入力情報記憶部２と、入力信号評価部３と、人工知能制御部４とを有している。このように構成された制御装置１においては、入力情報記憶部２において、入力信号に関する過去の情報となる実績入力情報を記憶しておき、入力信号評価部３において、新たに入力された入力信号の値を、入力情報記憶部２に記憶部された実績入力情報と比較して過去に経験した内容の範囲であるか否かを判断し、入力信号の値が過去に経験した内容の範囲である場合、入力信号を人工知能制御部４に送信し、人工知能制御部４において、制御対象に対して入力信号に基づき人工知能を用いて機械学習を用いた制御を行うことになる。
【００１２】  図２は、図１に示した制御装置１のハードウェア構成を示すシステム図である。
【００１３】  図２に示すように図１に示した制御装置１には、外部からの信号を処理する入力回路１６が設けてられている。ここでいう外部からの信号とは、例えば、制御装置１に設置されているセンサ信号等が考えられる。これら外部からの信号は、入力回路１６を経て入力信号となり入出力ポート１７へ送られる。入出力ポート１７に送られた各入力情報は、データバス１５を介してＲＡＭ１４に書き込まれたり、記憶装置１１に記憶されたりする。ＲＯＭ１３もしくは記憶装置１１には、後述の処理が書き込まれており、ＣＰＵ１２にて実行される。その際、ＲＡＭ１４あるいは記憶装置１１に書き込まれた値を、適宜用いて演算を行う。演算結果のうち外部へ送り出す情報（値）は、データバス１５を介して入出力ポート１７に送られ、出力信号として出力回路１８に送られる。そして、出力回路１８から外部への信号として外部に出力される。ここでいう外部への信号とは制御対象を所望の動きをさせるためのアクチュエータ信号等を指す。
【００１４】  図３は、図１に示した制御装置１によってロボットを制御する形態を示す図である。
【００１５】  図３に示すように、図１に示した制御装置１によってロボット７を制御する場合、人工知能制御部４において、ロボット７を制御するための操作量（例えば、目標角度、目標速度、目標トルク等）が演算され、この操作量に応じてロボット７が制御されることになる。
【００１６】  以下に、図１および図３に示した各構成要素における処理の詳細について説明する。
【００１７】  図４は、図１に示した入力情報記憶部２における処理の一例のイメージを示す図である。
【００１８】  図１に示した入力情報記憶部２においては、上述したように、入力信号に関する過去の情報となる実績入力情報を記憶する。具体的には図４に示すように、過去に経験した入力信号ｕ１，ｕ２，ｕ３をデータベース化して記憶する。そして、記憶された入力情報は、それぞれＵ１，Ｕ２，Ｕ３として出力される。なお、記憶手段は、別途、外部に備えても良い。
【００１９】  図５は、図１に示した入力信号評価部３における処理の一例を説明するためのフローチャートである。
【００２０】  本形態の入力信号評価部３においては、入力信号の値を、入力情報記憶部２に記憶された実績入力情報と比較し、過去に経験した内容の範囲であるか否かを判断する。
【００２１】  具体的には、入力信号の値と入力情報記憶部２にてデータベース化されて記憶された実績入力情報とを比較し（ステップ１）、入力信号の値と一致する実績入力情報が存在する場合、入力信号を人工知能制御部４に送信することを許可する（ステップ２）。それにより、人工知能制御部４に制御対象を入力信号によって制御させる。
【００２２】  一方、入力信号の値と一致する実績入力情報が存在しない場合は、入力信号を人工知能制御部４に送信することを許可しない。
【００２３】  図６は、図１に示した人工知能制御部４における処理の一例のイメージを示す図である。
【００２４】  図１に示した人工知能制御部４においては、人工知能（機械学習）を用いた制御による制御対象への操作量が演算される。具体的には図６に示すように、人工知能制御部４おいて、センサ信号等から機械学習を用いた制御により、制御対象への操作量（本実施形態では、ロボット７を制御するための操作量）を演算する。なお、機械学習を用いた制御は、多くの公知技術があるので、ここでは詳述しないが、例えば、ニューラルネットワーク（ディープラーニング）で制御対象のモデル化を行い、予測制御、逆モデル制御を行う等が考えられる。
【００２５】  本形態によれば、過去に経験した実績のある入力信号に関する情報を実績入力情報としてデータベース化して記憶しておき、当該データベースに基づいて、新たな入力信号が過去に経験したことのある入力信号であるか否かを判断し、その結果に基づいて、人工知能を用いた制御方式へ入力信号を送信し、人工知能による制御対象への制御を実行するため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮する処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。
【００２６】  （第２の実施の形態）  本形態における制御装置は、第１の実施の形態に示したものに対して、入力情報記憶部２と入力信号評価部３における処理が異なるものである。
【００２７】  図７は、第２の実施の形態による入力情報記憶部２における処理の一例のイメージを示す図である。
【００２８】  本形態における制御装置の入力情報記憶部２においては、図７に示すように、過去に経験した実績のある入力信号ｕ１，ｕ２，ｕ３の最大値と最小値を算出し、最大値を上限値として最小値を下限値として記憶する。そして、記憶された入力情報は、それぞれＵ１，Ｕ２，Ｕ３として出力される。なお、記憶手段は、別途、外部に備えても良い。
【００２９】  図８は、第２の実施の形態による入力信号評価部３における処理の一例を説明するためのフローチャートである。
【００３０】  本形態の入力信号評価部３においては、入力信号の値を、入力情報記憶部２に記憶された実績入力情報と比較して過去に経験した内容の範囲であるか否かを判断する。
【００３１】  具体的には、入力信号の値と入力情報記憶部２にて記憶された実績入力情報の上下限値とを比較し（ステップ１１）、入力信号のすべてが下限値以上上限値以下の上下限値の範囲に収まっている場合、入力信号を人工知能制御部４に送信することを許可する（ステップ１２）。それにより、人工知能制御部４に制御対象を入力信号によって制御させる。
【００３２】  一方、入力信号の少なくとも１つが上下限値の範囲に収まっていない場合は、入力信号を人工知能制御部４に送信することを許可しない。
【００３３】  本形態によれば、過去に経験した実績のある入力信号の上下限値を実績入力情報として記憶しておき、当該上下限値に基づいて、新たな入力信号が過去に経験したことのある入力信号であるか否かを判断し、その結果に基づいて、人工知能を用いた制御方式へ入力信号を送信し、人工知能による制御対象への制御を実行するため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮する処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。その際、入力信号の実績を上限値と下限値とに集約して記憶するので、入力情報記憶部２に記憶するデータ量を低減することができる。
【００３４】  （第３の実施の形態）  本形態における制御装置は、第１の実施の形態に示したものに対して、入力情報記憶部２と入力信号評価部３における処理が異なるものである。
【００３５】  図９は、第３の実施の形態による入力情報記憶部２における処理の一例のイメージを示す図である。
【００３６】  本形態における制御装置の入力情報記憶部２においては、図９に示すように、過去に実績ある入力信号ｕ１，ｕ２，ｕ３の値を近似する近似関数を算出し、その近似関数を示す近似関数情報を記憶する。ここに、近似に用いる関数は線形関数（１次結合）等が考えられる。パラメータの値を決定する手法としては、例えば、最小二乗法が考えられる。そして、入力情報記憶部２は、入力信号ｕ１，ｕ２，ｕ３が与えられると、近似関数情報が示す近似関数による近似値（近似関数で演算されるｕ１，ｕ２，ｕ３推定値）を算出し、それぞれ入力情報Ｕ１，Ｕ２，Ｕ３として出力する。なお、記憶手段は、別途、外部に備えても良い。
【００３７】  図１０は、第３の実施の形態による入力信号評価部３における処理の一例を説明するためのフローチャートである。
【００３８】  本形態の入力信号評価部３においては、入力信号の値を、入力情報記憶部２に記憶された実績入力情報と比較して過去に経験した内容の範囲であるか否かを判断する。
【００３９】  具体的には、入力信号の値と入力情報記憶部２にて記憶された関数近似値とを比較し（ステップ２１）、入力信号と近似関数が示す値との差が所定範囲に収まっている場合、入力信号を人工知能制御部４に送信することを許可する（ステップ２２）。それにより、人工知能制御部４に制御対象を入力信号によって制御させる。一方、入力信号と近似関数との差が所定範囲に収まっていない場合は、入力信号を人工知能制御部４に送信することを許可しない。
【００４０】  本形態によれば、過去に経験した実績のある入力信号を近似する近似関数の情報を記憶しておき、当該近似関数が示す値との差に基づいて、新たな入力信号が過去に経験したことのある入力信号の所定範囲内であるか否かを判断し、その結果に基づいて、人工知能を用いた制御方式へ入力信号を送信し、人工知能による制御対象への制御を実行する。そのため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮する処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。その際、入力信号の実績を近似関数として集約して記憶するので、入力情報記憶部２に記憶するデータ量を低減することができる。
【００４１】  （第４の実施の形態）  本形態における制御装置は、第１の実施の形態に示したものに対して、入力情報記憶部２と入力信号評価部３における処理が異なるものである。
【００４２】  図１１は、第４の実施の形態による入力情報記憶部２における処理の一例のイメージを示す図である。
【００４３】  本形態における制御装置の入力情報記憶部２は、図１１に示すように、前処理部１０８と、所定範囲生成部１０９とを有し、実績ある入力信号の値をクラスタリングして１つ以上のデータ集合に分け、データ集合に関するデータ範囲を決定し、データ範囲の情報を記憶する。
【００４４】  図１２は、第４の実施の形態による前処理部１０８における処理のイメージを示す図である。
【００４５】  図１１に示した前処理部１０８においては、図１２に示すように、ベクトル化された入力信号ｕ１，ｕ２を機械学習ｋ−ｍｅａｎｓを用いてクラスタリングする。そして、ｋ−ｍｅａｎｓ法により、得られた分割情報を出力する。ここでいう分割情報とは、ｋ−ｍｅａｎｓ法によって分割されたデータが属するクラスタ番号と、各クラスタに属するデータの平均値（中心ベクトル）とを指す。なお、ｋ−ｍｅａｎｓ法の詳細については、多くの文献、書籍で述べてあるので、ここでは詳述しない。
【００４６】  図１３は、ある２次元のベクトルからなるデータ群をｋ−ｍｅａｎｓ法により、クラスタ数４でクラスタリングした結果例を示す図である。
【００４７】  図１４は、第４の実施の形態による所定範囲生成部１０９における処理のイメージを示す図である。
【００４８】  図１１に示した所定範囲生成部１０９では、図１４に示すように、前処理部１０８で演算した分割情報を用いて、分割された入力信号集合毎にデータ範囲を設定し、その結果を実績入力情報として記憶する。具体的には、各クラスタに属するデータの各次元の最小値を各クラスタに対応する範囲の各次元の下限とし、各クラスタに属するデータの各次元の最大値を各クラスタに対応する範囲の各次元の上限とする。ここでいう範囲情報とは、各クラスタ（中心ベクトル）に対応する範囲を規定する各次元の下限値と上限値を指す。
【００４９】  図１５は、図１３で示した分割結果に基づいて所定範囲生成部１０９にて範囲を設定した結果例を示す図である。
【００５０】  所定範囲生成部１０９にて設定、記憶した範囲の情報は、記憶された入力情報として出力される。なお、記憶手段は、別途、外部に備えても良い。
【００５１】  図１６は、第４の実施の形態による入力信号評価部３における処理の一例を説明するための図である。
【００５２】  本形態の入力信号評価部３においては、入力信号の値を入力情報記憶部２に記憶された実績入力情報と比較して入力信号の値が過去に経験したデータ範囲内にあるか否かを判断し、入力信号の値がデータ範囲内にある場合に入力信号を人工知能制御部４に送信することを許可する。具体的には図１６に示すように、過去に経験した入力情報（所定範囲情報）を参照して、新たな入力信号（ベクトル［ｕ１，ｕ２］）に対して、距離が最も短い中心ベクトルを特定する。
【００５３】  そして、特定した中心ベクトルに対応する範囲の内部に、新たな入力信号（ベクトル［ｕ１，ｕ２］）が存在する場合は、入力信号を人工知能制御部４に送信することを許可する。
【００５４】  一方、特定した中心ベクトルに対応する範囲の内部に、新たな入力信号（ベクトル［ｕ１，ｕ２］）が存在しない場合は、入力信号を人工知能制御部４に送信することを許可しない。
【００５５】  例えば、入力信号のベクトルが図１６中Ａ点およびＢ点にある場合、Ａ点に最も近い中心ベクトルＱを特定し、その中心ベクトルＱに対応する範囲４の内部にＡ点は存在するが、Ｂ点は存在しないことになる。
【００５６】  本形態によれば、過去に経験した実績のある入力信号の値をクラスタリングして１つ以上のデータ集合に分け、データ集合に関するデータ範囲を決定し、入力信号がデータ範囲内にあるか否かを判断し、その結果に基づいて、人工知能を用いた制御方式へ入力信号を送信し、人工知能による制御対象への制御を実行するため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮する処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。その際、入力信号の実績をデータ範囲に集約して記憶するので、入力情報記憶部２に記憶するデータ量を低減することができる。
【００５７】  （第５の実施の形態）  図１７は、第５の実施の形態による制御装置のブロック図である。
【００５８】  本形態における制御装置は図１７に示すように、第１の実施の形態に示したものに対して、非人工知能制御部５および切替部５ａを有するとともに、入力信号評価部３における処理が異なるものである。入力信号評価部３においては、入力信号の値を入力情報記憶部２に記憶された実績入力情報と比較し、入力信号の値が過去に経験した内容の範囲内にあるか否かを判断し、入力信号の値が過去に経験した内容の範囲内にない場合、切替部５ａを制御することで入力信号の人工知能制御部４への送信を停止すると共に、非人工知能制御部５によるＰＩＤ制御に切り替える。その際、入力信号評価部３において、切替部５ａを用いた切替を音声等によって出力すれば、操作者が、人工知能制御部４による制御であるのか、非人工知能制御部５によるＰＩＤ制御であるのかを知ることができる。人工知能制御部４では上記同様に機械学習を用いた制御を行い、非人工知能制御部５ではＰＩＤ制御を用いた制御を行う。また、入力情報記憶部２においては、第４の実施の形態にて示したものと同様の処理を行う。
【００５９】  図１８は、図１７に示した制御装置１によってロボットを制御する形態を示す図である。
【００６０】  図１８に示すように、図１７に示した制御装置１によってロボット７を制御する場合、人工知能制御部４または非人工知能制御部５において、ロボット７を制御するための操作量（例えば、目標角度、目標速度、目標トルク等）が演算され、この操作量に応じてロボット７が制御されることになる。
【００６１】  図１９は、図１７に示した入力信号評価部３における処理の一例を説明するための図である。
【００６２】  本形態の入力信号評価部３においては、入力信号の値を入力情報記憶部２に記憶された実績入力情報と比較して入力信号の値が過去に経験したデータ範囲内にあるか否かを判断し、入力信号の値がデータ範囲内にある場合は入力信号を人工知能制御部４に送信することを許可し、人工知能制御部４に制御対象を制御させ、入力信号の値がデータ範囲内にない場合は非人工知能制御部５に制御対象を制御させる。具体的には図１９に示すように、過去に経験した入力情報（所定範囲情報）を参照して、新たな入力信号（ベクトル［ｕ１，ｕ２］）に対して、距離が最も短い中心ベクトルを特定する。
【００６３】  そして、特定した中心ベクトルに対応する範囲の内部に、新たな入力信号（ベクトル［ｕ１，ｕ２］）が存在する場合は、入力信号を人工知能制御部４に送信することを許可する。
【００６４】  一方、特定した中心ベクトルに対応する範囲の内部に、新たな入力信号（ベクトル［ｕ１，ｕ２］）が存在しない場合は、制御方式を人工知能を用ない制御とし、入力信号を人工知能制御部４に送信することを許可しない。
【００６５】  例えば、入力信号のベクトルが図１９中Ａ点およびＢ点にある場合、Ａ点に最も近い中心ベクトルＱを特定し、その中心ベクトルＱに対応する範囲４の内部にＡ点は存在するが、Ｂ点は存在しないことになる。
【００６６】  図２０は、図１７に示した非人工知能制御部５における処理の一例のイメージを示す図である。
【００６７】  本形態の非人工知能制御部５においては、例えば、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には図２０に示すように、センサ信号等からＰＩＤ制御により、制御対象への操作量（本実施形態では、ロボット７を制御するための操作量）を演算する。ＰＩＤ制御については、多くの公知技術があるので、ここでは詳述しない。
【００６８】  本形態によれば、過去に経験した実績のある入力信号の範囲を記憶し、入力信号の値がその範囲内にあるか否かを判断し、入力信号の値が過去に経験した内容の範囲内にない場合、新たな入力信号の人工知能制御部４への送信を停止すると共に、人工知能を用いない制御としてＰＩＤ制御に切り替えるため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮すると共に、非常時の対応制御の処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。
【００６９】  （第６の実施の形態）  本形態における制御装置は、第５の実施の形態に示したものに対して、非人工知能制御部５における処理が異なるものである。
【００７０】  図２１は、第６の実施の形態による非人工知能制御部５における処理の一例のイメージを示す図である。
【００７１】  本形態の非人工知能制御部５においては、例えば、人工知能とは異なる制御である手動制御による制御対象への操作量を演算する。具体的には図２１に示すように、センサ信号やカメラ画像の情報等から手動制御により、制御対象への操作量（本実施形態では、ロボット７を制御するための操作量）を演算する。なお、ここでの手動制御とは、ロボット操作者によるマニュアル制御を指す。
【００７２】  入力情報記憶部２においては、第４の実施の形態にて示したものと同様の処理を行い、入力信号評価部３においては、入力信号の値を入力情報記憶部２に記憶された実績入力情報と比較して入力信号の値が過去に経験した実績のあるデータ範囲内にあるか否かを判断し、入力信号の値がデータ範囲内にある場合は人工知能制御部４に制御対象を制御させ、入力信号の値がデータ範囲内にない場合は、入力信号の人工知能制御部４への送信を停止すると共に、非人工知能制御部５によって人工知能を用いない制御を行う手動制御に切り替える。
【００７３】  本形態によれば、過去に経験した実績のある入力信号の範囲を記憶し、入力信号の値がその範囲内にあるか否かを判断し、入力信号の値が過去に経験した内容の範囲内にない場合、新たな入力信号の人工知能制御部４への送信を停止すると共に、人工知能を用いない制御として手動制御に切り替えるため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮すると共に、非常時の対応制御の処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。
【００７４】  （第７の実施の形態）  図２２は、第７の実施の形態による制御装置のブロック図である。
【００７５】  本形態における制御装置は図２２に示すように、第１の実施の形態に示したものに対して、入力信号補正部６を有する点が異なるものである。また、入力情報記憶部２および入力信号評価部３においては、第４の実施の形態にて示したものと同様の処理を行う。そして、入力信号評価部３において、入力信号の値を入力情報記憶部２に記憶された実績入力情報と比較し、入力信号の値が過去に経験した内容の範囲内にあるか否かを判断し、過去に経験した内容の範囲内にない場合、入力信号補正部６が、入力信号評価部３からの指示に応じて入力信号の値を過去に経験した内容の範囲内に修正する。
【００７６】  図２３は、図２２に示した制御装置１によってロボットを制御する形態を示す図である。
【００７７】  図２３に示すように、図２２に示した制御装置１によってロボット７を制御する場合、人工知能制御部４または非人工知能制御部５において、ロボット７を制御するための操作量（例えば、目標角度、目標速度、目標トルク等）が演算され、この操作量に応じてロボット７が制御されることになる。
【００７８】  図２４は、図２２に示した入力信号補正部６における処理の一例を説明するための図である。
【００７９】  本形態の入力信号補正部６においては、上述したように、入力信号評価部３において、入力信号が過去に経験した内容の範囲内にないと判断された場合に、入力信号の値を過去に経験した内容の範囲内に修正する。具体的には図２４に示すように、入力信号のベクトル値がＡ１であることで範囲４内にある場合は、補正後の入力信号Ｕ１，Ｕ２を、入力信号ｕ１，ｕ２とする。また、入力信号のベクトル値がＡ２やＡ３であることで範囲４内にない場合は、入力信号補正部６において、補正後入力信号Ｕ１，Ｕ２を、範囲４内に収まるように補正した値Ｂ２，Ｂ３とする。なお、Ｂ２は、Ａ２に対して最も近い範囲内にあるベクトルであり、Ｂ３は、Ａ３に対して最も近い範囲内にあるベクトルである。
【００８０】  本形態によれば、過去に経験した実績のある入力信号の範囲を記憶し、入力信号の値がその範囲内にあるか否かを判断し、入力信号の値が過去に経験した内容の範囲内にない場合、入力信号を過去に経験した実績のある内容の範囲に修正するため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮する処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。
【００８１】  （第８の実施の形態）  図２５は、第８の実施の形態による制御装置のブロック図である。
【００８２】  本形態における制御装置は図２５に示すように、第１の実施の形態に示したものに対して、人工知能制御部４によって入力信号に基づいて制御対象７ａに対して行われた制御が正常か否かを判定する制御正常性判定部２１を有するとともに、入力情報記憶部２における処理が異なるものである。制御正常性判定部２１においては、人工知能制御部４によって入力信号に基づいて制御対象７ａに対して行われた制御が正常か否かを判定し、その確認情報を入力情報記憶部２に送信する。
【００８３】  図２６は、図２５に示した制御装置１によってロボットを制御する形態を示す図である。
【００８４】  図２６に示すように、図２５に示した制御装置１によってロボット７を制御する場合、人工知能制御部４において、ロボット７を制御するための操作量（例えば、目標角度、目標速度、目標トルク等）が演算され、この操作量に応じてロボット７が制御されることになる。
【００８５】  図２７は、図２５に示した入力信号記憶部２における処理の一例を説明するための図である。
【００８６】  本形態の入力信号記憶部２においては、入力信号に関する過去の情報を記憶する処理を行う。具体的には図２７に示すように、入力信号記憶部２は、制御正常性判定部２１から送信されてきた正常動作確認情報に基づいて、正常動作が確認された過去に経験した入力信号ｕ１，ｕ２，ｕ３のみを実績入力情報として記憶する。また、記憶された入力情報は、それぞれＵ１，Ｕ２，Ｕ３として出力される。なお、記憶手段は、別途、外部に備えても良い。
【００８７】  制御正常性判定部２１における正常動作の確認は、ロボット７の場合は、異常動作の有無や危険動作の有無等で判断する。異常動作の有無や危険動作の有無は、公知技術が多くあり、一般的手法なので、ここでは詳述しない。
【００８８】  本形態によれば、入力信号の値が、制御が正常に行われた入力信号に関する実績入力情報による範囲内にあるか否かに基づいて、人工知能による制御を許可するので、人工知能による異常制御を低減することができる。
【００８９】  （第９の実施の形態）  図２８は、第９の実施の形態による制御装置のブロック図である。
【００９０】  本形態における制御装置は図２８に示すように、第１の実施の形態に示したものに対して、人工知能制御部４から制御対象となるロボット７を制御するために出力された出力信号が入力情報記憶部２および人工知能制御部４に入力されている点が異なるものである。
【００９１】  本形態の入力情報記憶部２においては、入力信号と、人工知能制御部４から出力された過去の出力信号との組み合わせに関する組み合わせ実績入力情報を記憶する。入力信号評価部３は、入力情報記憶部２に記憶された組み合わせ実績入力情報に基づいて、入力信号を人工知能制御部４に送信するか否かを判定する。判定の方法としては、上述した実施の形態にて示した方法を適用することができる。そして、人工知能制御部４は、入力信号とロボット７を制御するための過去の出力信号とに基づいて、ロボット７を制御するための出力信号を生成することとなる。
【００９２】  本形態によれば、人工知能を用いた制御において入力信号と過去の出力信号とに基づいて出力信号が生成される場合に、入力信号と過去の出力信号との組み合わせに関する組み合わせ実績入力情報を記憶し、入力信号に基づく制御を行うか否か判定するので、人工知能を用いた異常制御を低減することができる。
【００９３】  （第１０の実施の形態）  図２９は、第１０の実施の形態にて制御装置１によって制御対象を制御する一例を示す図である。
【００９４】  本形態は図２９に示すように、図１に示した制御装置１によって制御対象として自動運転車８を制御する。なお、入力情報記憶部２および入力信号評価部３においては、第４の実施の形態にて示したものと同様の処理を行う。人工知能制御部４においては、自動運転車８を制御するための操作量（例えば、目標速度、目標回転速度等）が演算される。
【００９５】  本形態によれば、過去に経験した入力信号の範囲を記憶し、入力信号の値がその範囲内にあるか否かを判断し、入力信号の値がその範囲内にある場合に、入力信号の人工知能制御部４への送信を許可するため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮する処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。なお、入力信号の値がその範囲内にない場合は、ハンドルやアクセル、ブレーキ等の操作が運転手によるものに切り替えられる。
【００９６】  （第１１の実施の形態）  図３０は、第１１の実施の形態にて制御装置１によって制御対象を制御する一例を示す図である。
【００９７】  本形態は図３０に示すように、図１に示した制御装置１によって制御対象としてドローン９を制御する。なお、入力情報記憶部２および入力信号評価部３においては、第４の実施の形態にて示したものと同様の処理を行う。人工知能制御部４においては、ドローン９を制御するための操作量（例えば、各ローターの目標回転速度等）が演算される。
【００９８】  本形態によれば、過去に経験した入力信号の範囲を記憶し、入力信号の値がその範囲内にあるか否かを判断し、入力信号の値がその範囲内にある場合に、入力信号の人工知能制御部４への送信を許可するため、処理の内容が不透明なこと多い人工知能を用いた制御方式において、入力信号が正常であっても異常動作をする可能性があることを考慮する処理を行うことになり、人工知能を用いた制御装置による異常制御を低減することができ、性能と安全性の両立が可能となる。
【００９９】  （第１２の実施の形態）  図３１は、第１２の実施の形態による制御システムを示す図である。第１２の実施の形態による制御システムでは、図３１に示すように、上述した構成を有する複数の制御装置１−１〜１−ｎが通信可能に接続され、それぞれが互いに同種の制御対象７ａ−１〜７ａ−ｎを制御するものである。制御装置１−１〜１−ｎのそれぞれは、入力情報記憶部２において、自装置の実績入力情報を他の制御装置と相互に通知して共有することで、他の制御装置に関する実績入力情報を記憶し、入力信号評価部３において、実績入力情報に基づき、入力信号の値が、複数の制御装置のうち少なくとも１つの制御装置にて実績のある範囲内にある場合に、入力信号を人工知能制御部４に送信することを許可し、人工知能制御部４にて制御対象７ａ−１〜７ａ−１を制御させることになる。
【０１００】  本形態によれば、複数の制御装置における過去の実績に基づいて人工知能による制御の可否を判断するので、人工知能による実績のある制御を適用できる場合を増やすことができ、また、複数の制御装置が互いに実績のある入力信号の範囲の情報を共有することで、複数の制御装置だけで実績の共有を実現することができる。
【０１０１】  （第１３の実施の形態）  図３２は、第１３の実施の形態による制御システムを示す図である。第１３の実施の形態による制御システムは、図３２に示すように、上述した構成を有する複数の制御装置１−１〜１−ｎと、管理装置２２とが通信可能に接続されて構成されている。管理装置２２は、複数の制御装置１−１〜１−ｎにおける個別の過去の実績のある入力信号に関する情報である個別実績入力情報を通信によって取得し、複数の個別実績入力情報に基づいて、複数の制御装置１−１〜１−ｎのうち少なくとも１つの制御装置にて実績のある範囲を示す実績入力情報を生成し、生成した実績入力情報を複数の制御装置１−１〜１−ｎに通知する。すると、管理装置２２から送信された実績入力情報を受信した複数の制御装置１−１〜１−ｎは、入力情報記憶部２において、管理装置２２から送信されることで通知された実績入力情報を記憶することになる。
【０１０２】  本形態によれば、管理装置２２が複数の制御装置１−１〜１−ｎの情報を集約し、少なくとも１つの制御装置で実績のある入力信号の範囲の情報を複数の制御装置１−１〜１−ｎに通知するので、複数の制御装置１−１〜１−ｎにて容易に実績を共有することができる。また、管理装置２２にて実績入力情報を一括で管理するので、制御装置の追加や削除も容易となる。
【符号の説明】
【０１０３】１，１−１〜１−ｎ…制御装置、２…入力情報記憶部、３…入力信号評価部、４…人工知能制御部、５…非人工知能制御部、５ａ…切替部、６…入力信号補正部、７…ロボット、７ａ，７−１〜７−ｎ…制御対象、８…自動運転車、９…ドローン、１１…記憶装置、１２…ＣＰＵ、１３…ＲＯＭ、１４…ＲＡＭ、１５…データバス、１６…入力回路、１７…入出力ポート、１８…出力回路、２１…制御正常性判定部、２２…管理装置、１０８…前処理部、１０９…所定範囲生成部
【図１】
2019087374.tif 000003
【図２】
2019087374.tif 000004
【図３】
2019087374.tif 000005
【図４】
2019087374.tif 000006
【図５】
2019087374.tif 000007
【図６】
2019087374.tif 000008
【図７】
2019087374.tif 000009
【図８】
2019087374.tif 000010
【図９】
2019087374.tif 000011
【図１０】
2019087374.tif 000012
【図１１】
2019087374.tif 000013
【図１２】
2019087374.tif 000014
【図１３】
2019087374.tif 000015
【図１４】
2019087374.tif 000016
【図１５】
2019087374.tif 000017
【図１６】
2019087374.tif 000018
【図１７】
2019087374.tif 000019
【図１８】
2019087374.tif 000020
【図１９】
2019087374.tif 000021
【図２０】
2019087374.tif 000022
【図２１】
2019087374.tif 000023
【図２２】
2019087374.tif 000024
【図２３】
2019087374.tif 000025
【図２４】
2019087374.tif 000026
【図２５】
2019087374.tif 000027
【図２６】
2019087374.tif 000028
【図２７】
2019087374.tif 000029
【図２８】
2019087374.tif 000030
【図２９】
2019087374.tif 000031
【図３０】
2019087374.tif 000032
【図３１】
2019087374.tif 000033
【図３２】
2019087374.tif 000034
【国際調査報告】
2019087374.tif 000035
2019087374.tif 000036
2019087374.tif 000037
2019087374.tif 000038