(57)【要約】人工知能を用いた制御を行う別の端末で異常が発生した場合に、人工知能を用いた制御の異常発生を未然に防止することができる制御装置等を提供する。制御手段（２）（第１の制御部）は、人工知能を用いた制御を行う。制御手段（３）（第２の制御部）は、人工知能と異なる制御を行う。制御切替部（切り替え判定手段（５）、スイッチ（５ａ））は、制御手段（２）（第１の制御部）を有する別の端末が正常である場合、自らの制御手段（２）（第１の制御部）に人工知能を用いた制御を行わせ、制御手段（２）（第１の制御部）を有する別の端末に異常が発生した場合、制御手段（３）（第２の制御部）に人工知能と異なる制御を行わせる。
2018179191.tif 000002
【特許請求の範囲】
【請求項１】
人工知能を用いた制御を行う第１の制御部と、  前記人工知能と異なる制御を行う第２の制御部と、  前記第１の制御部を有する別の端末が正常である場合、自らの前記第１の制御部に前記人工知能を用いた制御を行わせ、前記第１の制御部を有する別の端末に異常が発生した場合、前記第２の制御部に前記人工知能と異なる制御を行わせる制御切替部と、  を備えることを特徴とする制御装置。
【請求項２】
請求項１に記載の制御装置であって、  前記別の端末の異常を示す異常通知を受信する受信部を備え、  前記制御切替部は、  前記異常通知が受信されない場合、前記第１の制御部に前記人工知能を用いた制御を行わせ、前記異常通知が受信された場合、前記第２の制御部に前記人工知能と異なる制御を行わせる  ことを特徴とする制御装置。
【請求項３】
請求項２に記載の制御装置であって、  前記第１の制御部は、  前記人工知能を用いた制御の入力値から前記人工知能を用いた制御の出力値を決定する関数のパラメータを示す制御パラメータ値を学習し、  前記入力値と学習された前記制御パラメータ値に基づいて前記出力値を算出する  ことを特徴とする制御装置。
【請求項４】
請求項３に記載の制御装置であって、  前記人工知能を用いた制御は、  機械学習を用いた制御である  ことを特徴とする制御装置。
【請求項５】
請求項１に記載の制御装置であって、  前記人工知能と異なる制御は、  ＰＩＤ制御又は手動制御である  ことを特徴とする制御装置。
【請求項６】
請求項３に記載の制御装置であって、  少なくとも１つの前記制御パラメータ値が所定範囲にない状態が所定時間継続した場合、前記第１の制御部が異常であると判定する異常検知部を備え、  前記制御切替部は、  前記異常通知が受信されず且つ前記第１の制御部が異常であると判定されない場合、前記第１の制御部に前記人工知能を用いた制御を行わせ、  前記異常通知が受信され又は前記第１の制御部が異常であると判定された場合、前記第２の制御部に前記人工知能と異なる制御を行わせる  ことを特徴とする制御装置。
【請求項７】
請求項３に記載の制御装置であって、  前記第１の制御部によって学習された前記制御パラメータ値を記憶する記憶部を備え、  前記受信部は、  サーバーで学習された前記制御パラメータ値を受信し、  前記第１の制御部は、  前記第２の制御部が前記人工知能と異なる制御を行う期間に、前記記憶部に記憶された前記制御パラメータ値を、前記サーバーで学習された前記制御パラメータ値で更新する  ことを特徴とする制御装置。
【請求項８】
請求項７に記載の制御装置であって、  前記制御切替部は、  前記制御パラメータ値の更新後に、前記人工知能と異なる制御から前記人工知能を用いた制御に切り替える  ことを特徴とする制御装置。
【請求項９】
請求項６に記載の制御装置であって、  前記第１の制御部が異常であると判定された場合、前記異常通知を送信する送信部を備える  ことを特徴とする制御装置。
【請求項１０】
請求項１に記載の制御装置であって、  前記人工知能を用いた制御及び前記人工知能と異なる制御の対象は、  機械である  ことを特徴とする制御装置。
【請求項１１】
請求項１０に記載の制御装置であって、  前記機械は、  ロボット、自動運転車、又は飛行体である  ことを特徴とする制御装置。
【請求項１２】
請求項９に記載の制御装置と同じ構成の複数の端末とサーバーを含む制御システムであって、  前記異常通知は、  前記サーバーを介して、前記第１の制御部が異常であると判定されていない前記端末に通知される  ことを特徴とする制御システム。
【請求項１３】
請求項９に記載の制御装置と同じ構成の複数の端末を含む制御システムであって、  前記異常通知は、  端末間通信により、前記第１の制御部が異常であると判定されていない前記端末に通知される  ことを特徴とする制御システム。
【請求項１４】
請求項１２に記載の制御システムであって、  前記サーバーは、  前記人工知能を用いた制御から前記人工知能と異なる制御へ切り替えるタイミングを同期させるための切り替え同期フラグをすべての前記端末に送信し、  それぞれの前記端末の前記受信部は、  前記切り替え同期フラグを受信し、  それぞれの前記端末の前記制御切替部は、  前記異常通知が受信され且つ前記切り替え同期フラグが受信された場合、前記人工知能を用いた制御から前記人工知能と異なる制御に切り替える  ことを特徴とする制御システム。
【請求項１５】
請求項１２に記載の制御システムであって、  前記サーバーは、  周期的な信号を示す周期信号をすべての前記端末に送信し、  それぞれの前記端末の前記受信部は、  前記周期信号を受信し、  それぞれの前記端末の前記制御切替部は、  前記周期信号が受信されない場合も、前記人工知能を用いた制御から前記人工知能と異なる制御に切り替える  ことを特徴とする制御システム。
【発明の詳細な説明】
【技術分野】
【０００１】  本発明は、制御装置及び制御システムに関する。
【背景技術】
【０００２】  本技術分野の背景技術として、特開平05-279980（特許文献１）がある。この文献には、「自動運転モードと手動運転モードとに切換える運転モード切換手段を設けているので、万一画像情報処理系や実ライン用ニューラルネットワークに不具合が生じても直ちに手動運転モードに切換えて運転を継続できる。また、手動運転モードに切換え、そのときの入出力データを学習・評価用データ記憶手段に取込み、このデータを使って学習・評価用ニューラルネットワークに学習させ、学習結果である結合重みを実ライン用ニューラルネットワークに転写することができるので、経験を積んだオペレータが制御している場合と同じような制御を自動的に行わせることができる。」と記載されている（〔作用〕参照）。【０００３】  また、特開平05-297904（特許文献２）がある。この文献には、「ＰＩ制御装置、ファジィ制御装置、ニューロ制御装置からなる複数の制御方式を有する制御装置において、予め制御対象の状態とその状態における制御装置が有している各制御方式の適性の関係を記憶し、この記憶した関係を基に各時点の制御対象の状態における各制御方式の適性を判定する制御方式切替装置を設け、この制御方式切替装置に入力する各時点の制御対象の状態、各制御装置及びこれらへの入力情報の正・異常状態に応じて、各制御方式の最適性または適合性あるいは制御対象の状態を出力して表示すると共に、最適な制御方式を選定して切替る。」と記載されている（〔構成〕参照）。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開平05-279980号公報
【特許文献２】特開平05-297904号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】  しかしながら、前述の先行技術（特許文献１と特許文献２）は、ニューラルネットワーク、ファジィ制御など人工知能を用いた単一の制御システムにおいて異常が発生した場合の制御方式であり、同じく人工知能を用いた複数の制御システムにおいて異常が発生した場合の制御方式ではない。【０００６】  本発明の目的は、人工知能を用いた制御を行う別の端末で異常が発生した場合に、人工知能を用いた制御の異常発生を未然に防止することができる制御装置等を提供することにある。
【課題を解決するための手段】
【０００７】  上記目的を達成するために、本発明は、人工知能を用いた制御を行う第１の制御部と、前記人工知能と異なる制御を行う第２の制御部と、前記第１の制御部を有する別の端末が正常である場合、前記第１の制御部に前記人工知能を用いた制御を行わせ、前記第１の制御部を有する別の端末に異常が発生した場合、前記第２の制御部に前記人工知能と異なる制御を行わせる制御切替部と、を備える。
【発明の効果】
【０００８】  本発明によれば、人工知能を用いた制御を行う別の端末で異常が発生した場合に、人工知能を用いた制御の異常発生を未然に防止することができる。上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
【図面の簡単な説明】
【０００９】
【図１】実施形態１〜６における制御システムの全体図である。
【図２】実施形態１、５〜７における端末（制御装置）と制御対象を示した図である。
【図３】実施形態１〜５、８における端末（制御装置）のシステム構成図である。
【図４】実施形態１〜５、８におけるサーバーのシステム構成図である。
【図５】実施形態１〜９における人工知能を用いた制御手段の処理を示した図である。
【図６】実施形態１〜３、５〜９における人工知能とは異なる制御手段の処理を示した図である。
【図７】実施形態１〜９における異常検知手段の処理を示した図である。
【図８】実施形態１〜７における制御切り替え判定手段の処理を示した図である。
【図９】実施形態１〜４におけるサーバーでの処理を示した図である。
【図１０】実施形態２、４における端末（制御装置）と制御対象を示した図である。
【図１１】実施形態３における端末（制御装置）と制御対象を示した図である。
【図１２】実施形態４における人工知能とは異なる制御手段の処理を示した図である。
【図１３】実施形態５におけるサーバーでの処理を示した図である。
【図１４】実施形態６における端末（制御装置）のシステム構成図である。
【図１５】実施形態６におけるサーバーのシステム構成図である。
【図１６】実施形態６におけるサーバーでの処理を示した図である。
【図１７】実施形態７における制御システムの全体図である。
【図１８】実施形態８における制御システムの全体図である。
【図１９】実施形態８における端末（制御装置）と制御対象を示した図である。
【図２０】実施形態８における制御切り替え判定手段の処理を示した図である。
【図２１】実施形態８におけるサーバーでの処理を示した図である。
【図２２】実施形態９における制御システムの全体図である。
【図２３】実施形態９における端末（制御装置）と制御対象を示した図である。
【図２４】実施形態９における端末（制御装置）のシステム構成図である。
【図２５】実施形態９におけるサーバーのシステム構成図である。
【図２６】実施形態９における制御切り替え判定手段の処理を示した図である。
【図２７】実施形態９におけるサーバーでの処理を示した図である。
【発明を実施するための形態】
【００１０】  以下、図面を用いて、本発明の実施形態１〜９による端末（制御装置）を含む制御システムの構成及び動作について説明する。端末は、ロボット、自動運転車、ドローン（飛行体）等の機械を制御する。なお、各図において、同一符号は同一部分を示す。
【００１１】  （実施形態１）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なるＰＩＤ制御（Proportional Integral Derivative Control）を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替える制御切替手段とを備えた形態について示す。
【００１２】  なお、人工知能（機械学習）を用いた制御の少なくとも一つのパラメータの値が所定範囲にない状態が所定時間継続したとき、異常と判定する。
【００１３】  また、制御システムは、サーバーと端末で構成され、複数の端末のうち少なくとも一つの端末において人工知能（機械学習）を用いた制御手段に異常が生じたとき、サーバー介した通信手段により、人工知能（機械学習）を用いた制御手段の異常を複数の端末のうち異常が生じていない端末に通知する。
【００１４】  また、ある端末で異常が生じたとき、異常が生じていない他の端末において所定の切り替え条件が成立した端末から順次、制御を切り替える。所定の切り替え条件については、図８等を用いて後述する。
【００１５】  また、制御システムは、複数のロボットを制御する装置である。
【００１６】  図１は、制御システムの全体を表した図である。複数の端末１は、サーバー６を介して、情報の送受信を行う。端末１に異常が発生したときは、サーバー６を介して、他の端末に異常発生が伝えられる。サーバー６を介することにより、例えば、情報セキュリティを確保することが容易となる。端末１は、人工知能（機械学習）を用いた制御手段２と、人工知能とは異なるＰＩＤ制御を用いた制御手段３とを備える。異常検知手段４は、人工知能（機械学習）を用いた制御手段の異常を検知する。制御切り替え判定手段５は、異常検知手段４の検知結果、別端末からの異常通知などから制御の切り替えを行う切り替えフラグを演算する。
【００１７】  換言すれば、制御手段２（第１の制御部）は、人工知能を用いた制御を行う。制御手段３（第２の制御部）は、人工知能と異なる制御を行う。
【００１８】  図２は、端末１とサーバー６によって制御される生産ラインのロボット７を示している。人工知能（機械学習）を用いた制御手段２もしくは人工知能とは異なるＰＩＤ制御を用いた制御手段３により、ロボット７を制御するための操作量（例えば、目標角度、目標速度、目標トルクなど）が演算される。
【００１９】  図３は、端末１のシステム構成図である。端末１には、外部からの信号を処理する入力回路１６が設けてある。ここでいう外部からの信号とは、例えば、端末に設置されているセンサ信号等が考えられる。これら外部からの信号は、入力回路１６を経て、入力信号となり入出力ポート１７へ送られる。入出力ポートに送られた各入力情報は、データバス１５を通って、ＲＡＭ１４（Random Access Memory）に書き込まれる。あるいは、記憶装置１１に記憶される。
【００２０】  例えば、入力回路１６（受信部）は、人工知能を用いた制御手段２（第１の制御部）を有する別の端末１の異常を示す異常通知を受信する。
【００２１】  ＲＯＭ１３（Read Only Memory）もしくは記憶装置１１には、後述の処理が書き込まれていて、ＣＰＵ１２（Central Processing Unit）で実行される。その際、ＲＡＭ１４あるいは記憶装置１１に書き込まれた値を、適宜、用いて演算を行う。演算結果の内、外部へ送り出す情報（値）は、データバス１５を通って、入出力ポート１７に送られ、出力信号として、出力回路１８に送られる。出力信号は、出力回路１８から外部への信号として、外部に出力される。ここでいう外部への信号とは制御対象を所望の動きをさせるためのアクチュエータ信号などを指す。
【００２２】  例えば、出力回路１８（送信部）は、人工知能を用いた制御手段２（第１の制御部）が異常であると判定された場合、当該端末１の異常通知を送信する。これにより、人工知能を用いた制御において異常が発生する可能性があることを他の端末１へ通知することができる。
【００２３】  図４は、サーバー６のシステム構成図である。サーバー６には、外部からの信号を処理する入力回路２６が設けてある。ここでいう外部からの信号とは、各端末からの異常通知である。外部からの信号は、入力回路２６を経て、入力信号となり入出力ポート２７へ送られる。入出力ポートに送られた入力情報は、データバス２５を通って、ＲＡＭ２４に書き込まれる。あるいは、記憶装置２１に記憶される。
【００２４】  ＲＯＭ２３もしくは記憶装置２１には、後述の処理が書き込まれていて、ＣＰＵ２２で実行される。その際、ＲＡＭ２４あるいは記憶装置２１に書き込まれた値を、適宜、用いて演算を行う。演算結果の内、外部へ送り出す情報（値）は、データバス２５を通って、入出力ポート２７に送られ、出力信号として、出力回路２８に送られる。出力信号は、出力回路２８から外部への信号として、外部に出力される。ここでいう外部への信号とは、各端末への異常通知であり、複数の端末１へ送られる。以下、各処理の詳細を説明する。
【００２５】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示される。
【００２６】  センサ信号などから機械学習を用いた制御１２１により、制御対象への操作量（本実施形態では、ロボット７を制御するための操作量）を演算する。
【００２７】  なお、人工知能を用いた制御手段２（第１の制御部）は、センサ信号等（入力値）から人工知能を用いた制御の操作量（出力値）を決定する関数のパラメータを示す制御パラメータ値を学習し、センサ信号等と学習された制御パラメータ値に基づいて操作量を算出する。人工知能を用いた制御手段２によって学習された制御パラメータ値は、例えば、記憶装置１１（記憶部）に記憶される。これにより、制御パラメータを自律的に学習することができる。
【００２８】  機械学習を用いた制御は、多くの公知技術があるので、ここでは詳述しないが、例えば、ニューラルネットワーク（ディープラーニング）で制御対象のモデル化を行い、予測制御、逆モデル制御を行う、などが考えられる。
【００２９】  ＜人工知能とは異なる制御手段（図６）＞  本処理では、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には、図６に示される。
【００３０】  センサ信号などからＰＩＤ制御１２２により、制御対象への操作量（本実施形態では、ロボット７を制御するための操作量）を演算する。ＰＩＤ制御は、体系化された実績のある制御であるため、制御の信頼性を確保することができる。ＰＩＤ制御については、多くの公知技術があるので、ここでは詳述しない。
【００３１】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示される。
【００３２】  ・検知対象が２次元の場合を示している。
【００３３】  ・範囲１〜４で示される領域が正常動作範囲である。
【００３４】  ・検知対象のパラメータ値（ベクトル）に対して、Ｌ２距離の意味で、もっとも近い中心ベクトル（図中の○）を特定する。
【００３５】  ・特定した中心ベクトルに対応する領域の内部に、検知対象である制御パラメータ値（ベクトル）が存在していれば、正常と判定し、存在していなければ，異常と判定する。例えば、図７のベクトルＡは、正常と判定され、ベクトルＢは、異常と判定される。
【００３６】  図７の例では、特定した中心ベクトルに対応する領域の内部に検知対象である制御パラメータ値（ベクトル）が存在していない状態が所定時間継続すれば、異常と判定している。換言すれば、異常検知手段４（異常検知部）は、少なくとも１つの制御パラメータ値が所定範囲にない状態が所定時間継続した場合、人工知能を用いた制御手段３（第１の制御部）が異常であると判定する。
【００３７】  これにより、一時的に制御パラメータ値（ベクトル）が特定した中心ベクトルに対応する領域の外部に存在するようになることによって、異常と判定されることを抑制することができる。
【００３８】  なお、検知対象のパラメータは、人工知能（機械学習）を用いた制御の出力に相当する操作量でも良い。また、制御内部で演算される内部パラメータでも良い。また、図７では、２次元の場合を示しているが、Ｎ次元(Ｎ：自然数)まで拡張可能である。
【００３９】  ＜制御切り替え判定手段（図８）＞  本処理では、制御切り替え判定を行う。具体的には、図８に示される。
【００４０】  ・『「別端末からの異常通知があり」もしくは「当該端末の異常通知があり」』かつ、『「条件Ａが成立」かつ「条件Ｂが成立」』のとき、切り替えフラグをＯＮ（＝１）にする。
【００４１】  条件Ａ、条件Ｂは、端末における所定の切り替え条件であり、例えば、以下の条件などが考えられる。
【００４２】  条件Ａ：制御パラメータ値が所定範囲にある。
【００４３】  条件Ｂ：制御パラメータ値の変化量が所定範囲にある。
【００４４】  これにより、端末の制御パラメータが安定しているときに、制御の切り替えを許可するものである。
【００４５】  ＜サーバーでの処理（図９）＞  本処理では、サーバーは、端末の異常通知を、その他の端末に通知する。具体的には、図９に示される。
【００４６】  少なくとも一つの端末から異常通知があったとき、その他の各端末に異常通知を行う。
【００４７】  以上、本実施形態で示した構成によれば、生産ラインの複数のロボットをそれぞれ制御する端末１に異常が発生したときは、サーバー６を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【００４８】  （実施形態２）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なるＰＩＤ制御を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替える制御切替手段とを備えた形態について示す。
【００４９】  特に本実施形態では、制御システムは、複数の自動運転車を制御する装置である。
【００５０】  図１は、制御システムの全体を表した図であるが、実施形態１と同じであるので、詳述しない。
【００５１】  図１０は、端末１とサーバー６によって制御される自動運転車８を示している。人工知能（機械学習）を用いた制御手段２もしくは人工知能とは異なるＰＩＤ制御を用いた制御手段３により、自動運転車８を制御するための操作量（例えば、目標速度、目標回転速度など）が演算される。
【００５２】  図３は、端末１のシステム構成図であるが、実施形態１と同じであるので、詳述しない。
【００５３】  図４は、サーバー６のシステム構成図であるが、実施形態１と同じであるので、詳述しない。以下、各処理の詳細を説明する。
【００５４】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示されるが、実施形態１と同じであるので、詳述しない。
【００５５】  ＜人工知能とは異なる制御手段（図６）＞  本処理では、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には、図６に示されるが、実施形態１と同じであるので、詳述しない。
【００５６】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示されるが、実施形態１と同じであるので、詳述しない。
【００５７】  ＜制御切り替え判定手段（図８）＞  本処理では、制御切り替え判定を行う。具体的には、図８に示されるが、実施形態１と同じであるので、詳述しない。
【００５８】  ＜サーバーでの処理（図９）＞  本処理では、サーバーは、端末の異常通知を、その他の端末に通知する。具体的には、図９に示されるが、実施形態１と同じであるので、詳述しない。
【００５９】  以上、本実施形態で示した構成によれば、複数の自動運転車をそれぞれ制御する端末１に異常が発生したときは、サーバー６を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【００６０】  （実施形態３）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なるＰＩＤ制御を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替える制御切替手段とを備えた形態について示す。
【００６１】  特に本実施形態では、制御システムは、複数のドローンを制御する装置である。
【００６２】  図１は、制御システムの全体を表した図であるが、実施形態１と同じであるので、詳述しない。
【００６３】  図１１は、端末１とサーバー６によって制御されるドローン９を示している。人工知能（機械学習）を用いた制御手段２もしくは人工知能とは異なるＰＩＤ制御を用いた制御手段３により、ドローン９を制御するための操作量（例えば、各ローターの目標回転速度など）が演算される。
【００６４】  図３は、端末１のシステム構成図であるが、実施形態１と同じであるので、詳述しない。
【００６５】  図４は、サーバー６のシステム構成図であるが、実施形態１と同じであるので、詳述しない。以下、各処理の詳細を説明する。
【００６６】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示されるが、実施形態１と同じであるので、詳述しない。
【００６７】  ＜人工知能とは異なる制御手段（図６）＞  本処理では、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には、図６に示されるが、実施形態１と同じであるので、詳述しない。
【００６８】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示されるが、実施形態１と同じであるので、詳述しない。
【００６９】  ＜制御切り替え判定手段（図８）＞  本処理では、制御切り替え判定を行う。具体的には、図８に示されるが、実施形態１と同じであるので、詳述しない。
【００７０】  ＜サーバーでの処理（図９）＞  本処理では、サーバーは、端末の異常通知を、その他の端末に通知する。具体的には、図９に示されるが、実施形態１と同じであるので、詳述しない。
【００７１】  以上、本実施形態で示した構成によれば、複数のドローンをそれぞれ制御する端末１に異常が発生したときは、サーバー６を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【００７２】  （実施形態４）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なる制御を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段から手動制御に切り替える制御切替手段とを備えた形態について示す。
【００７３】  特に本実施形態では、制御システムは、複数の自動運転車を制御する装置であり、人工知能とは異なる制御手段は手動制御である。
【００７４】  図１は、制御システムの全体を表した図であるが、実施形態１と同じであるので、詳述しない。
【００７５】  図１０は、端末１とサーバー６によって制御される自動運転車８を示している。人工知能（機械学習）を用いた制御手段２もしくは人工知能とは異なる手動制御を用いた制御手段３により、自動運転車８を制御するための操作量（例えば、目標速度、目標回転速度など）が演算される。なお、手動制御の場合は、目標速度、目標回転速度を決めるデバイスは、アクセル、ブレーキ、ハンドルとなる。
【００７６】  図３は、端末１のシステム構成図であるが、実施形態１と同じであるので、詳述しない。
【００７７】  図４は、サーバー６のシステム構成図であるが、実施形態１と同じであるので、詳述しない。以下、各処理の詳細を説明する。
【００７８】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示されるが、実施形態１と同じであるので、詳述しない。
【００７９】  ＜人工知能とは異なる制御手段（図１２）＞  本処理では、人工知能とは異なる制御である手動制御により制御対象を操作する。具体的には、図１２に示される。
【００８０】  ここでの手動制御とは、ドライバーによるアクセル、ブレーキ、ハンドルを用いた制御を指す。なお、アクセルペダルの踏み込み量、ブレーキペダルの踏み込み量、ハンドルの舵角は、それぞれ、例えば、アクセルポジションセンサ、ブレーキペダルポジションセンサ、舵角センサによって検出される。手動制御１２３では、各センサで検出された値に基づいて制御対象への操作量が算出される。これにより、手動で制御対象の制御を継続することができる。
【００８１】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示されるが、実施形態１と同じであるので、詳述しない。
【００８２】  ＜制御切り替え判定手段（図８）＞  本処理では、制御切り替え判定を行う。具体的には、図８に示されるが、実施形態１と同じであるので、詳述しない。
【００８３】  ＜サーバーでの処理（図９）＞  本処理では、サーバーで行う。端末の異常通知を、その他の端末に通知する。具体的には、図９に示されるが、実施形態１と同じであるので、詳述しない。
【００８４】  以上、本実施形態で示した構成によれば、複数の自動運転車をそれぞれ制御する端末１に異常が発生したときは、サーバー６を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御手段から手動制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【００８５】  （実施形態５）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なるＰＩＤ制御を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替える制御切替手段とを備えた形態について示す。制御システムは、複数のロボットを制御する装置である。
【００８６】  特に、ＰＩＤ制御実施中に、学習処理により、人工知能（機械学習）を用いた制御のパラメータ値の更新を行う。
【００８７】  図１は、制御システムの全体を表した図であるが、実施形態１と同じであるので、詳述しない。
【００８８】  図２は、端末１とサーバー６によって制御される生産ラインのロボット７を示しているが、実施形態１と同じであるので、詳述しない。
【００８９】  図３は、端末１のシステム構成図であるが、実施形態１と同じであるので、詳述しない。
【００９０】  図４は、サーバー６のシステム構成図であるが、実施形態１と同じであるので、詳述しない。以下、各処理の詳細を説明する。
【００９１】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示されるが、実施形態１と同じであるので、詳述しない。
【００９２】  ＜人工知能とは異なる制御手段（図６）＞  本処理では、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には、図６に示されるが、実施形態１と同じであるので、詳述しない。
【００９３】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示されるが、実施形態１と同じであるので、詳述しない。
【００９４】  ＜制御切り替え判定手段（図８）＞  本処理では、制御切り替え判定を行う。具体的には、図８に示されるが、実施形態１と同じであるので、詳述しない。
【００９５】  ＜サーバーでの処理（図１３）＞  本処理では、サーバーは、端末の異常通知を、その他の端末に通知する。具体的には、図１３に示される。
【００９６】  ・少なくとも一つの端末から異常通知があったとき、その他の各端末に異常通知を行う。
【００９７】  ・各端末への異常通知がON（＝１）のとき、人工知能を用いた制御手段（機械学習）のパラメータの再学習を行う。
【００９８】  機械学習のパラメータの学習方法は、多くの公知技術があるので、ここでは詳述しない。例えばディープラーニングの場合は、誤差逆伝搬法などがある。
【００９９】  以上、本実施形態で示した構成によれば、生産ラインの複数のロボットをそれぞれ制御する端末１に異常が発生したときは、サーバー６を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【０１００】  また、ＰＩＤ制御実施中に、サーバーで、人工知能(機械学習)を用いた制御のパラメータの再学習を行うので、次回の人工知能（機械学習）を用いた制御実施時には、異常が解消されると共に、性能向上が期待できる。
【０１０１】  （実施形態６）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なるＰＩＤ制御を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替える制御切替手段とを備えた形態について示す。制御システムは、複数のロボットを制御する装置である。
【０１０２】  特に、ＰＩＤ制御実施中に、学習処理により、人工知能（機械学習）を用いた制御のパラメータ値の更新を行い、人工知能（機械学習）を用いた制御のパラメータ値の更新完了後、ＰＩＤ制御から人工知能（機械学習）を用いた制御に切り替えることを特徴とする制御システムである。
【０１０３】  図１は、制御システムの全体を表した図であるが、実施形態１と同じであるので、詳述しない。
【０１０４】  図２は、端末１とサーバー６によって制御される生産ラインのロボット７を示しているが、実施形態１と同じであるので、詳述しない。
【０１０５】  図１４は、端末１のシステム構成図である。入力回路１６に入力される信号として、端末の人工知能を用いた制御手段のパラメータ値が追加されている。換言すれば、入力回路１６（受信部）は、サーバーで学習された制御パラメータ値を受信する。それ以外は、実施形態１と同じであるので、詳述しない。
【０１０６】  図１５は、サーバー６のシステム構成図である。出力回路２８から出力される信号として、端末の人工知能を用いた制御手段のパラメータ値が追加されている。それ以外は、実施形態１と同じであるので、詳述しない。以下、各処理の詳細を説明する。
【０１０７】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示されるが、実施形態１と同じであるので、詳述しない。
【０１０８】  ＜人工知能とは異なる制御手段（図６）＞  本処理では、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には、図６に示されるが、実施形態１と同じであるので、詳述しない。
【０１０９】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示されるが、実施形態１と同じであるので、詳述しない。
【０１１０】  ＜制御切り替え判定手段（図８）＞  本処理では、制御切り替え判定を行う。具体的には、図８に示されるが、実施形態１と同じであるので、詳述しない。
【０１１１】  ＜サーバーでの処理（図１６）＞  本処理では、サーバーは、端末の異常通知を、その他の端末に通知する。具体的には、図１６に示される。なお、f_ano_0は、少なくとも一つの端末から異常通知があったか否かを示すフラグであり、f_learnは、パラメータの再学習及び更新が終了したか否かを示すフラグであり、f_anoは、各端末への異常通知としてのフラグである。
【０１１２】  詳細には、f_ano_0、f_learn、f_anoは、次のように設定される。
【０１１３】  ・少なくとも一つの端末から異常通知があったとき、f_ano_0=1とする。
【０１１４】  i)f_learn=0（パラメータの再学習又は更新が未終了）であり、かつ、f_ano_0=1（少なくとも一つの端末から異常通知あり）のとき、f_ano=1（異常通知:ON）とする。
【０１１５】  ii)f_learn=0→1（パラメータの再学習及び更新が終了）のとき、f_ano=0（異常通知:OFF）とする。
【０１１６】  iii)それ以外は、f_ano=0とする。
【０１１７】  f_ano=1のとき、その他の各端末に異常通知を行う。
【０１１８】  ・各端末への異常通知がON（f_ano=1）のとき、人工知能を用いた制御手段（機械学習）のパラメータの再学習を行う。
【０１１９】  機械学習のパラメータの学習方法は、多くの公知技術があるので、ここでは詳述しない。例えばディープラーニングの場合は、誤差逆伝搬法などがある。
【０１２０】  ・人工知能を用いた制御手段（機械学習）のパラメータの再学習が終了し、端末の人工知能を用いた制御手段のパラメータを端末に送信かつ更新が終了したとき、f_learn=1とする。それ以外は、f_learn=0とする。
【０１２１】  なお、それぞれの端末１の制御手段２（第１の制御部）は、制御手段３（第２の制御部）が人工知能と異なる制御を行う期間に、それぞれの端末１の記憶装置１１（記憶部）に記憶された制御パラメータ値を、サーバー６で学習された制御パラメータ値で更新する。制御切替部（切り替え判定手段５、スイッチ５ａ）は、制御パラメータ値の更新後に、人工知能と異なる制御から人工知能を用いた制御に切り替える。これにより、人工知能を用いた制御において異常が発生しうる要因を取り除いた後、人工知能を用いた制御に復帰することができる。
【０１２２】  以上、本実施形態で示した構成によれば、生産ラインの複数のロボットをそれぞれ制御する端末１に異常が発生したときは、サーバー６を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【０１２３】  また、ＰＩＤ制御実施中に、サーバーで、人工知能(機械学習)を用いた制御のパラメータの再学習を行い、パラメータの再学習が完了した後は、人工知能（機械学習）を用いた制御に再び切り替えるので、ＰＩＤ制御の期間を最短化し、かつ、次回の人工知能（機械学習）を用いた制御実施時には、異常が解消されると共に、性能向上が期待できる。
【０１２４】  （実施形態７）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なるＰＩＤ制御を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替える制御切替手段とを備えた形態について示す。制御システムは、複数のロボットを制御する装置である。
【０１２５】  特に、制御システムは、端末のみで構成され、複数の端末のうち少なくとも一つの端末において人工知能（機械学習）を用いた制御手段に異常が生じたとき、端末間の通信手段により、人工知能（機械学習）を用いた制御手段の異常を複数の端末のうち異常が生じていない端末に通知する。
【０１２６】  図１７は、制御システムの全体を表した図である。複数の端末１は、端末間通信を介して、情報の送受信を行う。端末１に異常が発生したときは、端末間通信を介して、他の端末に異常発生が伝えられる。サーバーが不要であるため、例えば、制御システムのコストを削減することができる。それ以外は実施形態１と同じであるので、詳述しない。
【０１２７】  図２は、端末１とサーバー６によって制御される生産ラインのロボット７を示しているが、実施形態１と同じであるので、詳述しない。
【０１２８】  図３は、端末１のシステム構成図であるが、実施形態１と同じであるので、詳述しない。以下、各処理の詳細を説明する。
【０１２９】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示されるが、実施形態１と同じであるので、詳述しない。
【０１３０】  ＜人工知能とは異なる制御手段（図６）＞本処理では、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には、図６に示されるが、実施形態１と同じであるので、詳述しない。
【０１３１】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示されるが、実施形態１と同じであるので、詳述しない。
【０１３２】  ＜制御切り替え判定手段（図８）＞  本処理では、制御切り替え判定を行う。具体的には、図８に示されるが、実施形態１と同じであるので、詳述しない。
【０１３３】  以上、本実施形態で示した構成によれば、生産ラインの複数のロボットをそれぞれ制御する端末１に異常が発生したときは、端末間通信を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【０１３４】  （実施形態８）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なるＰＩＤ制御を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替える制御切替手段とを備えた形態について示す。制御システムは、複数のロボットを制御する装置である。
【０１３５】  特に本実施形態では、人工知能（機械学習）を用いた制御からＰＩＤ制御に、同時に切り替えるように、切り替えるタイミングを同期させる情報を全端末に送信する。
【０１３６】  図１８は、制御システムの全体を表した図である。制御切り替え判定手段５では、別端末からの異常通知と切り替え同期フラグから制御の切り替えを行う切り替えフラグを演算する。それ以外は、実施形態１と同じであるので、詳述しない。
【０１３７】  図１９は、端末１とサーバー６によって制御される生産ラインのロボット７を示している。制御切り替え判定手段５では、別端末からの異常通知と切り替え同期フラグから制御の切り替えを行う切り替えフラグを演算する。それ以外は、実施形態１と同じであるので、詳述しない。
【０１３８】  図３は、端末１のシステム構成図であるが、実施形態１と同じであるので、詳述しない。
【０１３９】  図４は、サーバー６のシステム構成図であるが、実施形態１と同じであるので、詳述しない。以下、各処理の詳細を説明する。
【０１４０】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示されるが、実施形態１と同じであるので、詳述しない。
【０１４１】  ＜人工知能とは異なる制御手段（図６）＞  本処理では、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には、図６に示されるが、実施形態１と同じであるので、詳述しない。
【０１４２】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示されるが、実施形態１と同じであるので、詳述しない。
【０１４３】  ＜制御切り替え判定手段（図２０）＞  本処理では、制御切り替え判定を行う。具体的には、図２０に示される。・サーバーからの異常通知があり、かつ切り替え同期フラグがＯＮ（＝１）のとき、切り替えフラグをＯＮ（＝１）にする。換言すれば、それぞれの端末１の入力回路１６（受信部）は、切り替え同期フラグを受信し、それぞれの端末１の制御切替部（切り替え判定手段５、スイッチ５ａ）は、異常通知が受信され且つ切り替え同期フラグが受信された場合、人工知能を用いた制御から人工知能と異なる制御に切り替える。これにより、複数の端末１において、制御を切り替えるタイミングを合わせることができる。
【０１４４】  ＜サーバーでの処理（図２１）＞  本処理では、サーバーで行う。端末の異常通知を、その他の端末に通知する。具体的には、図２１に示される。・少なくとも一つの端末から異常通知があったとき、その他の各端末に異常通知を行う。・『「条件Ａが成立」かつ「条件Ｂが成立」』のとき、切り替え同期フラグをＯＮ（＝１）にする。条件Ａ、条件Ｂは、全端末における所定の切り替え条件であり、例えば、以下の条件などが考えられる。
【０１４５】  条件Ａ：全端末の制御パラメータ値が所定範囲にある。
【０１４６】  条件Ｂ：全端末の制御パラメータ値の変化量が所定範囲にある。
【０１４７】  これにより、全端末の制御パラメータが安定しているときに、全端末の制御の切り替えを許可するものである。
【０１４８】  なお、サーバー６の出力回路２８（送信部）は、人工知能を用いた制御から人工知能と異なる制御へ切り替えるタイミングを同期させるための切り替え同期フラグをすべての端末１に送信する。
【０１４９】  以上、本実施形態で示した構成によれば、生産ラインの複数のロボットをそれぞれ制御する端末１に異常が発生したときは、サーバー６を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御からＰＩＤ制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【０１５０】  また、全端末同時に、人工知能（機械学習）を用いた制御からＰＩＤ制御に切り替えるので、システムの全体の安定性が向上する。
【０１５１】  （実施形態９）  本実施形態においては、複数の端末それぞれに、人工知能（機械学習）を用いた制御手段と、人工知能とは異なるＰＩＤ制御を用いた制御手段と、複数の端末のうち少なくとも一つの端末において、人工知能（機械学習）を用いた制御手段に異常が生じたとき、異常が生じていない端末の制御を、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替える制御切替手段とを備えた形態について示す。
【０１５２】  特に本実施形態では、サーバーと複数の端末で構成され、サーバーから前記複数の端末に一定周期で信号を送信する手段を備え、端末において、サーバーからの一定周期信号が受信されないとき、複数の端末のうち異常が生じていない端末の制御を、第１の制御手段から前記第２の制御手段に切り替える制御切替手段とを備える。
【０１５３】  図２２は、サーバー６から端末１に、一定周期の信号が送信される。換言すれば、サーバー６の出力回路２８（送信部）は、周期的な信号を示す周期信号をすべての端末１に送信する。それ以外は、実施形態１と同じであるので、詳述しない。
【０１５４】  図２３は、端末１とサーバー６によって制御される生産ラインのロボット７を示している。制御切り替え判定手段５では、別端末からの異常通知とサーバーからの一定周期信号から制御の切り替えを行う切り替えフラグを演算する。これにより、例えば、サーバー６が故障した場合又はサーバー６と端末１の間の通信経路に障害が発生した場合に、人工知能を用いた制御から人工知能と異なる制御へ切り替えることができる。それ以外は、実施形態１と同じであるので、詳述しない。
【０１５５】  図２４は、端末１のシステム構成図である。入力回路１６に入力される信号として、サーバーからの一定周期信号が追加されている。それ以外は、実施形態１と同じであるので、詳述しない。
【０１５６】  図２５は、サーバー６のシステム構成図である。出力回路２８から出力される信号として、サーバーからの一定周期信号が追加されている。それ以外は、実施形態１と同じであるので、詳述しない。以下、各処理の詳細を説明する。
【０１５７】  ＜人工知能を用いた制御手段（図５）＞  本処理では、人工知能（機械学習）を用いた制御による制御対象への操作量を演算する。具体的には、図５に示されるが、実施形態１と同じであるので、詳述しない。
【０１５８】  ＜人工知能とは異なる制御手段（図６）＞本処理では、人工知能とは異なる制御であるＰＩＤ制御による制御対象への操作量を演算する。具体的には、図６に示されるが、実施形態１と同じであるので、詳述しない。
【０１５９】  ＜異常検知手段（図７）＞  本処理では、人工知能（機械学習）を用いた制御の動作異常を検知する。具体的には、図７に示されるが、実施形態１と同じであるので、詳述しない。
【０１６０】  ＜制御切り替え判定手段（図２６）＞  本処理では、制御切り替え判定を行う。具体的には、図２６に示される。・『「別端末からの異常通知があり」もしくは「当該端末の異常通知があり」もしくは「サーバーから一定周期で信号が受信されないとき」』かつ、  『「条件Ａが成立」かつ「条件Ｂが成立」』のとき、  切り替えフラグをＯＮ（＝１）にする。
【０１６１】  条件Ａ、条件Ｂは、端末における所定の切り替え条件であり、例えば、以下の条件などが考えられる。
【０１６２】  条件Ａ：制御パラメータ値が所定範囲にある。
【０１６３】  条件Ｂ：制御パラメータ値の変化量が所定範囲にある。
【０１６４】  これにより、端末の制御パラメータが安定しているときに、制御の切り替えを許可するものである。
【０１６５】  ＜サーバーでの処理（図２７）＞  本処理では、サーバーは、端末の異常通知を、その他の端末に通知する。具体的には、図２７に示される。
【０１６６】  ・少なくとも一つの端末から異常通知があったとき、その他の各端末に異常通知を行う。
【０１６７】  ・また、サーバーから各端末に、一定周期で信号を送信する。
【０１６８】  以上、本実施形態で示した構成によれば、生産ラインの複数のロボットをそれぞれ制御する端末１に異常が発生したときは、サーバー６を介して、他の端末に異常が伝えられ、異常が発生していない端末においても、所定の切り替え条件が成立した端末から、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【０１６９】  また、サーバー６からの周期信号が受信されないときも、人工知能（機械学習）を用いた制御手段からＰＩＤ制御に切り替えるので、サーバー６に何らかの異常が発生して、サーバー６を介した端末１の異常信号が受信できないときに備えることができ、システムの信頼性が向上する。
【０１７０】  なお、本発明は上記した実施形態に限定されるものではなく、様々な変形例が含まれる。例えば、上述した実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【０１７１】  別の端末における異常発生の検知の具体例としては、正常性が途切れたことの検知あるいは異常通知の受信のいずれでもよい。
【０１７２】  上記実施形態１〜７、９では、人工知能を用いた制御から人工知能と異なる制御に切り替えるには、「条件Ａが成立」かつ「条件Ｂが成立」が必要であるが、制御切替部（切り替え判定手段５、スイッチ５ａ）は、単に、異常通知が受信されない場合、制御手段２（第１の制御部）に人工知能を用いた制御を行わせ、異常通知が受信された場合、制御手段３（第２の制御部）に人工知能と異なる制御を行わせるようにしてもよい。
【０１７３】  また、制御切替部は、異常通知が受信されず且つ自らの制御手段２（第１の制御部）が異常であると判定されない場合、制御手段２（第１の制御部）に人工知能を用いた制御を行わせ、異常通知が受信され又は自らの制御手段２が異常であると判定された場合、制御手段３（第２の制御部）に人工知能と異なる制御を行わせてもよい。
【０１７４】  上記実施形態では、人工知能を用いた制御及び人工知能とは異なる制御の対象は、ロボット７、自動運転車８、又はドローン９（飛行体）であるが、任意の機械であってもよい。
【０１７５】  上記実施形態９では、人工知能を用いた制御から人工知能と異なる制御に切り替えるには、「条件Ａが成立」かつ「条件Ｂが成立」が必要であるが、制御切替部（切り替え判定手段５、スイッチ５ａ）は、単に、入力回路１６（受信部）によって周期信号が受信されない場合も、人工知能を用いた制御から人工知能とは異なる制御に切り替えてもよい。
【０１７６】  上記実施形態では、人工知能と異なる制御としてＰＩＤ制御、手動制御を例示したが、スライディングモード制御、適応制御等であってもよい。
【０１７７】  また、上記の各構成、機能（手段）等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能（手段）等は、プロセッサ（CPU）がそれぞれの機能（手段）等を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能（手段）等を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD（Solid State Drive）等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
【０１７８】  なお、本発明の実施形態は、以下の態様であってもよい。
【０１７９】  （１）少なくとも複数の端末を備える制御システムにおいて、前記複数の端末それぞれは、制御に関連するパラメータを全て更新する事で学習を行う同仕様の人工知能を用いた第１の制御手段と、前記人工知能とは異なる第２の制御手段と、前記複数の端末のうち少なくとも一つの端末において前記第１の制御手段に異常が検出されたとき、前記複数の端末のうち異常が検出されていない端末の制御を、前記第１の制御手段から前記第２の制御手段に切り替える制御切替手段とを備える制御システム。
【０１８０】  （２）（１）において、前記第１の制御手段は、機械学習を用いた制御であることを特徴とする制御システム。
【０１８１】  （３）（１）において、前記第２の制御手段は、ＰＩＤ制御であることを特徴とする制御システム。
【０１８２】  （４）（１）において、前記第２の制御手段は、手動制御であることを特徴とする制御システム。
【０１８３】  （５）（１）において、第１の制御手段の少なくとも一つのパラメータの値が所定範囲にない状態が所定時間継続したとき、異常と判定することを特徴とする制御システム。
【０１８４】  （６）（１）において、前記第２の制御手段実施中に、学習処理などにより、前記第１の制御手段のパラメータ値の更新を行うことを特徴とする制御システム。
【０１８５】  （７）（１）において、前記第１の制御手段のパラメータ値の更新後、第２の制御手段から第１の制御手段に切り替えることを特徴とする制御システム。
【０１８６】  （８）（１）において、サーバーと端末で構成され、前記複数の端末のうち少なくとも一つの端末において前記第１の制御手段に異常が検出されたとき、サーバー介した通信手段により、前記第１の制御手段の異常を前記複数の端末のうち異常が検出されていない端末に通知することを特徴とする制御システム。
【０１８７】  （９）（１）において、前記複数の端末のうち少なくとも一つの端末において前記第１の制御手段に異常が検出されたとき、端末間の通信手段により、前記第１の制御手段の異常を前記複数の端末のうち異常が検出されていない端末に通知することを特徴とする制御システム。
【０１８８】  （１０）（１）において、前記複数の端末のうち少なくとも一つの端末において前記第１の制御手段に異常が検出されたとき、前記複数の端末のうち異常が検出されていない端末において所定の切り替え条件が成立した端末から順次、前記第１の制御手段から前記第２の制御手段に、切り替えることを特徴とする制御システム。
【０１８９】  （１１）（１）において、前記複数の端末のうち少なくとも一つの端末において前記第１の制御手段に異常が検出されたとき、前記複数の端末のうち異常が検出されていない端末の制御を、前記第１の制御手段から前記第２の制御手段に、同時に切り替えるように、切り替えるタイミングを同期させる情報を全端末に送信することを特徴とする制御システム。
【０１９０】  （１２）（１）において、前記制御システムは、ロボットを制御する装置であることを特徴とする。
【０１９１】  （１３）（１）において、前記制御システムは、自動運転車を制御する装置であることを特徴とする。
【０１９２】  （１４）（１）において、前記制御システムは、ドローンなど飛行体を制御する装置であることを特徴とする。
【０１９３】  （１５）（１）において、サーバーと複数の端末で構成され、前記サーバーから前記複数の端末に一定周期で信号を送信する手段を備え、前記端末において、前記サーバーからの一定周期信号が受信されないとき、前記複数の端末のうち異常が生じていない端末の制御を、前記第１の制御手段から前記第２の制御手段に切り替える制御切替手段とを備える制御システム。
【０１９４】  上記（１）〜（１５）によれば、人工知能を用いた複数の制御システムの一端末で異常が発生した場合、異常が発生していないその他の端末も、人工知能を用いない制御に切り替えるので、異常が発生していないその他の端末での異常発生を未然に防ぐことができ、システム全体の信頼性が向上する。
【符号の説明】
【０１９５】１…端末２…人工知能を用いた制御手段３…人工知能とは異なる制御手段４…異常検知手段５…制御切り替え判定手段５ａ…スイッチ６…サーバー７…ロボット８…自動運転車９…ドローン１１…端末の記憶装置１２…端末のＣＰＵ１３…端末のＲＯＭ１４…端末のＲＡＭ１５…端末のデータバス１６…端末の入力回路１７…端末の入出力ポート１８…端末の出力回路２１…サーバーの記憶装置２２…サーバーのＣＰＵ２３…サーバーのＲＯＭ２４…サーバーのＲＡＭ２５…サーバーのデータバス２６…サーバーの入力回路２７…サーバーの入出力ポート２８…サーバーの出力回路１０１…サーバーでの処理の一例（各端末への異常通知処理）１０２…サーバーでの処理の一例（機械学習のパラメータ学習処理）１０３…サーバーでの処理の一例（機械学習のパラメータ学習後の処理）１０４…サーバーでの処理の一例（各端末への切り替え同期処理）１０５…サーバーでの処理の一例（各端末への周期信号送信処理）１２１…人工知能を用いた制御手段の一例（機械学習を用いた制御）１２２…人工知能とは異なる制御手段の一例（ＰＩＤ制御）１２３…人工知能とは異なる制御手段の一例（手動制御）
【図１】
2018179191.tif 000003
【図２】
2018179191.tif 000004
【図３】
2018179191.tif 000005
【図４】
2018179191.tif 000006
【図５】
2018179191.tif 000007
【図６】
2018179191.tif 000008
【図７】
2018179191.tif 000009
【図８】
2018179191.tif 000010
【図９】
2018179191.tif 000011
【図１０】
2018179191.tif 000012
【図１１】
2018179191.tif 000013
【図１２】
2018179191.tif 000014
【図１３】
2018179191.tif 000015
【図１４】
2018179191.tif 000016
【図１５】
2018179191.tif 000017
【図１６】
2018179191.tif 000018
【図１７】
2018179191.tif 000019
【図１８】
2018179191.tif 000020
【図１９】
2018179191.tif 000021
【図２０】
2018179191.tif 000022
【図２１】
2018179191.tif 000023
【図２２】
2018179191.tif 000024
【図２３】
2018179191.tif 000025
【図２４】
2018179191.tif 000026
【図２５】
2018179191.tif 000027
【図２６】
2018179191.tif 000028
【図２７】
2018179191.tif 000029
【国際調査報告】
2018179191.tif 000030
2018179191.tif 000031
2018179191.tif 000032