(57)【要約】【課題】複数の産業機械の動作状態に応じて、全体として消費される平均電力の合計値を低減させるように各産業機械の動作タイミングを調整する管理装置及び管理システムを提供すること。【解決手段】本発明の管理装置１は、少なくとも前記電源設備から前記複数の産業機械に供給される消費電力に係るデータを収集するデータ取得部３４と、収集したデータに基づいて、消費電力データを作成する前処理部３６と、消費電力データに基づいて、複数の産業機械による消費電力の状態に対して予め定められた合計停止時間の複数の産業機械への割当行動の価値を関連付けた学習モデルを参照して、現在の複数の産業機械による消費電力の状態に対する予め定められた合計停止時間の複数の産業機械への割当行動を決定する意思決定部１２０と、複数の産業機械に対して停止時間の割当を行う停止時間割当部３８と、を備える。【選択図】図２
2020135075.tif 000002
【特許請求の範囲】
【請求項１】
電源設備から電力を供給されている複数の産業機械のそれぞれに、該産業機械での一連の動作の後に該産業機械が動作を停止する時間を決定する管理装置であって、
少なくとも前記電源設備から前記複数の産業機械に供給される消費電力に係るデータを収集するデータ取得部と、
前記データ取得部が収集したデータに基づいて、前記複数の産業機械に対して所定時間の間に供給される消費電力に係る情報を示す消費電力データを作成する前処理部と、
前記複数の産業機械による消費電力の状態に対して予め定められた合計停止時間の前記複数の産業機械への割当行動の価値を関連付けた学習モデルを記憶する学習モデル記憶部と、
前記前処理部が作成した消費電力データに基づいて、前記学習モデル記憶部に記憶された学習モデルを用いた現在の前記複数の産業機械による消費電力の状態に対する前記複数の産業機械に対する予め定められた合計停止時間の割当行動を決定する意思決定部と、
前記意思決定部による決定に基づいて、前記複数の産業機械に対して前記合計停止時間の割当を行う停止時間割当部と、
を備えた管理装置。
【請求項２】
前記データ取得部は、更に前記産業機械の一連の動作の後の停止時間を収集し、
前記前処理部は、消費電力データに加えて、前記消費電力データにより示される消費電力の状態で行われた前記複数の産業機械に対する予め定められた合計停止時間の割当を示す停止時間割当データと、前記消費電力データで示される消費電力の下で行われた、前記停止時間割当データで示される合計停止時間の各産業機械に対する割当を行った場合における、該割当の行動後の前記複数の産業機械による所定時間内の消費電力に対する判定結果を示す消費電力判定データを作成し、
前記管理装置は、
前記消費電力データ、前記停止時間割当データ、及び前記消費電力判定データに基づいて、前記複数の産業機械による消費電力の状態に対する前記複数の産業機械に対して予め定められた合計停止時間の割当行動を関連付けた学習モデルを生成する学習部を備える、
請求項１に記載の管理装置。
【請求項３】
前記学習部は、予め定めた所定時間内の前記複数の産業機械により消費される平均電力が低減された時にプラスの報酬とし、予め定めた所定時間内の前記複数の産業機械により消費される平均電力が低減された時にマイナスの報酬とし、
前記学習部は、該報酬の値に基づいて前記学習モデルを生成する、
請求項２に記載の管理装置。
【請求項４】
前記学習モデルは、前記複数の産業機械による消費電力の状態に対して、予め定められた合計停止時間の前記複数の産業機械への割当行動の価値を関連付けて記憶する行動価値テーブルである、
請求項１〜３のいずれか１つに記載の管理装置。
【請求項５】
前記学習モデルは、多層構造で構成されたニューラルネットワークである、
請求項１〜３のいずれか１つに記載の管理装置。
【請求項６】
複数の請求項２に記載の管理装置が、ネットワークを介して相互に接続された管理システムであって、
複数の前記管理装置の間で、前記学習部による学習結果を共有可能である、
管理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、管理装置及び管理システムに関する。
【背景技術】
【０００２】
工場等の製造現場に設置された工作機械、射出成形機、ロボット等の複数の産業機械は、該産業機械を制御する個別の制御装置からの指令に基づいて稼働している。これら複数の産業機械は、所定の電源設備に接続されており、そこから供給される電力を消費して稼働する（例えば、特許文献１）。この時、電力を多く消費するような指令が複数の産業機械で略同じタイミングで実行されると、複数の産業機械における消費電力の合計が電源設備の電源容量を超えることで電力不足が発生し、産業機械が十分に可動しなくなるという問題が発生する。
【０００３】
産業機械の稼働においては、それぞれの産業機械を駆動するサーボモータの加速時に電力消費が行われるが、一方でサーボモータの減速時には電力が発生する。このような回生によって発生した回生電力は、同じタイミングで動作している産業機械の間で利用される。つまり、複数の産業機械がある場合に、ある産業機械が電力を消費するタイミングで、他の産業機械が電力回生を行う動作を重ねることで、複数の産業機械の稼働に掛かる消費電力の合計を下げることができる。そして、複数の産業機械の稼働に掛かる消費電力の合計が下がることで、電源設備の容量の低減や、電源経路で電流が流れることによる発熱（電力消費）を低減することが可能となる。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１７−１６２３００号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
それぞれの産業機械は、工作機械や搬送装置、ロボットなど、それぞれの目的に併せて一連の動作を行っているため、ある産業機械における電力消費に係る動作と、他の産業機械における電力回生に係る動作とを個別にタイミングを揃えることは困難である。一方で、各産業機械の一連の動作を開始するタイミングをある程度ずらすことにより、複数の産業機械の動作全体として消費される平均電力の合計値を下げることは可能ではある。しかしながら、それぞれの産業機械はそれぞれの制御装置が実行する制御用プログラムの指令に基づいて独立して動作しているため、どの産業機械の動作タイミングをどのようにずらせば、複数の産業機械の動作全体として消費される平均電力の合計値を下げることができるのか、算出することが困難である。
【０００６】
そのため、複数の産業機械の動作状態に応じて、全体として消費された平均電力の合計値を低減させるように各産業機械の動作タイミングを調整する管理装置及び管理システムが望まれている。
【課題を解決するための手段】
【０００７】
本発明の一態様による管理装置は、１つの電源設備に接続されている複数の産業機械に対してあらかじめ設定した合計停止時間を割り当て、各産業機械の一連の動作（例えば、１つの制御用プログラムで指令される一連の動作等）を開始するタイミングをずらすことで、各産業機械の動作状態に対して該産業機械の動作全体として消費される平均電力を最小化することを試みる。本発明の一態様による管理装置は、このような合計休み時間の割当を、機械学習を用いて試行錯誤的に学習する。
【０００８】
そして、本発明の一態様は、電源設備から電力を供給されている複数の産業機械のそれぞれに、該産業機械での一連の動作の後に該産業機械が動作を停止する時間を決定する管理装置であって、少なくとも前記電源設備から前記複数の産業機械に供給される消費電力に係るデータを収集するデータ取得部と、前記データ取得部が収集したデータに基づいて、前記複数の産業機械に対して所定時間の間に供給される消費電力に係る情報を示す消費電力データを作成する前処理部と、前記複数の産業機械による消費電力の状態に対して予め定められた合計停止時間の前記複数の産業機械への割当行動の価値を関連付けた学習モデルを記憶する学習モデル記憶部と、前記前処理部が作成した消費電力データに基づいて、前記学習モデル記憶部に記憶された学習モデルを用いた現在の前記複数の産業機械による消費電力の状態に対する前記複数の産業機械に対する予め定められた合計停止時間の割当行動を決定する意思決定部と、前記意思決定部による決定に基づいて、前記複数の産業機械に対して前記合計停止時間の割当を行う停止時間割当部と、を備えた管理装置である。
【０００９】
本発明の他の態様は、複数の管理装置が、ネットワークを介して相互に接続された管理システムであって、複数の前記工場設備の管理装置の間で、前記学習部による学習結果を共有可能である、管理システムである。
【発明の効果】
【００１０】
本発明の一態様により、生産性に大きな影響を与えない程度の合計休み時間を各機械に適切に割り当てることで、平均電力を削減でき、電源設備容量の低減や、電源経路の機器の負荷、発熱、消費電力の低減を図ることができることが見込まれる。
【図面の簡単な説明】
【００１１】
【図１】一実施形態による管理装置の概略的なハードウェア構成図である。
【図２】第１実施形態による管理装置の概略的な機能ブロック図である。
【図３】産業器械による電力消費と電力回生について説明する図である。
【図４】一実施形態による管理システムの動作環境を概略的に示す図である。
【図５】第２実施形態による管理システムの概略的な機能ブロック図である。
【図６】複数の管理システムが動作するシステムを概略的に示す図である。
【発明を実施するための形態】
【００１２】
以下、本発明の実施形態を図面と共に説明する。
図１は本発明の一実施形態による管理装置の要部を示す概略的なハードウェア構成図である。本実施形態の管理装置１は、産業機械を制御する制御装置として実装することができる。また、管理装置１は、産業機械を制御する制御装置と併設されたパソコンや、産業機械を制御する制御装置とネットワークを介して接続されたセルコンピュータ、フォグコンピュータ、クラウドサーバ等のコンピュータとして実装することが出来る。本実施形態では、管理装置１を、産業機械を制御する制御装置として実装した場合の例を示す。
【００１３】
本実施形態による管理装置１が備えるＣＰＵ１１は、管理装置１を全体的に制御するプロセッサである。ＣＰＵ１１は、バス２２を介して接続されているＲＯＭ１２に格納されたシステム・プログラムを読み出し、該システム・プログラムに従って管理装置１全体を制御する。ＲＡＭ１３には一時的な計算データ、表示装置７０に表示するための表示データ、教示操作盤６０や入力装置７１を介して作業者が入力した各種データ等が格納される。
【００１４】
不揮発性メモリ１４は、例えば図示しないバッテリでバックアップされたメモリやＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）等で構成され、管理装置１の電源がオフされても記憶状態が保持されるメモリとして構成される。不揮発性メモリ１４には、管理装置１の動作に係る設定情報が格納される設定領域、各インタフェース１９を介して入力装置７１や教示操作盤６０から入力されたデータ、図示しないインタフェースを介して入力された制御用プログラム、管理装置１の管理下にある産業機械２や電源設備３からネットワーク５を介して取得される各種データ（各産業機械２において実行されている制御プログラム、電源設備３から取得される所定時間内に消費された平均電力やピーク電力等）、図示しない外部記憶装置を介して読み込まれたデータ等が記憶される。不揮発性メモリ１４に記憶されたプログラムや各種データは、実行時／利用時にはＲＡＭ１３に展開されても良い。また、ＲＯＭ１２には、各種データを解析するための公知の解析プログラム等を含むシステム・プログラムが予め書き込まれている。
【００１５】
管理装置１は、インタフェース１６を介して有線／無線のネットワーク５と接続されている。ネットワーク５には、管理装置１及び該管理装置が制御する産業機械に対して電源経路（図示せず）を介して電力を供給する電源設備３、該電源設備３から電力を供給されている少なくとも１つの産業機械２等が接続され、管理装置１との間で相互にデータのやり取りを行っている。管理装置が制御する産業機械及びそれぞれの産業機械２には、該産業機械の一連の動作（１サイクルの動作、例えば、１回の制御用プログラムの実行により司令される一連の動作）が行われた後に、所定の時間だけ休みをいれる停止時間を設定できるようになっている。管理装置が制御する産業機械及びそれぞれの産業機械２は、該停止時間が設定されると、例えば、制御用プログラムを実行した後に、設定された停止時間の間だけ動作が停止し、その後に再び制御用プログラムが実行され、その後に設定された停止時間の間だけ動作が停止する、といった動作を繰り返す。
【００１６】
表示装置７０には、メモリ上に読み込まれた各データ、プログラム等が実行された結果として得られたデータ、後述する機械学習装置１００から出力されたデータ等がインタフェース１７を介して出力されて表示される。また、キーボードやポインティングデバイス等から構成される入力装置７１は、作業者による操作に基づく指令，データ等をインタフェース１８を介してＣＰＵ１１に渡す。
【００１７】
教示操作盤６０はディスプレイやハンドル、ハードウェアキー等を備えた手動データ入力装置であり、インタフェース１９を介して管理装置１からの情報を受けて表示すると共に、ハンドルやハードウェアキー等から入力されたパルスや指令、各種データをＣＰＵ１１に渡す。
【００１８】
産業機械を構成する可動部を駆動する軸を制御するための軸制御回路３０はＣＰＵ１１からの軸の移動指令量を受けて、軸の指令をサーボアンプ４０に出力する。サーボアンプ４０はこの指令を受けて、産業機械が備える軸を移動させるサーボモータ５０を駆動する。軸のサーボモータ５０は位置・速度検出器を内蔵し、この位置・速度検出器からの位置・速度フィードバック信号を軸制御回路３０にフィードバックし、位置・速度のフィードバック制御を行う。なお、図１のハードウェア構成図では軸制御回路３０、サーボアンプ４０、サーボモータ５０は１つずつしか示されていないが、実際には制御対象となる産業機械に備えられた軸の数だけ用意される。例えば、管理装置１が制御している産業機械が６つの軸を備えたロボットの場合には、軸制御回路３０、サーボアンプ４０、サーボモータ５０は、それぞれの軸に対して用意される。
【００１９】
インタフェース２１は、管理装置１と機械学習装置１００とを接続するためのインタフェースである。機械学習装置１００は、機械学習装置１００全体を統御するプロセッサ１０１と、システム・プログラム等を記憶したＲＯＭ１０２、機械学習に係る各処理における一時的な記憶を行うためのＲＡＭ１０３、及び学習モデル等の記憶に用いられる不揮発性メモリ１０４を備える。機械学習装置１００は、インタフェース２１を介して管理装置１で取得可能な各情報（各産業機械２において実行されている制御プログラム、電源設備３から取得される所定時間内に消費された平均電力やピーク電力等）を観測することができる。また、管理装置１は、機械学習装置１００から出力される結果を受けて、表示装置７０への表示や制御対象となる産業機械の制御、ネットワーク５を介した各産業機械２への指令の出力等を行う。
【００２０】
図２は、一実施形態による管理装置１と機械学習装置１００の概略的な機能ブロック図である。本実施形態の管理装置１は、機械学習装置１００が学習を行う場合に必要とされる構成と、機械学習装置１００による意思決定に基づく処理に必要とされる構成とを備えている。図２に示した各機能ブロックは、図１に示した管理装置１が備えるＣＰＵ１１、及び機械学習装置１００のプロセッサ１０１が、それぞれのシステム・プログラムを実行し、管理装置１及び機械学習装置１００の各部の動作を制御することにより実現される。
【００２１】
本実施形態の管理装置１は、制御部３２、データ取得部３４、前処理部３６、停止時間割当部３８を備え、管理装置１が備える機械学習装置１００は、学習部１１０、意思決定部１２０を備えている。また、図１で示した不揮発性メモリ１４上には、産業機械２、電源設備３等から取得されたデータが記憶される取得データ記憶部５４が設けられており、図１で示した機械学習装置１００の不揮発性メモリ１０４上には、学習部１１０による機械学習により構築された学習モデルを記憶する学習モデル記憶部１３０が設けられている。
【００２２】
制御部３２は、不揮発性メモリ１０４に記憶された制御用プログラム５２に基づいて、制御対象としている産業機械（図１におけるサーボモータ５０が組み込まれている産業機械）の動作を制御する機能手段である。
制御部３２は、作業者による図１で示した教示操作盤６０の制御操作や、不揮発性メモリ１４等に記憶された制御用プログラム５２に基づいて制御対象としている産業機械を制御する機能手段である。制御部３２は、制御用プログラム５２により制御対象としている産業機械が備える各軸の移動が指令されている場合に当該軸を駆動するサーボモータ５０に対して制御周期毎に軸角度の変化量としての指令データを出力する等の、産業機械の各可動部を制御するために必要とされる一般的な制御のための機能を備える。また、制御部３２は、制御対象とする産業機械が備える各サーボモータ５０のモータ状態量（モータの電流値、位置、速度、加速度、トルク等）を取得する。
【００２３】
データ取得部３４は、制御部３２、産業機械２、電源設備３、入力装置７１等から各種データを取得する機能手段である。データ取得部３４は、例えば、制御対象としている産業機械において実行されている制御用プログラム５２、各産業機械２において実行されている制御プログラム、各産業機械に設定されている停止時間、電源設備３から取得される所定時間内に消費された平均電力やピーク電力等を取得し、取得データ記憶部５４に記憶する。データ取得部３４は、外部記憶装置（図示せず）やネットワーク５を介して他のコンピュータ（図示せず）からデータを取得するようにしても良い。また、データ取得部３４は、各産業機械に設定されている停止時間については、制御部３２や各産業機械２から取得するようにしても良いし、停止時間割当部３８から１つ前の機械学習の動作サイクルで制御部３２や産業機械２に対して割り当てた停止時間を取得するようにしても良い。
【００２４】
前処理部３６は、データ取得部３４が取得したデータに基づいて、機械学習装置１００による学習に用いられる状態データを作成する。前処理部３６は、データ取得部３４が取得したデータを機械学習装置１００において扱われる統一的な形式へと変換（数値化、サンプリング等）した状態データを作成する。例えば、前処理部３６は、機械学習装置１００が強化学習をする場合において、該学習における所定の形式の状態データＳ及び判定データＤの組を作成する。
【００２５】
前処理部３６が作成する状態データＳは、電源設備３から供給された消費電力に係る消費電力データＳ１、前記消費電力データＳ１で示される消費電力の下で行われた各産業機械に対する合計停止時間の割当行動を示す停止時間割当データＳ２を含む。
【００２６】
消費電力データＳ１は、予め定めた所定の観測時間Ｔvの間に電源設備３から供給されて複数の産業機械（管理装置１が制御対象としている産業機械、及び他の産業機械２）により所定時間内に消費された平均電力を含み、また、予め定めた所定の観測時間Ｔvの間に電源設備３から供給されて複数の産業機械により消費されたピーク消費電力、又は予め定めた所定の観測時間Ｔvの間に電源設備３から供給されて複数の産業機械により消費された電力の時系列データを含んでいても良い。消費電力データＳ１は、電源設備３に設けられた電力計（図示せず）等のセンサにより検出される検出値に基づいて求めても良いし、別途電源経路等に設置された電力計（図示せず）等のセンサにより検出される検出値に基づいて求めても良い。
【００２７】
図３は、産業機械において消費される消費電力と、産業機械から出力される回生電力の例を示す図である。図３の例では、管理装置１が制御対象としている産業機械と、他の産業機械Ａ，Ｂが、電源設備３から電力を供給されているとする。図３では、横軸を時間軸とし、横軸線の上に消費電力、横軸線の下に回生電力を示している。図３において、各産業機械について示されている一連の連続した消費電力乃至回生電力の組が、該産業機械における１サイクル（制御用プログラムの実行開始から終了までのサイクル）における消費電力及び回生電力を示しており、各サイクルの動作が終了した時点でそれぞれ所定の停止時間だけ動作を停止してから（例えば、管理装置１が制御対象としている産業機械の場合は停止時間０．１秒）、次のサイクルの動作を開始している。各産業機械で発生した回生電力は、電源設備３からの電源経路を介して他の産業機械で利用され、その回生電力の分だけ電源設備３に要求される電力は緩和される。図３の一番下のグラフは、電源設備３から各産業機械に対して供給される電力の合計（グラフの上の部分）を示している。消費電力データＳ１として用いられる複数の産業機械により消費された平均電力は、例えば図３に示されている合計消費電力の所定時間（例えば、５分間）の平均出力（二乗平均出力）を計算して用いれば良い。また、消費電力データＳ１として用いられる複数の産業機械により消費されたピーク消費電力は、例えば図３に示されている合計消費電力の所定時間（例えば、５分間）の最大値を用いれば良い。更に、消費電力データＳ１として用いられる複数の産業機械により消費された電力の時系列データは、例えば図３に示されている合計消費電力の所定時間（例えば、５分間）を時系列データとして用いれば良い。
【００２８】
停止時間割当データＳ２は、前記消費電力データＳ１で示される消費電力の下で行われた各産業機械（管理装置１が制御対象としている産業機械、及び他の産業機械２）に対する、予め定められた合計停止時間の各産業機械に対する割当を示すデータである。停止時間割当データＳ２は、例えばそれぞれの産業機械に対して割り当てられた停止時間の値の系列として定義される。予め定められた合計停止時間は、例えば作業者が現場で動作する各産業機械のサイクルタイム、割当対象となる産業機械の台数等を考慮して設定すればよく、例えば産業機械の平均的なサイクルタイムが１〜２分であり産業機械が数台である場合に合計停止時間としては０．５〜１秒程度を設定するようにすれば良い。図３では、合計停止時間として０．５秒が設定されており、管理装置１が制御対象としている産業機械には０．１秒、産業機械Ａには０．３秒、産業機械Ｂには０．１秒がそれぞれ割り当てられており、この時の停止時間割当データＳ２は例えば（０．１，０．３，０．１）という値を取る。
【００２９】
前処理部３６が作成する判定データＤは、前記消費電力データＳ１で示される消費電力の下で行われた、前記停止時間割当データＳ２で示される合計停止時間の各産業機械に対する割当を行った場合における、該割当行動後の複数の産業機械により所定時間内に消費された平均電力やピーク消費電力に対する判定（評価）に用いられるデータである。判定データＤは、複数の産業機械により所定時間内に消費された平均電力やピーク消費電力の改善の程度に係る消費電力データＤ１を少なくとも含む。
消費電力データＤ１は、例えば前記停止時間割当データＳ２で示される予め定められた合計停止時間の各産業機械に対する割当を行う前後における、複数の産業機械により所定時間内に消費された平均電力やピーク消費電力の改善量（改悪量）であって良い。
【００３０】
学習部１１０は、前処理部３６が作成したデータを用いた機械学習を行う。学習部１１０は、公知の強化学習の手法により、電源設備３から供給された消費電力の状態に対する、各産業機械に対する合計停止時間の割当行動を学習した学習モデルを生成し、生成した学習モデルを学習モデル記憶部１３０に記憶する。強化学習は、学習対象が存在する環境の現在状態（つまり入力）を観測すると共に現在状態で所定の行動（つまり出力）を実行し、その行動に対し何らかの報酬を与えるというサイクルを試行錯誤的に反復して、報酬の総計が最大化されるような方策（本願の機械学習装置では各産業機械に対する合計停止時間の割当行動）をより適切な解として学習する手法である。学習部１１０が行う強化学習の手法としては、Ｑ学習等が挙げられる。
【００３１】
学習部１１０によるＱ学習において、報酬Ｒは、例えば、電源設備３から供給された所定時間の平均電力が調整前の平均電力よりも低減（改善）した場合に「良」と判定して正（プラス）の報酬Ｒとし、電源設備３から供給された所定時間の平均電力が調整前の平均電力からみて低減しなかった場合や増加（改悪）した場合に「否」と判定して負（マイナス）の報酬Ｒとすることができる。また、報酬Ｒは、例えば、電源設備３から供給された所定時間のピーク電力が調整前のピーク電力よりも低減（改善）した場合に「良」と判定して正（プラス）の報酬Ｒとし、電源設備３から供給された所定時間のピーク電力が調整前のピーク電力からみて低減しなかった場合や増加（改悪）した場合に「否」と判定して負（マイナス）の報酬Ｒとするようにしても良い。報酬Ｒの値は、低減乃至増加の度合いに応じて変化するものであっても良い。また、判定の条件として、判定データＤに複数のデータが含まれている場合には、それら複数のデータを組み合わせて判定するようにしても良い。
【００３２】
学習部１１０によるＱ学習において、状態変数Ｓと判定データＤと報酬Ｒとを、関数Ｑで表される行動価値（例えば数値）と関連付けて整理した行動価値テーブルを、学習モデルとして用いることができる。この場合、学習部１１０が学習することは、学習部１１０が行動価値テーブルを更新するという行為と同義である。Ｑ学習の開始時には環境の現在状態と複数の産業機械に対する合計停止時間の割当との相関性は未知であるから、行動価値テーブルにおいては、種々の状態変数Ｓと判定データＤと報酬Ｒとが、無作為に定めた行動価値の値（関数Ｑ）と関連付けた形態で用意され、学習を進める際には、状態変数Ｓと判定データＤ及び算出される報酬Ｒに基づいて行動価値の値（関数Ｑ）が書き換えられて行動価値テーブルが更新される。この更新を繰り返すことにより、行動価値テーブルに表示される行動価値の値（関数Ｑ）は、適正な行動ほど大きな値となるように書き換えられていく。そして、十分に学習が進んだ時点で、行動価値テーブルを参照するだけで、現在の状態に対してより適切な合計停止時間の割当行動を選択できるようになる。
【００３３】
学習部１１０は、ニューラルネットワークを価値関数Ｑ（学習モデル）として用い、状態データＳと行動ａとをニューラルネットワークの入力とし、当該状態における当該行動ａの価値（結果ｙ）を出力するように構成しても良い。この様に構成する場合、学習モデルとしては入力層、中間層、出力層の三層を備えたニューラルネットワークを用いても良いが、三層以上の層を為すニューラルネットワークを用いた、いわゆるディープラーニングの手法を用いることで、より効果的な学習及び推論を行うように構成することも可能である。学習部１１０が生成した学習モデルは、不揮発性メモリ１０４上に設けられた学習モデル記憶部１３０に記憶され、意思決定部１２０による各産業機械に対する合計停止時間の割当行動の決定処理に用いられる。
【００３４】
なお、学習部１１０は、学習の段階では必須の構成となるが、学習部１１０による各産業機械に対する合計停止時間の割当行動の学習が完了した後には必ずしも必須の構成ではない。例えば、学習が完了した機械学習装置１００を顧客に出荷する場合等には、学習部１１０を取り外して出荷するようにしても良い。
【００３５】
意思決定部１２０は、前処理部３６から入力された状態データＳに基づいて、学習モデル記憶部１３０に記憶された学習モデルを用いて各産業機械に対する合計停止時間の割当行動のより適切な解を求め、求めた各産業機械に対する合計停止時間の割当行動を出力する。本実施形態の意思決定部１２０では、学習部１１０による強化学習により生成された（パラメータが決定された）学習モデルに対して、前処理部３６から入力された状態データＳ（消費電力データＳ１等）と、各産業機械に対する合計停止時間の割当行動を入力データとして入力することで現在の状態において当該行動をとった場合の報酬を算出できるが、この報酬の算出を現在取り得る各産業機械に対する合計停止時間の割当行動について行い、算出された複数の報酬を比較して、最も大きな報酬が算出される各産業機械に対する合計停止時間の割当行動をより適切な解として決定する。意思決定部１２０が決定した各産業機械に対する合計停止時間の割当行動のより適切な解は、停止時間割当部３８へと出力される他、例えば表示装置７０に表示出力したり、図示しない有線／無線ネットワークを介してホストコンピュータやクラウドコンピュータ等に送信出力したりすることで利用しても良い。
【００３６】
停止時間割当部３８は、意思決定部１２０から入力された各産業機械に対する合計停止時間の割当に基づいて、管理装置１が制御対象とする産業機械、及び他の産業機械２に対して割り当てた停止時間を出力する。停止時間割当部３８は、管理装置１が制御対象としている産業機械の停止時間を制御部３２に対して出力し、制御部３２による制御用プログラム５２の実行の間に取るべき停止時間として設定する。また、停止時間割当部３８は、他の産業機械２に対して割り当てられた停止時間を、ネットワーク５を介してそれぞれの産業機械２に対して出力し、各産業機械２における一連の制御動作の間に取るべき停止時間として設定する。
【００３７】
上記した構成を備えた管理装置１では、同じ電源設備３から電力を供給される複数の産業機械について、全体での消費電力の状態を観測しながら、各産業機械に対する停止時間の割当を変更していく。これにより、それぞれの産業機械での電力消費と電力回生のタイミングが割当前と比べて時間的にずれることとなる。そして、ある停止時間の割当では、ある産業機械における電力消費のタイミングと他の産業機械における電力回生のタイミングとがずれ、他の停止時間の割当では、ある産業機械における電力消費のタイミングと他の産業機械における電力回生のタイミングとが一致する。このような割当行動を繰り返す中で、管理装置１が備える機械学習装置１００は、どのような消費電力の状態において、どのような合計停止時間の割当をすれば、消費電力の状態がどの様に変わっていくのかを学習し、いずれは現在の消費電力の状態に対してより適切な合計停止時間の割当解を出力して設定できるようになる。
【００３８】
以下では、管理装置１をフォグコンピュータ、クラウドサーバ等のコンピュータとして実装した第２実施形態による管理システムについて説明する。
図４は、第２実施形態による管理システムが動作する環境を示す図である。本実施形態による管理システムは、図４に例示されるように、クラウドサーバ６やフォグコンピュータ７、エッジコンピュータ８を含む複数の装置のそれぞれが有線／無線のネットワークに接続されたシステム環境で動作する。図４に例示されるシステムは、クラウドサーバ６等を含む層、フォグコンピュータ７等を含む層、エッジコンピュータ８（セル９に含まれるロボットを制御するロボットコントローラ、工作機械を制御する制御装置、搬送機械等の周辺機械、電源設備等）等を含む層の、３つの階層に論理的に分けて構成されている。この様なシステム上で、本実施形態による管理システムは、クラウドサーバ６、フォグコンピュータ７等のコンピュータの上に、第１実施形態で説明した管理装置１の機能を実装することで構成される。第２実施形態による管理システムでは、それぞれの複数の装置との間でネットワークを介して相互にデータを共有したり、エッジコンピュータ８で取得された様々なデータをフォグコンピュータ７やクラウドサーバ６に収集して大規模な解析を行ったり、更に、その解析結果に基づいて各々のエッジコンピュータ８の動作を制御することを可能とする。図４に例示されるシステムにおいて、セル９は各地の工場にそれぞれ複数設けられ（例えば、工場の１フロア毎に１つのセル９を設ける等）、それぞれのセル９を所定の単位（工場単位、同じ製造業者の複数の工場単位等）で上位層のフォグコンピュータ７が管理する。そして、これらフォグコンピュータ７が収集、解析したデータを、更に上位層のクラウドサーバ６で収集、解析等を行い、その結果として得られた情報を各々のエッジコンピュータ８における制御等に活用することができる。
【００３９】
図５は、本実施形態による管理システムの概略的な構成図である。本実施形態による管理システム３００は、クラウドサーバ６やフォグコンピュータ７等のコンピュータ上に実装された管理装置１’と、該管理装置１’にネットワーク５を介して接続されたエッジコンピュータとしての複数の産業機械２、該複数の産業機械２に対して電力を供給する電源設備３等を含む。本実施形態による管理システム３００が備える管理装置１’は、制御部３２を備えていいない点を除いて、図２で説明した管理装置１と同様の構成を備える。
【００４０】
本実施形態による管理システム３００では、管理装置１’が、管理下にある複数の産業機械２に対して、合計停止時間の割当を行う。管理装置１’が備える機械学習装置１００は、管理下にある複数の産業機械２について、どのような消費電力の状態において、どのような合計停止時間の割当をすれば、消費電力の状態がどの様に変わっていくのかを学習し、いずれは現在の消費電力の状態に対してより適切な合計停止時間の割当解を出力して設定できるようになる。
【００４１】
図６は、図４に示したシステム環境に対して、複数の管理システム３００を導入した例を示している。図６に例示されるシステムは、フォグコンピュータ７の上に管理装置１’実装した複数の管理システム３００（図示せず）を備えており、各管理装置１’は、それぞれ複数のエッジコンピュータ８を管理しており、管理下にある複数の産業機械（エッジコンピュータ８）から収集したデータに基づく学習を行い、それぞれの学習結果としての学習モデルを、他の管理装置１との間で直接又はクラウドサーバ６を介して相互にやり取りできるように構成されている。
このような構成を備えた管理システム３００では、例えば管理下にある複数の産業機械と類似した複数の産業機械を配置した他の管理システム３００から学習モデルを取得して利用することが可能となる。そのため、新たな工場を設置した場合などに、類似した複数の産業機械の組み合わせで運用される管理システム３００から学習モデルを流用することで、工場立ち上げ時の学習モデル構築のための試験的な運用作業の手間を大幅に省くことが可能となる。
【００４２】
以上、本発明の実施の形態について説明したが、本発明は上述した実施の形態の例のみに限定されることなく、適宜の変更を加えることにより様々な態様で実施することができる。
例えば、上記した実施形態では管理装置１と機械学習装置１００が異なるＣＰＵ（プロセッサ）を有する装置として説明しているが、機械学習装置１００は管理装置１が備えるＣＰＵ１１と、ＲＯＭ１２に記憶されるシステム・プログラムにより実現するようにしても良い。
【符号の説明】
【００４３】
１，１’  管理装置
２  産業機械
３  電源設備
６  クラウドサーバ
７  フォグコンピュータ
８  エッジコンピュータ
９  セル
１１  ＣＰＵ
１２  ＲＯＭ
１３  ＲＡＭ
１４  不揮発性メモリ
１６，１７，１８，１９  インタフェース
２０  バス
２１  インタフェース
３０  軸制御回路
３２  制御部
３４  データ取得部
３６  前処理部
３８  停止時間割当部
４０  サーボアンプ
５０  サーボモータ
５２  制御用プログラム
５４  取得データ記憶部
６０  教示操作盤
７０  表示装置
７１  入力装置
１００  機械学習装置
１０１  プロセッサ
１０２  ＲＯＭ
１０３  ＲＡＭ
１０４  不揮発性メモリ
１１０  学習部
１２０  意思決定部
１３０  学習モデル記憶部
３００  管理システム
【図１】
2020135075.tif 000003
【図２】
2020135075.tif 000004
【図３】
2020135075.tif 000005
【図４】
2020135075.tif 000006
【図５】
2020135075.tif 000007
【図６】
2020135075.tif 000008