(57)【要約】【課題】プラントの運転状態を示すパラメータの最適値を求める学習をより短時間で収束させ易くすること。【解決手段】プラント制御支援装置は、プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択部と、前記学習に用いられる報酬関数を定義する報酬関数定義部と、前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習の対象となるパラメータを抽出するパラメータ抽出部と、前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習部と、を備える。【選択図】図３
2019020885.tif 000002
【特許請求の範囲】
【請求項１】
プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択部と、
前記学習に用いられる報酬関数を定義する報酬関数定義部と、
前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習の対象となるパラメータを抽出するパラメータ抽出部と、
前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習部と、
を備えることを特徴とするプラント制御支援装置。
【請求項２】
前記パラメータ抽出部によって抽出された前記パラメータを、前記セグメント情報及び前記入出力情報に基づいて、セグメント内の可変パラメータ、セグメント内のモニタパラメータ、セグメント外の可変パラメータ、またはセグメント外の固定パラメータに分類するパラメータ分類部を備え、
前記学習部は、前記パラメータ分類部によって分類された前記パラメータに基づいて前記学習を行う
ことを特徴とする請求項１に記載のプラント制御支援装置。
【請求項３】
前記学習部は、前記セグメント情報に基づく前記パラメータの間の相関を示す関連モデルに基づいて前記学習を行う
ことを特徴とする請求項２に記載のプラント制御支援装置。
【請求項４】
前記セグメント選択部は、前記プラントにおける工程の流れに応じて、前記プラントを構成する複数のセグメントを順に選択する
ことを特徴とする請求項１から請求項３のうちいずれか一項に記載のプラント制御支援装置。
【請求項５】
前記セグメントごとになされた前記学習によってそれぞれ決定したパラメータに基づいて、前記プラントの全体に対して前記パラメータの最適化のための学習を行う全体最適化部、
を備えることを特徴とする請求項１から請求項４のうちいずれか一項に記載のプラント制御支援装置。
【請求項６】
前記報酬関数定義部は、前記プラントにおいて発生するアラームに基づく値に応じて前記報酬関数の値を減算するための関数であるペナルティ関数を定義し、
前記学習部は、前記ペナルティ関数に基づいて、前記学習を前記セグメントごとに行う
ことを特徴とする請求項１から請求項５のうちいずれか一項に記載のプラント制御支援装置。
【請求項７】
前記報酬関数を最大化する目的に寄与しないパラメータを前記セグメント情報に基づいて特定し、特定したパラメータを前記パラメータ抽出部によって抽出されたパラメータから除外することにより、前記パラメータ抽出部によって抽出されたパラメータの絞り込みを行うパラメータ絞り込み部、
を備えることを特徴とする請求項１から請求項６のうちいずれか一項に記載のプラント制御支援装置。
【請求項８】
コンピュータによるプラント制御支援方法であって、
プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択ステップと、
前記学習に用いられる報酬関数を定義する報酬関数定義ステップと、
前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習の対象となるパラメータを抽出するパラメータ抽出ステップと、
前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習ステップと、
を有することを特徴とするプラント制御支援方法。
【請求項９】
コンピュータに、
プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択ステップと、
前記学習に用いられる報酬関数を定義する報酬関数定義ステップと、
前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習の対象となるパラメータを抽出するパラメータ抽出ステップと、
前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習ステップと、
を実行させるためのプラント制御支援プログラム。
【請求項１０】
コンピュータに、
プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択ステップと、
前記学習に用いられる報酬関数を定義する報酬関数定義ステップと、
前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習の対象となるパラメータを抽出するパラメータ抽出ステップと、
前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習ステップと、
を実行させるためのプラント制御支援プログラムを記録した記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、プラント制御支援装置、プラント制御支援方法、プラント制御支援プログラム及び記録媒体に関する。
【背景技術】
【０００２】
従来から、化学等の工業プラントや工場、ガス田や油田等の井戸元やその周辺を管理制御するプラント、水力・火力・原子力等の発電を管理制御するプラント、太陽光や風力等の環境発電を管理制御するプラント、及び、上下水やダム等を管理制御するプラント等のプラントや工場（以下、これらを総称する場合には「プラント」という）においては、フィールド機器と呼ばれる測定器または操作器等の現場機器と、これらを制御する制御装置とが通信手段を介して接続された分散制御システム（ＤＣＳ：Ｄｉｓｔｒｉｂｕｔｅｄ  Ｃｏｎｔｒｏｌ  Ｓｙｓｔｅｍ）が構築されており、ＤＣＳによる高度な自動操業が実現されている。
【０００３】
従来、上記のようなプラントのシステムにおいては、プラントの収量、運転状況、アラームの発生状況等の操業状態がセンサ等の測定器によって測定される。そして、測定値は、ＤＣＳを介して収集され、操作盤や監視端末のモニタ等の監視装置において表示される。プラントの操業状態を監視するボードオペレータは、監視装置によってプラントに異常を認識した場合、あるいはプラントの収量を増減させる場合等には、フィールドオペレータと呼ばれる作業者に対して、フィールド機器の調査、点検、または交換等の指示、若しくはバルブ等の操作器の調整指示を行う。
昨今、このような操作器等の調整を人工知能によって最適化して行い、プラント操業を自動化する技術が検討されている。例えば、特許文献１に記載のプラント制御システムは、センサ等の入力情報をサンプルデータとした判断モデルを用いた人工知能により、作業者に対して情報を提供する。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１４−１７４９９３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、上述の特許文献１等に開示された人工知能の技術を用いれば、プラントの運転状態を容易に最適化することができるとも考えられる。しかしながら、一般的にプラントの操業においては、人工知能が学習するべき範囲が広く、学習の対象となるパラメータの数が膨大になるため、プラントの運転状態を示すパラメータの最適値を求める学習が収束するまでに非現実的な長い時間を要したり、さらには学習が収束しなかったりする場合があるという課題がある。
【０００６】
本発明は上記事情に鑑みてなされたものであり、プラントの運転状態を示すパラメータの最適値を求める学習をより短時間で収束させ易くすることができるプラント制御支援装置、プラント制御支援方法、プラント制御支援プログラム及び記録媒体を提供することを目的とする。
【課題を解決するための手段】
【０００７】
（１）本発明は上記の課題を解決するためになされたものであり、本発明の一態様としては、プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択部と、前記学習に用いられる報酬関数を定義する報酬関数定義部と、前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習の対象となるパラメータを抽出するパラメータ抽出部と、前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習部と、を備えることを特徴とするプラント制御支援装置である。
【０００８】
（２）また、本発明の一態様としては、上記のプラント制御支援装置であって、前記パラメータ抽出部によって抽出された前記パラメータを、前記セグメント情報及び前記入出力情報に基づいて、セグメント内の可変パラメータ、セグメント内のモニタパラメータ、セグメント外の可変パラメータ、またはセグメント外の固定パラメータに分類するパラメータ分類部を備え、前記学習部は、前記パラメータ分類部によって分類された前記パラメータに基づいて前記学習を行うことを特徴とする。
【０００９】
（３）また、本発明の一態様としては、上記のプラント制御支援装置であって、前記学習部は、前記セグメント情報に基づく前記パラメータの間の相関を示す関連モデルに基づいて前記学習を行うことを特徴とする。
【００１０】
（４）また、本発明の一態様としては、上記のプラント制御支援装置であって、前記セグメント選択部は、前記プラントにおける工程の流れに応じて、前記プラントを構成する複数のセグメントを順に選択することを特徴とする。
【００１１】
（５）また、本発明の一態様としては、上記のプラント制御支援装置であって、前記セグメントごとになされた前記学習によってそれぞれ決定したパラメータに基づいて、前記プラントの全体に対して前記パラメータの最適化のための学習を行う全体最適化部、を備えることを特徴とする。
【００１２】
（６）また、本発明の一態様としては、上記のプラント制御支援装置であって、前記報酬関数定義部は、前記プラントにおいて発生するアラームに基づく値に応じて前記報酬関数の値を減算するための関数であるペナルティ関数を定義し、前記学習部は、前記ペナルティ関数に基づいて、前記学習を前記セグメントごとに行うことを特徴とする。
【００１３】
（７）また、本発明の一態様としては、上記のプラント制御支援装置であって、前記報酬関数を最大化する目的に寄与しないパラメータを前記セグメント情報に基づいて特定し、特定したパラメータを前記パラメータ抽出部によって抽出されたパラメータから除外することにより、前記パラメータ抽出部によって抽出されたパラメータの絞り込みを行うパラメータ絞り込み部、を備えることを特徴とする。
【００１４】
（８）また、本発明の一態様としては、コンピュータによるプラント制御支援方法であって、プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択ステップと、前記学習に用いられる報酬関数を定義する報酬関数定義ステップと、前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習の対象となるパラメータを抽出するパラメータ抽出ステップと、前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習ステップと、を有することを特徴とするプラント制御支援方法である。
【００１５】
（９）また、本発明の一態様としては、コンピュータに、プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択ステップと、前記学習に用いられる報酬関数を定義する報酬関数定義ステップと、前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習の対象となるパラメータを抽出するパラメータ抽出ステップと、前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習ステップと、を実行させるためのプラント制御支援プログラムである。
【００１６】
（１０）また、本発明の一態様としては、コンピュータに、プラントを構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行う前記セグメントを選択するセグメント選択ステップと、前記学習に用いられる報酬関数を定義する報酬関数定義ステップと、前記プラントで用いられる機器の入出力情報、及び前記セグメントに含まれる機器の構成を示すセグメント情報に基づいて、選択されたセグメントにおける前記学習パラメータを抽出するパラメータ抽出ステップと、前記報酬関数、及び抽出された前記パラメータに基づいて、運転状態を示すパラメータの最適値を求める学習を前記セグメントごとに行う学習ステップと、を実行させるためのプラント制御支援プログラムを記録した記録媒体である。
【発明の効果】
【００１７】
本発明によれば、プラントの運転状態を示すパラメータの最適値を求める学習をより短時間で収束させ易くすることができるプラント制御支援装置、プラント制御支援方法、プラント制御支援プログラム及び記録媒体を提供することができる。
【図面の簡単な説明】
【００１８】
【図１】本発明の第１の実施形態に係るプラント制御支援装置を用いたプラントの構成を示す概略図である。
【図２】本発明の第１の実施形態に係るプラント制御支援装置のハードウェア構成を示すブロック図である。
【図３】本発明の第１の実施形態に係るプラント制御支援装置のソフトウェア構成を示すブロック図である。
【図４】本発明の第１の実施形態に係るプラント制御支援装置の動作を示すフローチャートである。
【図５】本発明の第１の実施形態に係るプラント制御支援装置が用いるＩ／Ｏ図の構成を示す図である。
【図６】本発明の第１の実施形態に係るプラント制御支援装置が用いるアラーム設定定義データの構成を示す図である。
【図７】本発明の第１の実施形態に係るプラント制御支援装置によるパラメータの学習を示す概略図である。
【図８】発明の第１の実施形態に係るプラント制御支援装置によるセグメント選択について説明するための図である。
【図９】発明の第１の実施形態に係るプラント制御支援装置によるセグメント選択について説明するための図である。
【図１０】発明の第１の実施形態に係るプラント制御支援装置によるセグメント選択について説明するための図である。
【図１１】本発明の第１の実施形態に係るプラント制御支援装置１が制御するプラント機器のセグメントの一例を示す図である。
【図１２】本発明の第１の実施形態に係るプラント制御支援装置１が制御するプラント機器のセグメントの一例を示す図である。
【発明を実施するための形態】
【００１９】
＜第１の実施形態＞
［プラントの概要］
以下、プラント制御支援装置を用いたプラントの構成の一例について、図面を参照しながら説明する。図１は、本発明の第１の実施形態に係るプラント制御支援装置１を用いたプラント１００の構成を示す概略図である。
図示するように、プラント１００は、プラント制御支援装置１、基幹業務システム２、製造実行システム３、運転制御装置４、操作盤５、保全機器６、フィールドオペレータ端末７、プラント機器Ｐ０を有する。
【００２０】
プラント機器Ｐ０は、所定の生成物（最終成果物）を生成する。図１に例示するプラント機器Ｐ０は、原料塩水から水素や塩素を生成するプラント機器である。図示するように、プラント機器Ｐ０は、モニタＭ１〜モニタＭ５、及びバルブＶ１〜バルブＶ８を含む、各種機器を有している。
【００２１】
モニタＭ１〜モニタＭ５は、例えば、差圧計、温度計、または流量計等の物理量（圧力、温度、または流量等）の信号を運転制御装置４に入力する入力機器である。モニタＭ１は、プラント機器Ｐ０で生成される最終成果物の１つ（水素）の収量を測定する測定装置である。なお、本実施形態においてプラント１００は、モニタＭ１で測定される生成物の収量が目標収量となるように制御されるプラントであるものとする。
【００２２】
また、バルブＶ１〜バルブＶ８は、運転制御装置４からのバルブ開度の指示に従って動作する出力機器であり、バルブ開度を変化させることによって、材料または生成物等の流量や圧力を調整する。
【００２３】
なお、プラント機器Ｐ０の中で、モニタＭ１〜モニタＭ５、及びバルブＶ１〜バルブＶ８を、以下「フィールド機器」という。フィールド機器は、プラント制御支援装置１の制御対象となる機器であり、プラント制御支援装置１は、フィールド機器を制御することによって、プラント機器Ｐ０によって生成される生成物の収量等を制御することができる。なお、以下の説明において、「プラント機器Ｐ０」と言う場合、プラント機器Ｐ０に含まれる１または複数の機器（フィールド機器を含む）のことをいうものとする。
【００２４】
なお、図１に図示したプラント機器Ｐ０の構成は一例として示したものである。プラント機器Ｐ０は、例えばモニタＭ１〜モニタＭ５等の入力機器によって計測された物理量に基づいて、例えばバルブＶ１〜バルブＶ８等の出力機器による調整操作が行われることにより生成物の収量等の制御が行われるようなプラント機器であるならば、図１に示すプラント機器Ｐ０の構成に限られるものではない。
また、入力機器や出力機器は、上記構成に含まれるバルブやモニタ等に限定されない。例えば、プラント機器Ｐ０は、入力機器として、スイッチ類等の機器を含んでいてもよい。また、例えば、プラント機器Ｐ０は、出力機器として、ポンプ等のアクチュエータ、ヒータ等の機器を含んでいてもよい。
【００２５】
基幹業務システム２は、例えば、会計処理、生産管理、及び販売管理等の経営資源を管理するためのプロセス製造業向けＥＲＰ（Ｅｎｔｅｒｐｒｉｓｅ  Ｒｅｓｏｕｒｃｅ  Ｐｌａｎｎｉｎｇ：経営資源統合）システムである。基幹業務システム２は、プラントの運転状態に関する情報を、経営資源の管理情報として利用してもよい。また、基幹業務システム２は、プラントの保守や修理の業務情報を管理する保守管理システム等を含んでいてもよい。基幹業務システム２は、例えば、サーバ装置、デスクトップ型パーソナルコンピュータ（ＰＣ）等の汎用的なコンピュータを含んで構成される。
【００２６】
製造実行システム３は、例えば、基幹業務システム２と運転制御装置４との間に位置するＭＥＳ（Ｍａｎｕｆａｃｔｕｒｉｎｇ  Ｅｘｅｃｕｔｉｏｎ  Ｓｙｓｔｅｍ；製造実行システム）であり、運転制御装置４が取得したプラント機器Ｐ０の動作状態や作業者の作業状況等を監視して管理する。製造実行システム３は、プラント制御支援装置１と通信を行い、例えば、基幹業務システム２から取得した目標収量等の情報を、プラント制御支援装置１へ出力する。また、製造実行システム３は、プラント機器Ｐ０を動作させるための運転指示をプラント制御支援装置１から取得する。製造実行システム３は、例えば、サーバ装置、デスクトップ型ＰＣ等の汎用的なコンピュータを含んで構成される。
【００２７】
運転制御装置４は、モニタＭ１〜モニタＭ５等の入力機器から計測値等を取得したり、バルブＶ１〜バルブＶ８等の出力機器を動作させるための運転指示を出力したりすることにより、フィールド機器の動作を制御する。本実施形態において、モニタＭ１〜モニタＭ５から運転制御装置４へ入力される入力値や、運転制御装置４からバルブＶ１〜バルブＶ８等へ出力する出力値は、プラントの運転状態を数値で示した指標（数値指標）であり、プラント制御支援装置１と運転制御装置４との間においてこの数値指標の入出力が行われる。運転制御装置４は、例えば、ＦＡ（Ｆａｃｔｏｒｙ  Ａｕｔｏｍａｔｉｏｎ）コンピュータ、ＰＬＣ（Ｐｒｏｇｒａｍｍａｂｌｅ  Ｌｏｇｉｃ  Ｃｏｎｔｒｏｌｌｅｒ）等の装置を含んで構成される。
【００２８】
操作盤５は、プラントのフィールドオペレータがフィールド機器の動作状態を監視し、フィールド機器を操作するための装置である。操作盤５は、例えば、ランプ、ディスプレイ等の表示機器、または押しボタンスイッチ、キーボード等の操作機器を有する。例えば、後述するプラント制御支援装置１から出力されるプラントの運転を指示する運転指示を受けたフィールドオペレータは、操作盤５の操作機器を用いてプラント機器Ｐ０のフィールド機器を操作する。
【００２９】
保全機器６は、フィールドオペレータがフィールド機器の保全を行うための機器である。フィールド機器の保全とは、例えば、フィールド機器に設定された機器情報を読み出して確認する処理、フィールド機器に対して新たな機器情報（パラメータ）を設定する処理、フィールド機器に設定された機器情報を調整または変更する処理、ならびにフィールド機器に機器情報を設定して所定の動作を実行させる処理等である。
【００３０】
保全機器６は、フィールド機器との間で、例えば、有線通信または無線通信を用いて通信を行う通信機能を有する。保全機器６は、通信機能を用いて、フィールド機器の保全を行う。保全機器６が通信機能を用いて行う上記保全において、フィールド機器と送受信する情報を「保全情報」という。保全情報には、上述のようにフィールド機器から読み出した情報の外に、フィールドオペレータが保全機器６に記録した、テキスト情報、画像情報、及び音声情報等を含んでいてもよい。保全機器６は、保全情報をプラント制御支援装置１に送信する。保全機器６は、ノート型またはタブレット型のコンピュータ、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ；携帯情報端末）、またはスマートフォン等である。
【００３１】
フィールドオペレータ端末７は、フィールドオペレータが所持する端末装置である。フィールドオペレータ端末７は、プラント制御支援装置１から出力されるプラントの運転を指示する運転指示を取得する。フィールドオペレータ端末７は、例えば、電子メール、チャット、音声通話等の通信手段によってプラント制御支援装置１から運転指示を取得して、フィールドオペレータに対して報知する。フィールドオペレータ端末７は、ノート型またはタブレット型のコンピュータ、ＰＤＡ、またはスマートフォン等である。
【００３２】
プラント制御支援装置１は、製造実行システム３、運転制御装置４、保全機器６及びフィールドオペレータ端末７と通信を行う。プラント制御支援装置１は、運転制御装置４及び保全機器６からフィールド機器の状態を取得する。プラント制御支援装置１は、運転制御装置４またはフィールドオペレータ端末７に対して運転指示を出力することにより、プラント機器Ｐ０を制御する。
【００３３】
また、プラント制御支援装置１は、プラントに特化した各種データ、例えば、Ｉ／Ｏ（Ｉｎｐｕｔ／Ｏｕｔｐｕｔ；入出力）図、セグメント図、アラーム設定定義データ、及びパラメータ暫定初期値データ等に基づいて、プラント機器Ｐ０が備えるフィールド機器のパラメータについて人工知能による学習を行い、パラメータ値の最適化を行う。
なお、パラメータとは、プラント機器Ｐ０内のフィールド機器における機器情報であり、例えば、フィールド機器がセンサである場合にはセンサ値、及びフィールド機器がバルブである場合にはバルブ開度等を示す値である。
【００３４】
なお、Ｉ／Ｏ図（入出力情報）とは、プラント機器Ｐ０内のフィールド機器のリストを含んだデータであり、フィールド機器を識別する識別子、フィールド機器の種別（例えば、バルブやセンサ等）、及び計測値の単位などを定義したデータである。
また、セグメント図（セグメント情報）とは、プラント機器Ｐ０内に敷設された配管の構成や、プラント機器Ｐ０を構成するブロック（セグメント）等を、視覚的に図示したデータである。
【００３５】
また、アラーム設定定義データとは、例えば、センサの状態を異常と判定するセンサ値の閾値（上限値及び下限値の少なくともいずれか）、及び異常と判定した場合に発生させるアラームの重要度等を定義したデータである。
また、パラメータ暫定初期値データとは、プラント機器Ｐ０が正常に動いている場合において、当該プラント機器Ｐ０の設計上予測される、センサ値やバルブ開度等の大まかな値を示すデータである。
【００３６】
なお、プラント制御支援装置１は、ボードオペレータの作業を代替（または補佐）して運転指示を出力することができるため、ボードオペレータの人為的なミスを低減させることができ、プラントの安全性を向上させることができる。また、ボードオペレータを代替または補佐することにより、プラント制御支援装置１は、ボードオペレータの負荷を無くす（または軽減する）ことができるため、ボードオペレータの人件費を低減させ、プラント運転のランニングコストを低減させることができる。
【００３７】
［プラント制御支援装置のハードウェア構成］
次に、プラント制御支援装置１のハードウェア構成の一例について、図面を参照しながら説明する。図２は、本発明の第１の実施形態に係るプラント制御支援装置１のハードウェア構成を示すブロック図である。
【００３８】
図示するように、プラント制御支援装置１は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ；中央演算処理装置）１１、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ；読み書き可能なメモリ）１２、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ；読み出し専用メモリ）１３、ＨＤＤ（Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ）１４、表示装置１５、入力装置１６、通信Ｉ／Ｆ（Ｉｎｔｅｒｆａｃｅ）１７、及びこれらを接続するバス１９を備える。
【００３９】
プラント制御支援装置１は、例えば、サーバ装置、デスクトップ型ＰＣ等の汎用的なコンピュータ、ＦＡコンピュータ、ＰＬＣ等の装置、ノート型またはタブレット型のコンピュータ、ＰＤＡ、またはスマートフォン等を含んで構成される。プラント制御支援装置１は、ボードオペレータの作業を代替（または補佐）するものであり、例えば、ボードオペレータが監視する監視端末（図示せず）の近傍に設置されるようにしてもよい。
【００４０】
ＣＰＵ１１は、ＲＡＭ１２、ＲＯＭ１３またはＨＤＤ１４に記憶されたプログラムを実行することにより、プラント制御支援装置１の制御を行う。ＣＰＵ１１は、後述するプラント制御支援装置１の動作を実現するためのプラント制御支援プログラムを実行する。プラント制御支援プログラムは、例えば、プラント制御支援プログラムを記録した記録媒体、またはネットワークを介したプラント制御支援プログラムを提供するサーバ等から取得されて、ＨＤＤ１４にインストールされ、ＣＰＵ１１から読み出し可能にＲＡＭ１２に記憶される。
【００４１】
表示装置１５は、表示機能を有する、例えば液晶ディスプレイ等の装置である。なお、表示装置１５は、ヘッドマウント型ディスプレイ、眼鏡型ディスプレイ、腕時計型ディスプレイ等の種々の形態の装置によって実現されてもよい。
入力装置１６は、入力機能を有する、例えばキーボードまたはマウスなどの装置である。なお、入力装置１６は、音声情報を入力するマイク、画像情報を入力するカメラ等の装置であってもよい。
また、表示装置１５と入力装置１６とが、表示機能と入力機能とを有する、例えばタッチパネル等の装置によって実現されてもよい。
【００４２】
通信Ｉ／Ｆ１７は、有線通信または無線通信を介して、製造実行システム３、運転制御装置４、保全機器６、フィールドオペレータ端末７等の他の装置との通信を制御する。通信Ｉ／Ｆ１７は、接続された他の装置と、データ送受信、音声通話、または電子メール送受信等の通信制御を行う。
【００４３】
通信Ｉ／Ｆ１７は、例えば、ＩＳＡ（Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｓｏｃｉｅｔｙ  ｏｆ  Ａｕｔｏｍａｔｉｏｎ：国際計測制御学会）の無線通信規格であるＩＳＡ１００、ＨＡＲＴ（Ｈｉｇｈｗａｙ  Ａｄｄｒｅｓｓａｂｌｅ  Ｒｅｍｏｔｅ  Ｔｒａｎｓｄｕｃｅｒ）（登録商標）、ＢＲＡＩＮ（登録商標）、ＦＯＵＮＤＡＴＩＯＮ  Ｆｉｅｌｄｂｕｓ、ＰＲＯＦＩＢＵＳ等の工業計器専用の通信規格に対応した通信制御を行うものであってもよい。また、通信Ｉ／Ｆ１７は、無線ＬＡＮ通信、有線ＬＡＮ通信、赤外線通信、及び近距離無線通信等の、汎用通信規格に対応した通信制御を行うものであってもよい。
【００４４】
［プラント制御支援装置のソフトウェア構成］
次に、プラント制御支援装置１のソフトウェア構成の一例について、図面を参照しながら説明する。図３は、本発明の第１の実施形態に係るプラント制御支援装置１のソフトウェア構成を示すブロック図である。
図示するように、プラント制御支援装置１は、運転状態取得部１０１と、ユーザデータ取得部１０２と、セグメント選択部１０３と、報酬関数定義部１０４と、パラメータ抽出部１０５と、パラメータ分類部１０６と、パラメータ絞り込み部１０７と、学習部１０８と、運転指示部１０９と、全体最適化部１１０と、を含んで構成される。
【００４５】
運転状態取得部１０１は、プラント機器Ｐ０の運転状態を取得する。本実施形態において、プラント機器Ｐ０の運転状態は、モニタＭ１〜モニタＭ５の計測値、及びバルブＶ１〜バルブＶ８のバルブ開度等で表される。運転状態取得部１０１は、例えば、モニタＭ１〜モニタＭ５に対して計測値の取得を要求して計測値を取得したり、バルブＶ１〜バルブＶ８に対してバルブ開度の取得を要求してバルブ開度を取得したりする。運転状態取得部１０１は、取得した運転状態を逐次記録する。
【００４６】
ユーザデータ取得部１０２は、各種ユーザデータを取得する。ここでいうユーザデータとは、上述した、Ｉ／Ｏ図、セグメント図、アラーム設定定義データ、パラメータ暫定初期値データ、及び、後述する報酬関数定義データ等である。
【００４７】
セグメント選択部１０３は、プラント機器Ｐ０を構成するセグメントの中から、運転状態を示すパラメータの最適値を求める学習を行うセグメントを選択する。なお、ここでいうセグメントとは、プラント機器Ｐ０の一部の範囲を示すものであり、例えば、プラント機器Ｐ０を制御ループの単位でセグメント分けすることによって定義される。
セグメント選択部１０３は、プラント機器Ｐ０における工程の流れに応じて、セグメントを順に選択する。すなわち、セグメント選択部１０３は、例えば、プラント機器Ｐ０を構成する複数のセグメントにおいて、当該プラント機器Ｐ０における、より下流の工程であるセグメントからより上流の工程であるセグメントへ、隣接するセグメントを順に選択していく。
なお、セグメント選択部１０３が、より上流の工程であるセグメントからより下流の工程であるセグメントへ、隣接するセグメントを順に選択していくような構成であってもよい。
なお、プラント機器Ｐ０のセグメント分け、及びセグメント選択については後に詳しく説明する。
【００４８】
報酬関数定義部１０４は、プラント機器Ｐ０におけるフィールド機器の運転状態を示すパラメータの最適値を求める学習に用いられる、報酬・ペナルティ関数を定義する。
なお、報酬・ペナルティ関数の定義については後に詳しく説明する。
【００４９】
パラメータ抽出部１０５は、パラメータに対応するフィールド機器の入出力情報を示す上記のＩ／Ｏ図、及びフィールド機器等の構成や配置を示す情報（セグメント情報）を示す上記のセグメント図等に基づいて、選択されたセグメントにおける学習の対象となるパラメータを抽出する。
【００５０】
パラメータ分類部１０６は、パラメータ抽出部１０５によって抽出されたパラメータを、Ｉ／Ｏ図及びセグメント図に基づいて、セグメント内の可変パラメータ、セグメント内のモニタパラメータ、セグメント外の可変パラメータ、またはセグメント外の固定パラメータに分類する。
【００５１】
パラメータ絞り込み部１０７は、パラメータ抽出部１０５によって抽出され、パラメータ分類部１０６によって分類されたパラメータのうち、報酬・ペナルティ関数を最大化する目的に寄与しないパラメータを、セグメント図に基づいて特定して削除（除外）する。あるいは、パラメータ絞り込み部１０７は、学習部１０８において最適値を求めるパラメータの優先順位付けを行う。これにより、学習の対象となるパラメータの絞り込みが行われる。
なお、報酬・ペナルティ関数を最大化する目的に寄与しないパラメータとは、例えば、プラント機器Ｐ０の生成物（最終成果物）の収量を計測するモニタに接続していない（すなわち、当該モニタの計測値に影響しない、あるいは影響が小さい）フィールド機器に対応するパラメータである。
【００５２】
パラメータ絞り込み部１０７は、学習部１０８による学習を収束し易くするための情報である、パラメータ間の相関を示す関連モデルをセグメント図に基づいて生成する。
なお、パラメータ絞り込み部１０７が、上述したような、セグメント図に基づいて特定したパラメータの削除（除外）、あるいは、パラメータの優先順位付けを行うことなく、パラメータ分類部１０６によって分類された全てのパラメータに対して、パラメータ間の相関を示す関連モデルをセグメント図に基づいて生成するようにしてもよい。
【００５３】
学習部１０８は、報酬・ペナルティ関数に基づいて、パラメータ抽出部１０５によって抽出されたパラメータの最適値を求めるための学習をセグメントごとに実行する。また、学習部１０８は、パラメータ絞り込み部によって生成された関連モデルに基づいて、パラメータの間の相関確率の学習を実行する。学習部１０８は、当該相関確率に基づいて、上記のパラメータの最適値を求めるための学習を実行する。
【００５４】
運転指示部１０９は、学習部１０８による学習によって決定したパラメータのパラメータ値に基づいて、プラント機器Ｐ０の運転を指示する運転指示を出力する。運転指示部１０９は、フィールド機器に対して、あるいはフィールドオペレータに対して、運転指示を出力する。例えば、運転指示部１０９は、学習部１０８において決定されたバルブＶ１〜Ｖ８のバルブ開度に応じて、運転制御装置４に対して４〜２０ｍＡの電流値、またはデジタル信号を出力する。また、運転指示部１０９は、学習部１０８による学習によって決定したバルブＶ１〜Ｖ８のバルブ開度を示す運転指示を出力する。
運転指示の出力は、所定のタイミングで実行される。例えば、運転制御装置４に対する運転指示の出力は、パラメータが決定された時点で直ちに実行される。一方、例えば、フィールドオペレータに対する運転指示の出力は、一定の間隔でフィールドオペレータ端末７へ（例えば、電子メール等により）送信されることにより実行される。
【００５５】
運転指示部１０９がフィールド機器またはフィールドオペレータに対して運転指示を出力することにより、プラント制御支援装置１は、ボードオペレータの作業負荷を軽減する（または無くす）ことができる。なお、運転指示部１０９は、運転指示の内容を、図２に図示した表示装置１５に表示することによって、ボードオペレータに対して報知するようにしてもよい。
また、ボードオペレータは報知された運転指示に問題があると判断した場合、入力装置１６を介して、運転指示部１０９に対し運転指示の変更または中止の指示を行うようにしてもよい。
【００５６】
全体最適化部１１０は、セグメントごとになされた学習によってそれぞれ決定したパラメータのパラメータ値に基づいて、プラント全体の（全てのセグメントの）、運転状態を示すパラメータの全体最適値を求める学習を実行する。
【００５７】
なお、図３においては、運転状態取得部１０１、ユーザデータ取得部１０２、セグメント選択部１０３、報酬関数定義部１０４、パラメータ抽出部１０５、パラメータ分類部１０６、パラメータ絞り込み部１０７、学習部１０８、運転指示部１０９、及び全体最適化部１１０の各機能がソフトウェアによって実現される場合を説明した。しかし、上記各機能のうち、１つ以上の機能がハードウェアによって実現されるものであっても良い。
また、上記の各機能が、複数の機能に分割されて実施されるような構成であってもよい。また、上記の各機能のうち２つ以上の機能が、１つの機能に集約されて実施されるような構成であってもよい。
【００５８】
［プラント制御支援装置の動作］
次に、プラント制御支援装置１の動作の一例について図面を参照しながら説明する。図４は、本発明の第１の実施形態に係るプラント制御支援装置１の動作を示すフローチャートである。
本フローチャートが示す処理は、プラント制御支援装置１の電源がオンにされた際に開始する。
【００５９】
（ステップＳ００１）セグメント選択部１０３は、プラント機器（例えば、図１に図示したプラント機器Ｐ０）を構成する複数のセグメントの中から、運転状態を示すパラメータの最適値を求める学習の実行対象となるセグメントを１つ選択する。その後、ステップＳ００２へ進む。
（ステップＳ００２）報酬関数定義部１０４は、運転状態を示すパラメータの最適値を求める学習に用いる報酬・ペナルティ関数を定義する。その後、ステップＳ００３へ進む。
【００６０】
（ステップＳ００３）パラメータ抽出部１０５は、Ｉ／Ｏ図及びセグメント図に基づいて、ステップＳ００１において選択されたセグメントに含まれる、学習の対象となるパラメータを抽出する。また、パラメータ抽出部１０５は、抽出したパラメータに対しパラメータ値を設定する（例えば、パラメータ暫定初期値データに基づいてパラメータ値を設定する）。その後、ステップＳ００４へ進む。
【００６１】
（ステップＳ００４）パラメータ分類部１０６は、ステップＳ００３において抽出したパラメータを、Ｉ／Ｏ図及びセグメント図に基づいて、「セグメント内の可変パラメータ」、「セグメント内のモニタパラメータ」、「セグメント外の可変パラメータ」、または「セグメント外の固定パラメータ」に分類する。その後、ステップＳ００５へ進む。
【００６２】
（ステップＳ００５）パラメータ絞り込み部１０７は、セグメント図に基づいて、ステップＳ００２において定義した報酬・ペナルティ関数の最大化において有効でなさそうなパラメータを削除（除外）することにより有効なパラメータに絞り込む。あるいは、パラメータ絞り込み部１０７は、学習部１０８において最適値を求めるパラメータの優先順位付けを行い、より有効なパラメータの優先順位を高くする。また、パラメータ絞り込み部１０７は、セグメント図に基づいて、学習部１０８による学習が収束しやすくするための情報となる、パラメータ間の相関を示す関連モデルを生成する。その後、ステップＳ００６へ進む。
【００６３】
（ステップＳ００６）学習部１０８は、ステップＳ００２において定義された報酬・ペナルティ関数と、ステップＳ００４において分類されステップＳ００５において絞り込まれたパラメータのパラメータ名と、当該パラメータそれぞれの（ステップＳ００３において設定された）パラメータ値と、ステップＳ００５において生成された関連モデルと、を取得する。そして、学習部１０８は、上記取得した情報を用いて、運転状態を示すパラメータの最適値を求めるための、人工知能による強化学習を行う。その後、ステップＳ００７へ進む。
【００６４】
（ステップＳ００７）プラント機器の全てのセグメントに対して、運転状態を示すパラメータの最適値を求める学習が完了した場合には、ステップＳ００８へ進む。そうでない場合は、ステップＳ００１へ戻る。
（ステップＳ００８）全体最適化部１１０は、ステップＳ００６における学習によって決定したパラメータのパラメータ値を用いて、プラント機器全体に対する運転状態を示すパラメータの全体最適値を求める学習を実行する。
以上で本フローチャートの処理が終了する。
【００６５】
［Ｉ／Ｏ図の構成］
次に、Ｉ／Ｏ図の構成の一例について、図面を参照しながら説明する。図５は、本発明の第１の実施形態に係るプラント制御支援装置１が用いるＩ／Ｏ図の構成を示す図である。
図示するように、本実施形態に係るＩ／Ｏ図は、「機器ＩＤ」、「機器種別」、「設置場所」、「制御ループ名」、「Ｉ／Ｏタイプ」、「ＩＯＰ下限値」、「ＩＯＰ上限値」、「単位」、及び「機器重要度」の９つの項目の列を含む２次元の表形式のデータである。
【００６６】
「機器ＩＤ」は、プラント機器Ｐ０に含まれるフィールド機器を識別する識別子（ＩＤ）を示す。
「機器種別」は、機器ＩＤによって識別されるフィールド機器の種類を示す。フィールド機器の種類とは、例えば、圧力計や温度計等のモニタ、及びバルブ等である。
「設置場所」は、プラントにおいて、機器ＩＤによって識別されるフィールド機器が設置された場所を示す。
【００６７】
「制御ループ名」は、プラント機器Ｐ０に含まれる制御ループのうち、機器ＩＤによって識別されるフィールド機器が含まれる制御ループの名称を示す。なお、本実施形態においては、プラント機器Ｐ０は、制御ループの単位でセグメント分けがなされる。
【００６８】
「Ｉ／Ｏタイプ」は、機器ＩＤによって識別されるフィールド機器が、プラント制御支援装置１へパラメータ値を入力する入力装置（例えば、モニタ）であるか、あるいは、プラント制御支援装置１から出力されたパラメータ値を取得して動作する出力装置（例えば、バルブなどの操作）であるかを示す。
【００６９】
「ＩＯＰ（Ｉｎｐｕｔ／Ｏｕｔｐｕｔ  Ｐｒｏｃｅｓｓｏｒ；入出力プロセッサ）下限値」は、機器ＩＤによって識別されるフィールド機器のパラメータ値（例えば、モニタ値）が異常であると判定される下限の閾値を示す。すなわち、フィールド機器のパラメータ値が、このＩＯＰ下限値を下回った場合に、所定の条件に基づいて所定のアラームが挙げられる。
「ＩＯＰ上限値」は、機器ＩＤによって識別されるフィールド機器のパラメータ値（例えば、モニタ値）が異常であると判定される上限の閾値を示す。すなわち、フィールド機器のパラメータ値が、このＩＯＰ上限値を上回った場合に、所定の条件に基づいて所定のアラームが挙げられる。
【００７０】
「単位」は、機器ＩＤによって識別されるフィールド機器のパラメータ値（例えば、モニタ値、またはバルブ開度）の単位を示す。フィールド機器が圧力計である場合には、単位は、例えば「ｈＰａ（ｈｅｃｔｏｐａｓｃａｌ；ヘクトパスカル）」等である。また、フィールド機器が温度計である場合には、単位は、例えば「℃（セルシウス度）」等である。また、フィールド機器がバルブである場合には、単位は、例えば「％（パーセント）」（最大開度に対する割合を示す）である。
「機器重要度」は、機器ＩＤによって識別されるフィールド機器の重要度を示す。この重要度に基づいて、後述するアラーム重要度が設定され、当該アラーム重要度が、後述するペナルティ関数の定義に反映される。
なお、機器重要度は、例えば、機器のパラメータの、プラント機器Ｐ０や各セグメントの収量への影響度合い、あるいはプラント機器Ｐ０や各セグメントが停止してしまう可能性の影響度合いによって設定される。
【００７１】
［アラーム設定定義データの構成］
次に、アラーム設定定義データの構成の一例について、図面を参照しながら説明する。図６は、本発明の第１の実施形態に係るプラント制御支援装置１が用いるアラーム設定定義データの構成を示す図である。図６に図示するように、本実施形態に係るアラーム設定定義データは、図５に図示したＩ／Ｏ図において定義されている「機器重要度」と「制御ループ」とに応じて決定されるアラームの重要度が定義された、２次元の表形式のデータである。
なお、アラームの重要度は、例えば、制御ループごとに、プラント機器Ｐ０や各セグメントの収量への影響度合い、あるいはプラント機器Ｐ０や各セグメントが停止してしまう可能性の影響度合いが異なるので、機器重要度に加えて機器が含まれる制御ループの重要度も考慮して定義されている。
【００７２】
例えば、図５に図示したＩ／Ｏ図において、「機器ＩＤ」が「Ｐ１２３４」であるフィールド機器が含まれる制御ループの制御ループ名は「ループ１」であり、「機器ＩＤ」が「Ｐ１２３４」であるフィールド機器の「機器重要度」は「低」である。また、図６に図示するアラーム設定定義データにおいて、「制御ループ名」が「ループ１」であり、「機器重要度」が「低」である場合、アラーム重要度は「低」である。これにより、プラント制御支援装置１は、「機器ＩＤ」が「Ｐ１２３４」で「ループ１」に含まれるフィールド機器におけるアラーム重要度が「低」であることを認識することができる。
【００７３】
同様に、例えば、図５に図示したＩ／Ｏ図において、「機器ＩＤ」が「Ｐ１２４５」であるフィールド機器が含まれる制御ループの制御ループ名は「ループ４」であり、「機器ＩＤ」が「Ｐ１２４５」であるフィールド機器の「機器重要度」は「高」である。また、図６に図示するアラーム設定定義データにおいて、「制御ループ名」が「ループ４」であり、「機器重要度」が「高」である場合、アラーム重要度は「中」である。これにより、プラント制御支援装置１は、「機器ＩＤ」が「Ｐ１２４５」で「ループ４」に含まれるフィールド機器におけるアラーム重要度が「中」であることを認識することができる。
【００７４】
なお、図６に図示するアラーム設定定義データにおいて、例えば、「制御ループ名」が「ループ３」であり、「機器重要度」が「低」である場合、アラーム重要度は「非表示」となっている。あるフィールド機器におけるアラーム重要度が「非表示」となっている場合、当該フィールド機器のアラームについては、報酬関数定義部１０４は、報酬・ペナルティ関数の定義においてペナルティ関数に含めない。
【００７５】
［運転状態を示すパラメータの最適値を求める学習］
次に、運転状態を示すパラメータの最適値を求める学習の処理について、図面を参照しながら更に詳しく説明する。図７は、本発明の第１の実施形態に係るプラント制御支援装置１によるパラメータの学習を示す概略図である。
【００７６】
図示するように、本実施形態に係るプラント制御支援装置１によるパラメータの学習は、当該学習における処理を示す処理ｐｒ１〜処理ｐｒ７、ユーザ（システム管理者やオペレータ等）によって与えられる情報を示すユーザデータｕｄ１〜ユーザデータｕｄ５、処理ｐｒ１〜処理ｐｒ７によって生成される計算データｃｄ１〜ｃｄ７、及びプラント制御支援装置１の電源ｐｗにより実行される。
【００７７】
なお、本実施形態に係るプラント機器（例えば、図１に図示したプラント機器Ｐ０）は、複数のセグメントを含んで構成される。セグメントとは、上述したように、プラント機器の一部の範囲を示すものである。本実施形態においては、セグメントは、プラント機器を制御ループの単位でセグメント分けすることによって定義される。
【００７８】
なお、セグメントは、ユーザ（システム管理者やオペレータ等）によって定義されてもよいし、コンピュータプログラムによって（例えば、Ｉ／Ｏ及びセグメント図等から制御ループを認識して、制御ループ単位でプラント機器をセグメント分けすることにより）定義されてもよい。
【００７９】
図７に図示するように、まず、プラント制御支援装置１の電源ｐｗがオンにされると、セグメント選択部１０３は、プラント機器（例えば、図１に図示したプラント機器Ｐ０）を構成する複数のセグメントの中から、運転状態を示すパラメータの最適値を求める学習の実行対象となるセグメントを１つ選択する処理ｐｒ１を実行する。
【００８０】
なお、初回の選択時においては、ユーザによって指定されたセグメントが選択される。例えば、ユーザ（ボードオペレータ）が図２に図示した入力装置１６を介して入力する、あるいはユーザ（フィールドオペレータ）が図１に図示したフィールドオペレータ端末７を介して入力することにより、セグメントが指定される。
なお、本実施形態において初回時に選択されるセグメントは、プラント機器Ｐ０の生成物（最終成果物）の収量を計測するモニタが含まれるセグメントである。例えば、初回時に選択されるセグメントは、図１に図示するプラント機器Ｐ０において、最終成果物である「水素」の収量を計測するモニタＭ１が含まれるセグメントである。
【００８１】
セグメントが選択されると、報酬関数定義部１０４は、運転状態を示すパラメータの最適値を求める学習に用いる報酬・ペナルティ関数を定義する処理ｐｒ２を実行する。
なお、報酬・ペナルティ関数とは、報酬関数とペナルティ関数とが組み合わされた関数である。
報酬関数定義部１０４は、処理ｐｒ２によって定義された報酬・ペナルティ関数を学習部１０８へ出力する。
【００８２】
報酬関数とは、最適化する対象となるプラント機器において何を最適化するのか（例えば、成果物の収量を最大化するのか、成果物の品質を最良にするのか、あるいは、プラント操業の安定度（安全度）を最高にするのか）について定義される関数である。
報酬関数は、ユーザにより予めユーザデータｕｄ３（報酬関数定義データ）に定義されている。例えば、ユーザ（ボードオペレータ）が図２に図示した入力装置１６を介して入力する、あるいはユーザ（フィールドオペレータ）が図１に図示したフィールドオペレータ端末７を介して入力することにより、ユーザデータｕｄ３（報酬関数定義データ）に報酬関数が定義される。
【００８３】
例えば、ｍ１やｍ２を成果物の収量の計測値とし、ａ１をアラームの値とすることにより、例えば、成果物の収量を最大化する報酬関数を「Ｍａｘ（ｍ１）」と定義したり、成果物の品質を最良にする報酬関数を「ｍ１／ｍ２＝５０％」と定義したり、あるいは、プラントの操業の安定度（安全度）を最高にする報酬関数を「１０＜ｍ１＜２０、ａ１＝０」と定義したりすることができる。
【００８４】
なお、プラント制御支援装置１は、複数の報酬の組み合わせを１つの報酬関数として、この複数の報酬の組み合わせを最適化するように学習を実行するようにしてもよい。例えば、報酬関数を「ｍ１＋１／（ｍ１／ｍ２−５０％）」と定義することにより、ｍ１を最大（収量最大）にしつつ、ｍ１／ｍ２を５０％に最も近付けた状態（品質最良）が最良の状態であるような報酬関数を定義することができる。
【００８５】
ペナルティ関数とは、アラームが挙がること（アラームの値）に応じて報酬関数の値を減算するための関数である。ペナルティ関数は、ユーザデータｕｄ２（アラーム設定定義データ）から自動もしくは半自動で作成される。
例えば、アラームの値ａ１〜ａ３がユーザデータｕｄ２（アラーム設定定義データ）において定義されており、それぞれ、ａ１が「（アラーム優先度）高」、ａ２が「（アラーム優先度）中」、及びａ３が「（アラーム優先度）低」、であるものとする。この場合、例えば、ペナルティ関数を「−ａ１＊１００−ａ２＊１０−ａ３＊１」と定義することによって、アラーム優先度が高いほど報酬関数をより多く減算するように重みづけしたペナルティ関数を定義することができる。
【００８６】
報酬関数定義部１０４は、上述した報酬関数とペナルティ関数を組み合わせることにより、例えば、報酬・ペナルティ関数Ｆ（ｘ）を、「Ｆ（ｘ）＝ｍ１＋／（ｍ１／ｍ２−５０％）−ａ１＊１００−ａ２＊１０−ａ３＊１」と定義する。
【００８７】
報酬・ペナルティ関数が決定すると、パラメータ抽出部１０５は、（処理ｐｒ１において）選択されたセグメントに含まれる、学習の対象となるパラメータを抽出する処理ｐｒ３を実行する。パラメータは、ユーザデータｕｄ１（セグメント図）、及びユーザデータｕｄ４（Ｉ／Ｏ図）に含まれる「制御ループ名」や「設置場所」などの情報に基づいて抽出される。なお、パラメータの抽出は、ユーザ（システム管理者やオペレータ等）によって行われるようにしてもよい。
また、初回時は、パラメータ抽出部１０５は、抽出したパラメータに対して予め設定されているパラメータ暫定初期値を、ユーザデータｕｄ５（パラメータ暫定初期値データ）から取得する。
【００８８】
パラメータが抽出され、抽出されたパラメータのパラメータ暫定初期値が取得されると、パラメータ抽出部１０５は、当該パラメータのリストと、それぞれのパラメータのパラメータ暫定初期値とを、パラメータ分類部１０６へ出力する。
パラメータ分類部１０６は、取得したパラメータを、ユーザデータｕｄ１（セグメント図）、及びユーザデータｕｄ４（Ｉ／Ｏ図）に基づいて分類する処理ｐｒ４を実行する。
【００８９】
パラメータ分類部１０６は、取得したパラメータを、「セグメント内の可変パラメータ」、「セグメント内のモニタパラメータ」、「セグメント外の可変パラメータ」、または「セグメント外の固定パラメータ」に分類する。
【００９０】
なお、「セグメント内の可変パラメータ」とは、セグメント内に存在する、パラメータ値を制御することができるパラメータである。「セグメント内の可変パラメータ」は、主に、ユーザデータｕｄ４（Ｉ／Ｏ図）において、例えば「バルブ」と示されているフィールド機器（出力機器）が該当するが、その他、例えば手動弁のようなものが含まれていてもよい。
【００９１】
また、「セグメント内のモニタパラメータ」とは、セグメント内に存在する、モニタ用の（パラメータ値を制御することができない）パラメータである。「セグメント内のモニタパラメータ」は、主に、ユーザデータｕ４ｄ（Ｉ／Ｏ図）において、例えば「温度計」、「圧力計」、あるいは「流量計」と示されているフィールド機器（入力機器）が該当する。
また、「セグメント外の可変パラメータ」及び「セグメント外の可変パラメータ」とは、隣接する他のセグメントとのやりとりを表すパラメータである。
【００９２】
「セグメント外の可変パラメータ」は、他のセグメントを調整することによってパラメータ値を制御することができるパラメータである。「セグメント外の可変パラメータ」には、隣接する他のセグメントから選択されているセグメントへの入力値を示すパラメータと、選択されているセグメントから隣接する他のセグメントへの出力値を示すパラメータと、がある。
【００９３】
「セグメント外の固定パラメータ」は、パラメータ値を制御することができないパラメータである。「セグメント外の固定パラメータ」には、隣接する他のセグメントから選択されているセグメントへの入力値を示すパラメータ、選択されているセグメントから隣接する他のセグメントへの出力値を示すパラメータ、あるいは、学習による最適化の対象である最終成果物の収量を示すパラメータである。
なお、セグメント選択とパラメータの分類については後に詳しく説明する。
【００９４】
パラメータが分類されると、パラメータ絞り込み部１０７は、セグメント図に基づいて、報酬・ペナルティ関数の最大化において有効でなさそうなパラメータを削除（除外）することにより有効なパラメータに絞り込む。あるいは、パラメータ絞り込み部１０７は、学習部１０８において最適値を求めるパラメータの優先順位付けを行い、より有効なパラメータの優先順位を高くする。また、パラメータ絞り込み部１０７は、セグメント図に基づいて、学習部１０８による学習が収束しやすくするための情報となる、パラメータ間の相関を示す関連モデルを生成する処理ｐｒ５を実行する。
【００９５】
なお、学習部１０８により運転状態を示すパラメータの最適値を求める学習が実行される場合において、もしパラメータ絞り込み部１０７によるパラメータの絞り込みや、パラメータ間の相関を示す関連モデルの生成がなされていないならば、学習部１０８は、パラメータ値を制御することができる全てのパラメータ（可変パラメータ）について、それぞれパラメータ値を変更させながら最適値を探索していかなければならない。
【００９６】
しかしながら、この場合、比較的短時間で最適値を求めることが可能な場合もあるが、場合によっては、可変パラメータの数が多くなると、調整するパラメータ値の組み合わせが膨大になるため、学習が収束するまでに長時間を要するか、あるいは学習が収束しない、あるいは局所最適に収束する等の問題が発生する場合がある。そのため、パラメータ絞り込み部１０７は、上述したように、報酬・ペナルティ関数の最大化において有効でなさそうなパラメータを削除（除外）して（あるいは、学習部１０８において最適値を求めるパラメータの優先順位付けを行って）有効なパラメータに絞り込み、パラメータ間の相関を示す関連モデルを生成する処理ｐｒ５を実行し、絞り込んだパラメータと、生成した関連モデルと、を学習部１０８へ出力する。
なお、関連モデルによるパラメータ間の相関確率計算については後に詳しく説明する。
【００９７】
学習部１０８は、パラメータ絞り込み部１０７から、計算データｃｄ１〜計算データｃｄ４を取得する（なお、計算データｃｄ１〜計算データｃｄ３はパラメータ分類部１０６からも取得可能）。そして、学習部１０８は、これらの取得したデータと報酬関数定義部１０４から取得した報酬・ペナルティ関数とを用いて、人工知能による強化学習を行う処理ｐｒ６を実行する。ここで、計算データｃｄ１は、セグメント内の可変パラメータ名とパラメータ値である。また、計算データｃｄ２は、セグメント内のモニタパラメータ名とパラメータ値である。また、計算データｃｄ３は、セグメント外の可変パラメータ名及び固定パラメータ名とそれぞれのパラメータ値である。また、計算データｃｄ４は、パラメータ間の相関を示す関連モデルである。
【００９８】
なお、人工知能による強化学習は、既存の技術を用いて行われる。学習部１０８は、計算データｃｄ１〜計算データｃｄ４に基づいて、セグメント内及びセグメント外の可変パラメータのパラメータ値を変更させながら学習の処理を行い、当該パラメータ値を最適化する。
【００９９】
学習部１０８により最初に選択されたセグメントにおけるパラメータのパラメータ値の最適化が完了すると、学習部１０８は、計算データｃｄ５〜計算データｃｄ７をパラメータ抽出部１０５へ出力する。ここで、計算データｃｄ５は、セグメント内の可変パラメータの最適値（最適化されたパラメータ値）である。また、計算データｃｄ６は、セグメント外の可変パラメータの出力最適値（セグメント外へ出力するフィールド機器の可変パラメータの最適値）である。また、計算データｃｄ７は、セグメント外の可変パラメータの入力最適値（セグメント外から入力されるフィールド機器の可変パラメータの最適値）である。
【０１００】
学習部１０８により最初に選択されたセグメントにおけるパラメータのパラメータ値の最適化が完了すると、セグメント選択部１０３は、上記において最初に選択したセグメントに隣接するセグメント（すなわち、プラント機器Ｐ０に一段階上流の工程であるセグメント）を１つ選択する処理ｐｒ１を再び実行する。
セグメントが選択されると、報酬関数定義部１０４は、運転状態を示すパラメータの最適値を求める学習に用いる報酬・ペナルティ関数を決定する処理ｐｒ２を再び実行する。
【０１０１】
報酬・ペナルティ関数が決定すると、パラメータ抽出部１０５は、（処理ｐｒ１において）選択されたセグメントに含まれる、学習の対象となるパラメータを抽出する処理ｐｒ３を再び実行する。
【０１０２】
パラメータが抽出され、抽出されたパラメータのパラメータ値が取得されると、パラメータ抽出部１０５は、当該パラメータのリストと、それぞれのパラメータのパラメータ値とをパラメータ分類部１０６へ出力する。パラメータ分類部１０６は、取得したパラメータを、ユーザデータｕｄ１（セグメント図）、及びユーザデータｕｄ４（Ｉ／Ｏ図）に基づいて分類する処理ｐｒ４を再び実行する。
パラメータ分類部１０６は、取得したパラメータを、「セグメント内の可変パラメータ」、「セグメント内のモニタパラメータ」、「セグメント外の可変パラメータ」、または「セグメント外の固定パラメータ」に分類する。
【０１０３】
なお、前回（ここでは、初回に）選択されたセグメントにおける学習時において最適化された「セグメント外の可変パラメータ」に対応するパラメータが、今回選択されたセグメントにおける学習での「セグメント外の固定パラメータ」に分類される。すなわち、今回セグメントにおける学習では、前回選択された隣接するセグメントの学習において最適化されたパラメータのパラメータ値を満たすことを条件として、学習部１０８により可変パラメータのパラメータ値が最適化される。
【０１０４】
パラメータが分類されると、パラメータ絞り込み部１０７は、セグメント図に基づいて、報酬・ペナルティ関数の最大化において有効でなさそうなパラメータを削除（除外）することにより有効なパラメータに絞り込む。あるいは、パラメータ絞り込み部１０７は、学習部１０８において最適値を求めるパラメータの優先順位付けを行い、より有効なパラメータの優先順位を高くする。また、パラメータ絞り込み部１０７は、セグメント図に基づいて、学習部１０８による学習が収束しやすくするための情報となる、パラメータ間の相関を示す関連モデルを生成する処理ｐｒ５を再び実行する。
【０１０５】
学習部１０８は、パラメータ絞り込み部１０７から、計算データｃｄ１〜計算データｃｄ４を取得すると、これらの取得したデータを用いて、人工知能による強化学習を行う処理ｐｒ６を再び実行する。
学習部１０８により最初に選択されたセグメントにおける可変パラメータのパラメータ値の最適化が完了すると、学習部１０８は、計算データｃｄ５〜計算データｃｄ７をパラメータ抽出部１０５へ出力する。
【０１０６】
このように、プラント機器に含まれる全てのセグメントについて学習が実行されるまで、上記の処理ｐ１〜処理ｐ６が繰り返される。
全てのセグメントについてのそれぞれの学習が実行完了すると、全体最適化部１１０は、当該学習によって決定したパラメータのパラメータ値を用いて、プラント機器全体に対する運転状態を示すパラメータの全体最適値を求める学習の処理ｐｒ７を実行する。
【０１０７】
上述したように、可変パラメータの数が多くなると、調整するパラメータ値の組み合わせが膨大な数になるため、学習が収束するまでに長時間を要する、あるいは学習が収束しない、あるいは局所最適に収束しやすい等の問題が発生する場合がある。
しかしながら、本実施形態に係るプラント制御支援装置１は、まず、プラント機器をセグメント分けして、セグメントごとにそれぞれパラメータのパラメータ値の最適化を図る。その後、プラント制御支援装置１は、セグメントごとに最適化されたパラメータのパラメータ値を、それぞれのパラメータの初期値に設定して、今度は全てのセグメントを含むプラント機器全体に対して、パラメータのパラメータ値の全体最適化を行う。これにより、セグメントごとに既に部分最適化されているパラメータ値を、パラメータ暫定初期値として学習を行うことができるため、本実施形態に係るプラント制御支援装置１は、プラント機器全体に対する、運転状態を示すパラメータの全体最適値を求める学習を、より短時間で収束させ易くすることができる。
【０１０８】
［セグメント選択］
次に、セグメント選択について、図面を参照しながら説明する。図８〜図１０は、本発明の第１の実施形態に係るプラント制御支援装置１によるセグメント選択について説明するための図である。図８〜図１０は、いずれも、図１に図示したプラント１００におけるプラント機器Ｐ０の構成を示したものである。以下、図１に図示したプラント機器Ｐ０を例として、セグメント選択について説明する。
【０１０９】
上述したように、セグメント選択部１０３は、例えば、制御ループの単位でプラント機器Ｐ０をセグメント分けする。
【０１１０】
まず、セグメント選択部１０３は、図８に図示するセグメントＳＧ１の範囲を、最適化する最初のセグメントとして選択する。セグメントＳＧ１は、バルブＶ１及びバルブＶ２のバルブ開度が調整されることにより、プラント機器Ｐ０の最終成果物の収量（すなわち、モニタＭ１のモニタ値）、隣接する他のセグメントからセグメントＳＧ１への入力を示すセグメント外の可変パラメータであるモニタＭ２のモニタ値、及びセグメントＳＧ１から隣接する他のセグメントへの出力を示すセグメント外の可変パラメータであるモニタＭ３のモニタ値、の制御がなされる制御ループである。
【０１１１】
学習部１０８は、最終成果物の収量を計測するモニタＭ１のモニタ値を最大化するように、セグメント内の可変パラメータであるバルブＶ１及びバルブＶ２のバルブ開度、及びセグメント外の可変パラメータであるモニタＭ２及びモニタＭ３のモニタ値、をそれぞれ変更させる。学習部１０８は、モニタＭ１のモニタ値を最大化するセグメント内の可変パラメータのパラメータ値（バルブ開度）及びセグメント外の可変パラメータのパラメータ値（モニタ値）の探索を完了させると、それぞれのパラメータ値を記憶領域（例えば、ＲＡＭ１２）に記憶させる。
【０１１２】
次に、セグメント選択部１０３は、図９に図示するセグメントＳＧ２の範囲を、最適化する次のセグメントとして選択する。セグメントＳＧ１における学習において、セグメント外の可変パラメータであったモニタＭ２及びモニタＭ３は、セグメントＳＧ２における学習においては、セグメント外の固定パラメータとなる。すなわち、学習部１０８は、セグメントＳＧ１における学習によって探索されたモニタＭ２及びモニタＭ３のパラメータ値（モニタ値）となるように、セグメント内の可変パラメータであるバルブＶ３のパラメータ値（バルブ開度）、及びセグメント外の可変パラメータであるモニタＭ４のパラメータ値（モニタ値）、を変化させる。
【０１１３】
なお、セグメントＳＧ２は、バルブＶ３のパラメータ値（バルブ開度）が調整されることにより、セグメントＳＧ２からセグメントＳＧ１への出力を示すセグメント外の固定パラメータであるモニタＭ２のパラメータ値（モニタ値）、セグメントＳＧ１からセグメントＳＧ２への入力を示すセグメント外の固定パラメータであるモニタＭ３のパラメータ値（モニタ値）、及び隣接する他のセグメントからセグメントＳＧ２への入力を示すセグメント外の可変パラメータであるモニタＭ４のパラメータ値（モニタ値）、の制御がなされる制御ループである。
【０１１４】
学習部１０８は、セグメント内の可変パラメータであるバルブＶ３のパラメータ値（バルブ開度）、及びセグメント外の可変パラメータであるモニタＭ４のパラメータ値（モニタ値）の探索を完了させると、それぞれのパラメータ値を記憶領域（例えば、ＲＡＭ１２）に記憶させる。
【０１１５】
次に、セグメント選択部１０３は、図１０に図示するセグメントＳＧ３の範囲を、最適化する次のセグメントとして選択する。セグメントＳＧ２における学習において、セグメント外の可変パラメータであったモニタＭ４は、セグメントＳＧ３における学習においては、セグメント外の固定パラメータとなる。すなわち、学習部１０８は、セグメントＳＧ２における学習によって探索されたモニタＭ４のパラメータ値（モニタ値）となるように、セグメント内の可変パラメータであるバルブＶ４〜バルブＶ８のパラメータ値（バルブ開度）、及びセグメント外の可変パラメータであるモニタＭ５のパラメータ値（モニタ値）、を変化させる。
【０１１６】
なお、セグメントＳＧ３は、バルブＶ４〜バルブＶ８のパラメータ値（バルブ開度）が調整されることにより、セグメントＳＧ３からセグメントＳＧ２への出力を示すセグメント外の固定パラメータであるモニタＭ４のパラメータ値（モニタ値）、及び隣接する他のセグメントからセグメントＳＧ３への入力を示すセグメント外の可変パラメータであるモニタＭ５のパラメータ値（モニタ値）、の制御がなされる制御ループである。
【０１１７】
学習部１０８は、セグメント内の可変パラメータであるバルブＶ４〜バルブＶ８のパラメータ値（バルブ開度）、及びセグメント外の可変パラメータであるモニタＭ５のパラメータ値（モニタ値）の探索を完了させると、それぞれのパラメータ値を記憶領域（例えば、ＲＡＭ１２）に記憶させる。
【０１１８】
このように、セグメント選択部１０３は、Ｉ／Ｏ図及びセグメント図に基づいて、プラント機器Ｐ０の最終成果物を生成する制御ループを最初に最適化するセグメントとして選択し、その後、Ｉ／Ｏ図及びセグメント図に基づいて、選択したセグメントの一段階上流の工程にあたるセグメント（制御ループ）を次に最適化するセグメントとして、順に選択していく。これにより、学習部１０８は、Ｉ／Ｏ図及びセグメント図に基づき、プラント機器Ｐ０を構成する複数のセグメントにおいて、当該プラント機器Ｐ０における、最も下流の工程であるセグメントからより上流のセグメントへ、順番に、セグメントごとに運転状態を示すパラメータの最適値を求める学習を実行することができる。
【０１１９】
そして、学習部１０８によりプラント機器Ｐ０の全てのセグメントに対する最適化が完了すると、全体最適化部１１０は、上記の処理において記憶領域（例えば、ＲＡＭ１２）に記憶に記憶されたパラメータ値を初期値として、プラント機器Ｐ０全体を対象として、運転状態を示すパラメータの全体最適値を求める学習を実行する。
【０１２０】
［パラメータ間の相関確率計算］
次に、パラメータ間の相関確率計算について、図面を参照しながら説明する。図１１〜図１２は、本発明の第１の実施形態に係るプラント制御支援装置１が制御するプラント機器のセグメントの一例を示す図である。
図１１に図示するように、セグメントＳＧ４は、モニタＭ０１〜モニタＭ０５と、バルブＶ０１〜バルブＶ０４と、を含んで構成される。
【０１２１】
一般的に、図１１に図示するようなセグメントに対して、運転状態を示すパラメータの最適値を求める学習が行われる場合、可変パラメータであるバルブＶ０１〜バルブＶ０４の全てのパラメータ値（バルブ開度）を変化させながら、最適値を探索する処理が行われる。しかしながら、上述したように、可変パラメータの数が多くなるにつれて、取りうるパラメータ値の組み合わせの数が膨大になるため、学習が収束するまでに長時間を要する、あるいは学習が収束しない、あるいは局所最適に収束しやすい等の問題が発生する場合がある。
【０１２２】
一般的に、プラントの場合においては、例えば図１０のような、セグメントを図示したセグメント図が予め存在するため、当該セグメント図から、どの可変パラメータのパラメータ値がどのモニタパラメータのパラメータ値に影響するか（あるいは、より影響しやすいか）を推定することが可能である。
【０１２３】
例えば、図１１に図示するセグメント図に基づいて、例えば、モニタＭ０４のモニタ値を変化させたい場合には、バルブＶ０３またはバルブＶ０４のバルブ開度を変更するだけでよく、バルブＶ０１またはバルブＶ０２のバルブ開度はモニタＭ０４のモニタ値に対して影響を与えない（あるいは、影響が小さい）ことを、ユーザ（システム管理者やオペレータ等）は推測することが可能である。
また、パラメータ絞り込み部１０７は、図１１に図示するセグメント図から、図１２に図示するようなパラメータ間の相関を示す関連モデルを論理的に作成することができる。
【０１２４】
図１２に図示する関連モデルの各ノードは、図１１に示したフィールド機器にそれぞれ相当する。すなわち、例えば、ノード「Ｍ０１」はモニタＭ０１に相当し、ノード「Ｖ０１」はバルブＶ０１に相当する。そして、それぞれのノード間を結ぶ実線に対して付されたｐ１〜ｐ１０は、それぞれのノードに対応するパラメータ（すなわち、モニタ値やバルブ開度）間の相関確率を示す。
【０１２５】
パラメータ絞り込み部１０７は、関連モデルを学習部１０８へ出力する。学習部１０８は、関連モデルを用いて人工知能による学習を行い、どのバルブのバルブ開度を可変させると、モニタのモニタ値がより大きく変動する可能性が高いか等を学習していき、パラメータの相関確率（ベイズ確率）を計算する。
【０１２６】
例えば、図１２に示すように、モニタＭ０１のモニタ値がモニタＭ０５のモニタ値に対してどれくらい影響を与えるかについては、Ｐ０５０１＝（Ｐ７＊Ｐ３＋Ｐ８＊Ｐ４）＊Ｐ１によって計算することができる。また、例えば、モニタＭ０３のモニタ値がモニタＭ０５のモニタ値に対してどれくらい影響を与えるかについては、Ｐ０５０３＝Ｐ１によって計算することができる。これにより、Ｐ０５０１≦Ｐ０５０３となることが分かるため、モニタＭ０１を変化させるよりも、モニタＭ０３を変化させるほうが、モニタＭ０５を変化させる確率が高いことを認識することができる。（なお、Ｐ１〜Ｐ１０の初期値は全て１であるが、学習を行う段階で実際の値に変化していく）。
【０１２７】
このように、本実施形態に係るプラント制御支援装置１は、モニタパラメータのパラメータ値に対して必要な変化を起こさせるために、どの可変パラメータのパラメータ値を変化させることがより有効であるか（より確率が高いか）についての情報を、セグメント図から取り込むことができる。これにより、プラント制御支援装置１は、運転状態を示すパラメータの最適値を求める学習を、より短時間で収束させたり、局所最適にならないように収束させたりすることができる。
【０１２８】
以上説明したように、本実施形態に係るプラント制御支援装置１は、一般的にプラントの設計時には必ず存在する情報を、人工知能による学習の入力データ（パラメータ）として自動的または半自動的に設定して、学習を実行する。なお、ここでいう必ず存在する情報とは、上述したように、Ｉ／Ｏ図、セグメント図、アラーム設定定義データ、及びパラメータ暫定初期値データ等である。
これにより、本実施形態に係るプラント制御支援装置１は、プラントが既設のプラントであるか、あるいは新設のプラントであるかを問わず、また、プラントの分野を問わず、多種多様な業種のプラントに対して適用することが可能である。
【０１２９】
また、以上説明したように、本実施形態に係るプラント制御支援装置１は、セグメント図やＩ／Ｏ図に基づいてプラント機器をセグメント化し、セグメントごとに運転状態を示すパラメータの最適値を求める学習を実行する。また、プラント制御支援装置１は、セグメント図が示すプラント内のフィールド機器の構成情報に基づいて、学習の対象となるパラメータの数を削減したり、パラメータの有効度や関連性を確率によって表した情報を学習に用いたりすることができる。これにより、本実施形態に係るプラント制御支援装置１は、より短時間に学習を収束させ易くすることができる。
【０１３０】
また、一般的にプラントを人工知能で制御する場合、プラント全体を一度に制御することは困難であることが多いが、本実施形態に係るプラント制御支援装置１によれば、セグメントごとに制御を行うことにより、プラント全体を制御することが可能である。
【０１３１】
＜第２の実施形態＞
第１の実施形態では、ＤＣＳの機能を有するプラント制御支援装置に対して、人工知能による学習を実行する機能を備えさせ、プラント制御支援装置は、フィールド機器の運転状態を示すパラメータの最適値を求める学習を実行した。これにより、プラント制御支援装置は、学習の収束結果に基づいてフィールド機器のパラメータを調整し、プラントを自動制御することを可能にした。
【０１３２】
一方、第２の実施形態では、プラントシミュレータに対して、人工知能による学習を実行する機能を備えさせる。これにより、プラントシミュレータは、例えば、プラントにおけるトラブル発生した時の状態をパラメータ暫定初期値に設定して、実際のプラント機器の動きを模擬する（シミュレーションを実行する）ことができる。
これにより、プラントシミュレータは、トラブル発生に対する、最適な（例えば、最短時間での）リカバリ手順の発見を行うことができる。
【０１３３】
また、これにより、本実施形態に係るプラントシミュレータは、学習の過程において設定されるパラメータのパラメータ値を実プラント上で適用する前に、事前にプラントシミュレータにおいて安全に模擬（シミュレーション）を行うことができる。本実施形態によれば、プラントシミュレータ上でプラント機器の安定した動作が確認された後で、学習結果であるパラメータのパラメータ値を実プラント上で適用する仕組みを提供することができる。
【０１３４】
また、プラントシミュレータにおいては、時間のスケールを自由に設定する（例えば、２倍速、あるいは１０倍速等に設定する）ことも可能である。一般的に、人工知能による強化学習によりパラメータ値の最適化を行う場合、パラメータ値の変更に対して系が反応するまでのタイムラグを考慮する必要がある。しかしながら、本実施形態によれば、系の落ち着きを見ながら時間のスケールを自由に変更することができるため、長時間のタイムラグを伴うプラントの制御であっても、より短時間でシミュレーションを実行することができる。
【０１３５】
なお、上述した実施形態におけるプラント１００及びプラント制御支援装置１の一部または全部をコンピュータで実現するようにしてもよい。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。
【０１３６】
なお、ここでいう「コンピュータシステム」とは、プラント１００及びプラント制御支援装置１に内蔵されたコンピュータシステムであって、ＯＳや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【０１３７】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信回線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
【０１３８】
また、上述した実施形態におけるプラント１００及びプラント制御支援装置１の一部または全部を、ＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ）等の集積回路として実現してもよい。プラント１００及びプラント制御支援装置１の各機能ブロックは個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はＬＳＩに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりＬＳＩに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
【符号の説明】
【０１３９】
１・・・プラント制御支援装置、２・・・基幹業務システム、３・・・製造実行システム、４・・・運転制御装置、５・・・操作盤、６・・・保全機器、７・・・フィールドオペレータ端末、１１・・・ＣＰＵ、１２・・・ＲＡＭ、１３・・・ＲＯＭ、１４・・・ＨＤＤ、１５・・・表示装置、１６・・・入力装置、１７・・・通信Ｉ／Ｆ、１００・・・プラント、１０１・・・運転状態取得部、１０２・・・ユーザデータ取得部、１０３・・・セグメント選択部、１０４・・・報酬関数定義部、１０５・・・パラメータ抽出部、１０６・・・パラメータ分類部、１０７・・・パラメータ絞り込み部、１０８・・・学習部、１０９・・・運転指示部、１１０・・・全体最適化部
【図１】
2019020885.tif 000003
【図２】
2019020885.tif 000004
【図３】
2019020885.tif 000005
【図４】
2019020885.tif 000006
【図５】
2019020885.tif 000007
【図６】
2019020885.tif 000008
【図７】
2019020885.tif 000009
【図８】
2019020885.tif 000010
【図９】
2019020885.tif 000011
【図１０】
2019020885.tif 000012
【図１１】
2019020885.tif 000013
【図１２】
2019020885.tif 000014