(57)【要約】【課題】ルールベースによる空調運転では、目標温度分布に近づくまでの時間が長くかかる。【解決手段】第１観点の空調制御システム１は、対象空間において空調運転を行う空気調和装置１００を制御するためのシステムである。空調制御システム１は、検出部２００と、サーバ３００と、を備える。検出部２００は、対象空間αの温度分布を検出する。サーバ３００は、検出部２００が検出した温度分布に基づき、深層強化学習により学習した学習器を用いて、対象空間αの温度分布を目標温度分布に近づけるように空気調和装置１００を制御する。【選択図】図２
2020148385.tif 000002
【特許請求の範囲】
【請求項１】
対象空間（α）において空調運転を行う空気調和装置（１００）を制御する空調制御システム（１）であって、
前記対象空間（α）の温度分布を検出する検出部（２００）と、
前記検出部（２００）が検出した前記温度分布に基づき、深層強化学習により学習した学習器を用いて、前記対象空間（α）の前記温度分布を目標温度分布に近づけるように前記空気調和装置（１００）を制御するサーバ（３００）と、
を備える、空調制御システム（１）。
【請求項２】
前記検出部（２００）は、前記対象空間（α）の熱画像を検出する赤外線センサ（２０１）を有し、
前記検出部（２００）は、前記赤外線センサ（２０１）が検出した前記熱画像に基づいて、前記対象空間（α）の温度分布を検出する、
請求項１に記載の空調制御システム（１）。
【請求項３】
前記サーバ（３００）が前記空気調和装置（１００）を制御した後の前記対象空間（α）の温度分布に基づいて、前記学習器の更新を行い、
前記赤外線センサ（２０１）は、前記サーバ（３００）により前記空気調和装置（１００）を制御された後の前記対象空間（α）の熱画像を新たに検出し、
前記検出部（２００）は、新たな熱画像に基づいて、前記対象空間（α）の新たな温度分布を検出し、
前記サーバ（３００）は、更新された学習器を用いて、新たな温度分布を目標温度分布に近づけるように前記空気調和装置（１００）を制御する、
請求項１または請求項２のいずれかに記載の空調制御システム（１）。
【請求項４】
前記目標温度分布は、均一化された温度分布、あるいは、所定の温度ムラを含む温度分布であり、
前記学習器は、前記対象空間（α）の温度分布と前記目標温度分布とを統計処理した値に基づいて、前記深層強化学習により学習されている、
請求項１から請求項３のいずれかに記載の空調制御システム（１）。
【請求項５】
前記サーバ（３００）は、前記対象空間（α）の床面（α１）、及び壁面（α２）の前記温度分布を前記目標温度分布に近づけるように前記空気調和装置（１００）を制御する、
請求項１から請求項４のいずれかに記載の空調制御システム（１）。
【請求項６】
前記赤外線センサ（２０１）は、前記空気調和装置（１００）に内蔵、又は前記対象空間（α）に配置される、
請求項１から請求項５のいずれかに記載の空調制御システム（１）。
【請求項７】
前記サーバ（３００）は、前記空気調和装置（１００）が行う前記空調運転において、少なくとも、運転モード、設定温度、風向、及び風量、のいずれかを制御することによって、前記対象空間（α）の前記温度分布を前記目標温度分布に近づける、
請求項１から請求項６のいずれかに記載の空調制御システム（１）。
【請求項８】
対象空間（α）において空調運転を行う空気調和装置（１００）の制御方法であって、
前記対象空間（α）の熱画像を取得する取得ステップ（４０１）と、
前記熱画像に基づき、前記対象空間（α）の温度分布を検出する検出ステップ（４０２）と、
前記温度分布に基づき、深層強化学習により学習した学習器を用いて、前記対象空間（α）の前記温度分布を目標温度分布に近づけるように前記空気調和装置（１００）を制御する制御ステップ（４０４）と、
を備える、空調制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
空気調和装置を制御する空調制御システム、及び、その空調制御方法。
【背景技術】
【０００２】
特許文献１（特開２０１２−１８４８９９号公報）では、所謂ルールベースによる空調運転によって空調改善を行い、目標温度分布に近づけている。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
ルールベースによる空調運転では、目標温度分布に近づくまでの時間が長くかかる。
【課題を解決するための手段】
【０００４】
第１観点の空調制御システムは、対象空間において空調運転を行う空気調和装置を制御するためのシステムである。空調制御システムは、検出部と、サーバと、を備える。検出部は、対象空間の温度分布を検出する。サーバは、検出部が検出した温度分布に基づき、深層強化学習により学習した学習器を用いて、対象空間の温度分布を目標温度分布に近づけるように空気調和装置を制御する。
【０００５】
学習器は深層強化学習により、対象空間の温度分布を効率的に目標温度分布に近づける学習を行う。これによって、対象空間を効率的に短時間で目標温度分布に近づけることができる。
【０００６】
第２観点の空調制御システムは、第１観点のシステムであって、検出部は、対象空間の熱画像を検出する赤外線センサを有する。検出部は、赤外線センサが検出した熱画像に基づいて、対象空間の温度分布を検出する。
【０００７】
第３観点の空調制御システムは、第１観点又は第２観点のシステムであって、サーバが空気調和装置を制御した後の対象空間の温度分布に基づいて、学習器の更新を行う。赤外線センサは、サーバによって空気調和装置が制御された後の対象空間の熱画像を新たに検出する。検出部は、新たな熱画像に基づいて、対象空間の新たな温度分布を検出する。サーバは、更新された学習器を用いて、新たな温度分布を目標温度分布に近づけるように空気調和装置を制御する。
【０００８】
第４観点の空調制御システムは、第１観点から第３観点のいずれかのシステムであって、目標温度分布は、均一化された温度分布、あるいは、所定の温度ムラを含む温度分布である。学習器は、対象空間の温度分布と目標温度分布とを統計処理した値に基づいて、深層強化学習により学習されている。
【０００９】
第５観点の空調制御システムは、第１観点から第４観点のいずれかのシステムであって、サーバは、対象空間の床面、及び壁面の温度分布を目標温度分布に近づけるように空気調和装置を制御する。
【００１０】
第６観点の空調制御システムは、第１観点から第５観点のいずれかのシステムであって、赤外線センサは、空気調和装置に内蔵、又は対象空間に配置される。
【００１１】
第７観点の空調制御システムは、第１観点から第６観点のいずれかのシステムであって、サーバは、空気調和装置が行う空調運転において、少なくとも、運転モード、設定温度、風向、及び風量、のいずれかを制御することによって、対象空間の温度分布を目標温度分布に近づける。
【００１２】
第８観点の空調制御方法は、対象空間において空調運転を行う空気調和装置の制御方法である。空調制御方法は、対象空間の熱画像を検出するステップと、熱画像に基づいて対象空間の温度分布を検出するステップと、温度分布に基づき、深層強化学習により学習した学習器を用いて、対象空間の温度分布を目標温度分布に近づけるように空気調和装置を制御するステップと、を備える。
【図面の簡単な説明】
【００１３】
【図１】空調制御システムの概略図である。
【図２】空調制御システムの構成を示すブロック図である。
【図３】メモリデータベースの模式図である。
【図４】空調制御システムの機能部の構成を示すブロック図である。
【図５】空調制御システム全体の処理を示すフローチャートである。
【図６】空調制御システムの機能部の処理を示すフローチャートである。
【発明を実施するための形態】
【００１４】
以下、本開示の一実施形態に係る、空調制御システム１について説明する。なお、以下の実施形態は、具体例であって、技術的範囲を限定するものではなく、趣旨を逸脱しない範囲で適宜変更可能である。
【００１５】
（１）全体構成
図１に示すように、空調制御システム１は、空気調和装置１００、検出部２００、及びサーバ３００、を備える。
【００１６】
空気調和装置１００の室内機、及び検出部２００は、オフィスや住居等の、空気調和装置１００が空調運転を行う対象空間αに設置される。空調運転は、冷房、暖房、除湿等である。対象空間αには、壁α１、床α２、障害物α３等が含まれている。サーバ３００は、対象空間α外の管理室等に設置されている。
【００１７】
空気調和装置１００と、検出部２００と、は、無線又は有線のネットワークＮを介して接続されている。空気調和装置１００と、サーバ３００と、は、無線又は有線のネットワークＮを介して接続されている。
【００１８】
（２）詳細構成
（２−１）空気調和装置１００
図２に示す空気調和装置１００は、対象空間αにおいて空調運転を行う。空気調和装置１００は、主に、制御部１０１と、コンプレッサ１０２と、ルーバー１０３と、ファン１０４と、を備える。この空気調和装置１００の各構成は、対象空間α内に設置される室内機、及び対象空間α外に設置される室外機のいずれに配置されていてもよい。また、空気調和装置１００は、これらの構成以外の構成を備えていてもよい。
【００１９】
制御部１０１は、制御指示に基づいて、空気調和装置１００が行う空調運転を制御する。制御指示は、ネットワークＮを介してサーバ３００から受信する。制御指示は、運転モード、設定温度、風向、及び風量等を変更する要求等が含まれている。制御部１０１は、この制御指示に基づいて、例えば、コンプレッサ１０２の出力等を制御することによって設定温度を変更する、ルーバー１０３の向きを変えることによって風向を変更する、ファン１０４の出力を制御することによって風量変更する、等の制御を行う。
【００２０】
（２−２）検出部２００
本実施形態において検出部２００は、図１に示すように、空気調和装置１００に内蔵され、空気調和装置１００の前面に取り付けられている。なお、検出部２００は、対象空間α内の壁α１や天井等に取り付けられていてもよい。
【００２１】
検出部２００は、熱画像に基づいて対象空間αの温度分布を検出する。検出部２００は、赤外線センサ２０１を有している。赤外線センサ２０１は、二次元的な熱画像を取得する。赤外線センサ２０１は、例えば、二次元マトリックス状に配列された画素群を有し、一度に複数の二次元的な熱画像を取得できる構造である。この構造以外にも例えば、赤外線センサ２０１は、一次元状に配列された画素群（ラインセンサ）を有し、画素群を一次元的に走査して二次元的な熱画像を取得する構造でもよいし、又は１つ以上の画素を有し、１つ以上の画素を二次元的に走査して二次元的な熱画像を取得する構造でもよい。ここでは、赤外線センサ２０１の構成は限定しない。
【００２２】
熱画像は、対象空間α内の温度が高い部分（画素）ほど濃度が高く表示される。これによって、対象空間αの温度分布を取得し、対象空間αの温度分布を判定することが可能である。なお、熱画像の表示に関してはこれに限られない。
【００２３】
ここでいう温度分布、及び目標温度分布とは、統計処理された値に基づくものである。具体的には、例えば、対象空間αが均一化された温度分布は、対象空間αの壁α１、床α２、障害物α３等がまったく同じ温度である必要がないことはいうまでもない。
【００２４】
（２−３）サーバ３００
サーバ３００は、入力層と、複数の中間層と、出力層とを有するニューラルネットワークであるＤＮＮ（Deep  Neural  Network）を学習器として保持する。サーバ３００は、入力情報を入力層から入力した際に出力層から出力される情報に基づいて、空気調和装置１００に対して送信する制御指示を決定する。サーバ３００は、ネットワークＮを介して、空気調和装置１００に対して制御指示を送信することによって空気調和装置１００を制御する。
【００２５】
図１及び図２に図示するサーバ３００は、１台の装置として図示されているが、サーバ３００はクラウドコンピューティングに対応していることが好ましい。このため、サーバ３００のハードウェア構成は、１つの筐体に収納されていたり、ひとまとまりの装置として備えられていたりする必要はない。例えば、サーバ３００は、負荷に応じてハード的なサーバ３００のリソースが動的に接続・切断されることで構成される。
【００２６】
サーバ３００は、プロセッサ３０１、メモリ３０２、補助記憶３０７を含む。上記構成要素は、バスによって互いに接続されている。メモリ３０２、及び補助記憶３０７は、記憶装置の例である。
【００２７】
プロセッサ３０１は、メモリ３０２を参照し、様々な計算処理を実行する。メモリ３０２は、経験取得プログラム３０３、空調制御プログラム３０４、ニューラルネットワークプログラム３０５、学習プログラム３０６、を格納している。サーバ３００に含まれる学習器は、これらの各種プログラムを実行することによって、学習し、更新される。本実施形態における学習器は、深層強化学習によって、対象空間αの温度分布をなるべく簡易な空調制御によって目標温度分布を実現するための制御指示を学習する。目標温度分布は、空気調和装置１００を使用するユーザ、もしくはサーバ３００を管理する管理者によってあらかじめ設定された温度分布である。目標温度分布は、例えば、均一の温度分布、もしくは温度ムラを含む温度分布である。
【００２８】
経験取得プログラム３０３は、サーバ３００が空気調和装置１００に対する制御指示を行うことによって得る経験を取得するためのプログラムである。経験は、例えば、検出部２００が取得した対象空間αの温度分布（状態）、制御指示（行動）、報酬、制御指示に基づいて空気調和装置１００が空調運転を行った後に検出部２００が取得した対象空間αの温度分布（結果）で表される。経験取得プログラム３０３が取得した経験は、メモリデータベース３０８に格納される。
【００２９】
空調制御プログラム３０４は、空気調和装置１００の空調運転を制御する制御指示を決定するプログラムである。制御指示は、空気調和装置１００の能力、仕様、学習の目的により定義される。例えば、学習の目的として、対象空間αが均一化された温度分布に近づくための制御指示を空気調和装置１００に対して送信することを学習器が学習するためには、制御指示は、運転モード、設定温度、風向、及び風量を変更する等である。それらの制御指示は、空気調和装置１００の能力と仕様によって範囲が決められる。
【００３０】
ニューラルネットワークプログラム３０５は、本実施形態において、対象空間αの温度分布が入力であり、空気調和装置１００に対して送信する制御指示のＱ値（行動評価値）が出力である。ニューラルネットワークは評価値を決定する評価モデル（又は評価関数）であり、そのパラメータは、学習プログラム３０６により随時更新される。以下に開示する空調制御システム１は、深層強化学習によって学習されるシステムであって、行動評価モデルが深層ニューラルネットワークにより表わされる。ニューラルネットワークプログラム３０５は編集可能であって、適用システムに応じてカスタマイズされる。例えば、本実施形態においては、ニューラルネットワークプログラム３０５は、まず、検出部２００が検出した温度分布を畳み込みとプーリングによって処理し特徴量を抽出する。さらに、抽出された特徴量をＬＳＴＭ（Long  Short-Term  Memory）に結合して時系列の影響を加味し、Ｑ値として出力する。
【００３１】
学習プログラム３０６は、ニューラルネットワークのパラメータの更新と最適化を行う。学習プログラム３０６は、例えば、Advantage学習によってニューラルネットワークのパラメータを最適化する。これにより、ニューラルネットワークは、所与の状態における各行動のＱ値をより正確に推定することが可能になり、サーバ３００がより知的な制御指示を決定することができる。
【００３２】
補助記憶３０７は、メモリデータベース３０８、及び、ニューラルネットワークデータベース３０９を格納する。
【００３３】
図３は、本実施形態に係るメモリデータベース３０８の模式図を示す。メモリデータベース３０８は、限られた容量を有している。容量は、エンジニア等により予め決められている。メモリデータベース３０８が一杯になると、メモリデータベース３０８における最初の経験が削除され、新しい経験のための空きスペースが形成される。メモリデータベース３０８は、インデックス３１８、状態３２８、行動３３８、報酬３４８、結果３５８の、欄を有する。なお、メモリデータベース３０８は、経験の情報を格納することができればどのような構造を有していてもよい。
【００３４】
インデックス３１８は、整数を示し、メモリデータベース３０８に格納されている経験の順序を示す。インデックス３１８は、メモリデータベース３０８に格納されているいずれの経験が、最も古く、メモリデータベース３０８が一杯であって新しい経験を格納する場合に削除される経験であるかを、示す。
【００３５】
状態３２８は、対象空間αに関する情報であって、熱画像から取得した温度分布の情報を含む。状態３２８は、例えば、空気調和装置１００が有する各種センサが取得した対象空間αに関する値を含んでいてもよい。
【００３６】
行動３３８は、正数値を示し、サーバ３００が空気調和装置１００に対して送信することのできる制御指示であって、行動ＩＤを示す各数字は、特定の一つの行動を示す。
【００３７】
報酬３４８は、サーバ３００が送信した制御指示に基づいて空気調和装置１００が空調運転を行い、対象空間αの状態が遷移した後に得ることができる報酬を定義する数値を示す。例えば、空気調和装置１００に対してルーバー１０３の向きを変更する制御指示をした場合において、結果として目標温度分布から遠のくと、得られる報酬は負の値である。一方、先述の指示をした場合において、結果として目標温度分布に近づくと、得られる報酬は正の値である。各状態の各行動に対する報酬は予め設定されている。
【００３８】
結果３５８は、状態において行動（制御指示に基づいて空気調和装置１００が行った空調運転）を取った後の、遷移状態である。この結果について、実行した制御指示が報酬を得ることができるか定義されている。
【００３９】
ニューラルネットワークデータベース３０９は、ニューラルネットワークにおけるノード間のリンクの重みとバイアスを含む。重みとバイアスを使用して、ノードは他のノードに情報を伝える。ニューラルネットワークデータベース３０９は、Advantage学習によって重みとバイアスを最適化することで、ニューラルネットワークが各行動に対するＱ値をより正確に推定できるように更新される。
【００４０】
図４は、実施形態１に係るサーバ３００の機能部を示すブロック図である。
【００４１】
経験取得部３１３は、プロセッサ３０１が経験取得プログラム３０３を実行することで実現される。経験取得部３１３は、サーバ３００がどのような制御指示を送信し、空気調和装置１００が空調運転行うことによって対象空間αの環境がどのように変化するか、を知る。状態、行動、報酬、及び結果は、経験として集約され、メモリデータベース３０８に送られる。経験取得部３１３は、対象空間αの状態を目標温度分布に近づけるために、空気調和装置１００に送信する制御指示を空調制御部３１４から受け取る。
【００４２】
空調制御部３１４は、空気調和装置１００に送信する制御指示を決定する。空調制御部３１４は、プロセッサ３０１が空調制御プログラム３０４を実行することにより実現される。空調制御部３１４は、検出部２００が取得した対象空間αの温度分布を状態として、経験取得部３１３から受信し、その状態をニューラルネットワーク部３１５に送信して、取ることができる各行動に対するＱ値を取得する。
【００４３】
空調制御部３１４は、行動の決定に、Ｑ値情報を使用する場合と、使用しない場合がある。空調制御部３１４は、イプシロン（ε）と呼ばれるパラメータを有し、それに基づき、Ｑ値を利用すべきか、ランダムな行動を探索すべきか決定する（ε−ｇｒｅｅｄｙ法）。パラメータεは、開発者によって予め固定値に設定される、又は、訓練時間に比例して、１から０まで減少する。空調制御部３１４は、数字をランダムに選択し、ε値と比較して、Ｑ値利用とランダムな行動探索と、いずれを選択するか判定する。空調制御部３１４は、決定した行動を経験取得部３１３に送信する。なお、行動を決定する方法はこれに限られない。
【００４４】
学習部３１６は、入力を対象空間αの現在の状態とした場合に各行動に対するＱ値を、ニューラルネットワークがより正確に推定できるように、ニューラルネットワークパラメータを最適化する。学習部３１６は、学習プログラム３０６をプロセッサ３０１が実行することで実現される。
【００４５】
（３）空調制御システム１の処理
図５は、本実施形態に係る空調制御システム１全体の処理の流れを示すフローチャートである。
【００４６】
まず、ステップ４０１において、赤外線センサ２０１は、対象空間αの熱画像を取得する。
【００４７】
ステップ４０２において、検出部２００は、赤外線センサ２０１が取得した熱画像に基づき、対象空間αの温度分布を検出する。検出された温度分布は、ネットワークＮを介してサーバ３００に送信される。
【００４８】
ステップ４０３において、サーバ３００は、受信した温度分布にも基づいて、空気調和装置１００に送信する制御指示を決定する。ここでサーバ３００は、学習器を用いてなるべく簡易な制御で目標温度分布を達成することが可能な制御指示を決定する。サーバ３００は、決定した制御指示を空気調和装置１００へ送信する。
【００４９】
ステップ４０４において、空気調和装置１００の制御部１０１は、受信した制御指示に基づいて空調運転を行うように空気調和装置１００の各部を制御する。
【００５０】
ステップ４０５において、検出部２００は、空気調和装置１００が空調運転を行うことによって遷移した状態の対象空間αの温度分布を検出する。検出した温度分布は、サーバ３００へ送信される。
【００５１】
ステップ４０６において、サーバ３００の学習器が更新される。
【００５２】
ステップ４０７において、サーバ３００は、ステップ４０５において取得された温度分布に基づいて、対象空間αの温度分布が目標温度分布を達成しているかを判定する。
【００５３】
ステップ４０７で目標温度分布を達成していないと判定された場合（４０７：ＮＯ）、ステップ４０３に戻り、目標温度分布を達成するまで再度各処理を実行する。一方、ステップ４０７で目標温度分布を達成している判定された場合（４０７：ＹＥＳ）、処理を終了する。以上で空調制御システム１の処理を終了する。
【００５４】
ここで、空調制御システム１は、処理を開始する開始条件と、処理を終了する終了条件が定められていてもよい。具体的には、温度分布又は空気調和装置１００が有する各種センサが取得した対象空間αの状態が、開始条件に適合している場合には処理を開始し、温度分布又は空気調和装置１００が有する各種センサが取得した対象空間αの状態が、開始条件に適合している場合には、目標温度分布を達成していない場合であっても処理を終了する。開始条件は、例えば、空気調和装置１００に取り付けられた温度センサが感知した吸い込み温度が１９度以下であって、かつ、検出部２００が取得した熱画像の画素平均が３５以下であるとき、終了条件は空気調和装置１００に取り付けられた温度センサが感知した吸い込み温度が２９度以上であって、かつ、赤外線センサ２０１が取得した熱画像の画素平均が１５０以上であるとき、等に設定することができる。
【００５５】
（４）サーバ３００の機能部の処理
次に、サーバ３００の機能部が行う処理について説明する。図６は、本実施形態に係るサーバ３００の機能部の処理の流れを示すフローチャートである。各処理は、プロセッサ３０１により実行される。
【００５６】
まず、ステップ５０１において、サーバ３００の経験取得部３１３は、検出部２００から受信した対象空間αの温度分布を、対象空間αの状態として空調制御部３１４に送る。
【００５７】
ステップ５０２において、空調制御部３１４は、温度分布を対象空間αの状態として経験取得部３１３から受信し、この状態をニューラルネットワーク部３１５に転送する。
【００５８】
ステップ５０３において、ニューラルネットワーク部３１５は、対象空間αの状態を入力として、ニューラルネットワークデータベース３０９におけるパラメータを使用し、各行動に対するＱ値を出力する。
【００５９】
ステップ５０４において、ニューラルネットワーク部３１５は、行動それぞれに対するＱ値のリストを、空調制御部３１４に返す。
【００６０】
ステップ５０５において、空調制御部３１４は、ニューラルネットワーク部３１５からＱ値を受信し、最も高いＱ値の行動を決定する。空調制御部３１４が決定した行動は、経験取得部３１３に送られる。
【００６１】
ステップ５０６において、経験取得部３１３は、空調制御部３１４から行動を受け取り、受け取った行動を制御指示として空気調和装置１００に送信する。
【００６２】
空気調和装置１００が制御指示に基づいて空調運転を行った後、ステップ５０７において、経験取得部３１３は、結果と報酬を決定し、取得した情報を統合する。具体的には、元の状態、空気調和装置１００が取った行動、報酬、そして新しい状態（結果）を一つの経験に含める。経験取得部３１３は、統合した情報をメモリデータベース３０８に送る。
【００６３】
ステップ５０８において、学習部３１６は、メモリデータベース３０８に格納された経験に基づいて、ニューラルネットワークデータベース３０９において、ニューラルネットワークの重みとバイアスを新しい重みとバイアスを更新する。これによって、ニューラルネットワークを最適化し、更新する。なお、学習部３１６が更新を行うタイミングはこの限りではなく、すべての処理が終了した後に行ってもよい。
【００６４】
ステップ５０９において、経験取得部３１３は、結果が目標温度分布を達成しているか否かを判断する。結果が目標温度分布を達成していないとステップ５０９で判定された場合（５０９：ＮＯ）、ステップ５０１に戻り、目標温度分布を達成するまで再度経験取得処理を実行する。一方、結果が目標温度分布を達成しているとステップ５０９で判定された場合（５０９：ＹＥＳ）、サーバ３００の機能部が行う処理を終了する。
【００６５】
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明したすべての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【００６６】
また、上記の各構成・機能・処理部等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）等の記録装置、または、ＩＣカード、ＳＤカード等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしもすべての制御線や情報線を示しているとは限らない。実際には殆どすべての構成が相互に接続されていると考えてもよい。
【００６７】
（５）特徴
（５―１）
空調制御システム１は、対象空間αにおいて空調運転を行う空気調和装置１００を制御するためのシステムである。空調制御システム１は、検出部２００と、サーバ３００と、を備える。検出部２００は、空気調和装置１００に内蔵又は対象空間αに配置され、赤外線センサ２０１を有する。検出部２００は、赤外線センサ２０１が検出した熱画像に基づいて、対象空間αの温度分布を検出する。サーバ３００は、検出部２００が検出した温度分布に基づき、深層強化学習により学習した学習器を用いて、対象空間αの温度分布を目標温度分布に近づけるように空気調和装置１００を制御する。
【００６８】
また、空調制御システム１は、サーバ３００が空気調和装置１００を制御した後の対象空間αの温度分布に基づいて、学習器の更新を行う。赤外線センサ２０１は、サーバ３００によって空気調和装置１００が制御された後の対象空間αの熱画像を新たに検出する。検出部２００は、新たな熱画像に基づいて、対象空間αの新たな温度分布を検出する。サーバ３００は、更新された学習器を用いて、新たな温度分布を目標温度分布に近づけるように空気調和装置１００を制御する。
【００６９】
これによって、サーバ３００は、対象空間α温度分布を目標温度分布に近づけるようにする制御指示を深層強化学習によって随時学習する学習器を用いて決定するため、効率的に短時間で目標温度分布を達成することができる。
【００７０】
また、サーバ３００は、制御指示に基づいて空気調和装置１００が行った空調運転の後の対象空間αの温度分布（結果）に基づいて、学習器の更新を行い、更新された学習器を用いて新たな空調制御を行う事が可能である。これによって、より効率的に短時間で目標温度分布を達成することができる。
【００７１】
（５―２）
空調制御システム１においてあらかじめ設定される目標温度分布は、均一化された温度分布、あるいは、所定の温度ムラを含む温度分布である。学習器は、対象空間αの温度分布と目標温度分布とを統計処理した値に基づいて、深層強化学習により学習されている。
【００７２】
また、空調制御システム１のサーバ３００は、対象空間αの床面、及び壁面の温度分布を目標温度分布に近づけるように空気調和装置１００を制御する。
【００７３】
サーバ３００は、対象空間αの床面、及び壁面の温度分布を目標温度分布に近づけるための制御指示を空気調和装置１００に送信することによって、対象空間αの温度分布を統計処理された目標温度分布に効率的に近づけることが可能である。
【００７４】
（５―３）
空調制御システム１のサーバ３００は、空気調和装置１００が行う空調運転において、少なくとも、運転モード、設定温度、風向、及び風量、のいずれかを制御することによって、対象空間αの温度分布を目標温度分布に近づける。
【００７５】
サーバ３００の学習器は、なるべく簡易な制御指示によって目標温度分布を達成するように学習する。サーバ３００は、上記の制御のいずれかを含む制御指示を空気調和装置１００に送信することによって対象空間αを目標温度分布に近づける。
【００７６】
（５―４）
空調制御方法は、対象空間αにおいて空調運転を行う空気調和装置１００の制御方法である。空調制御方法は、対象空間αの熱画像を取得する取得ステップ４０１と、熱画像に基づいて対象空間（α）の温度分布を検出する検出ステップ４０２と、温度分布に基づき、深層強化学習により学習した学習器を用いて、対象空間（α）の温度分布を目標温度分布に近づけるように空気調和装置１００を制御する制御ステップ４０４と、を備える。
【００７７】
（６）
以上、本開示の実施形態を説明したが、特許請求の範囲に記載された本開示の趣旨及び範囲から逸脱することなく、形態や詳細の多様な変更が可能なことが理解されるであろう。
【符号の説明】
【００７８】
１      空調制御システム
１００  空気調和装置
２００  検出部
２０１  赤外線センサ
３００  サーバ
４０１  取得ステップ
４０２  検出ステップ
４０４  制御ステップ
α      対象空間
α１    床面
α２    壁面
【先行技術文献】
【特許文献】
【００７９】
【特許文献１】特開２０１２−１８４８９９号公報
【図１】
2020148385.tif 000003
【図２】
2020148385.tif 000004
【図３】
2020148385.tif 000005
【図４】
2020148385.tif 000006
【図５】
2020148385.tif 000007
【図６】
2020148385.tif 000008
【手続補正書】
【提出日】令和2年8月3日(2020.8.3)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
対象空間（α）において空調運転を行う空気調和装置（１００）を制御する空調制御システム（１）であって、
前記対象空間（α）の温度分布を検出する検出部（２００）と、
前記検出部（２００）が検出した前記温度分布に基づき、深層強化学習により学習した学習器を用いて、前記対象空間（α）の前記温度分布を目標温度分布に近づけるように前記空気調和装置（１００）を制御するサーバ（３００）と、
を備え、
前記目標温度分布は、ユーザーあるいは管理者によってあらかじめ設定された温度分布である、
空調制御システム（１）。
【請求項２】
前記検出部（２００）は、前記対象空間（α）の熱画像を検出する赤外線センサ（２０１）を有し、
前記検出部（２００）は、前記赤外線センサ（２０１）が検出した前記熱画像に基づいて、前記対象空間（α）の温度分布を検出する、
請求項１に記載の空調制御システム（１）。
【請求項３】
前記サーバ（３００）が前記空気調和装置（１００）を制御した後の前記対象空間（α）の温度分布に基づいて、前記学習器の更新を行い、
前記赤外線センサ（２０１）は、前記サーバ（３００）により前記空気調和装置（１００）を制御された後の前記対象空間（α）の熱画像を新たに検出し、
前記検出部（２００）は、新たな熱画像に基づいて、前記対象空間（α）の新たな温度分布を検出し、
前記サーバ（３００）は、更新された学習器を用いて、前記新たな温度分布を目標温度分布に近づけるように前記空気調和装置（１００）を制御する、
請求項２に記載の空調制御システム（１）。
【請求項４】
前記目標温度分布は、均一化された温度分布、あるいは、所定の温度ムラを含む温度分布であり、
前記学習器は、前記対象空間（α）の温度分布と前記目標温度分布とを統計処理した値に基づいて、前記深層強化学習により学習されている、
請求項２または３に記載の空調制御システム（１）。
【請求項５】
前記サーバ（３００）は、前記対象空間（α）の床面（α１）、及び壁面（α２）の前記温度分布を前記目標温度分布に近づけるように前記空気調和装置（１００）を制御する、
請求項２から請求項４のいずれかに記載の空調制御システム（１）。
【請求項６】
前記赤外線センサ（２０１）は、前記空気調和装置（１００）に内蔵、又は前記対象空間（α）に配置される、
請求項２から請求項５のいずれかに記載の空調制御システム（１）。
【請求項７】
前記サーバ（３００）は、前記空気調和装置（１００）が行う前記空調運転において、少なくとも、運転モード、設定温度、風向、及び風量、のいずれかを制御することによって、前記対象空間（α）の前記温度分布を前記目標温度分布に近づける、
請求項２から請求項６のいずれかに記載の空調制御システム（１）。
【請求項８】
対象空間（α）において空調運転を行う空気調和装置（１００）の制御方法であって、
前記対象空間（α）の熱画像を取得する取得ステップ（４０１）と、
前記熱画像に基づき、前記対象空間（α）の温度分布を検出する検出ステップ（４０２）と、
前記温度分布に基づき、深層強化学習により学習した学習器を用いて、前記対象空間（α）の前記温度分布を目標温度分布に近づけるように前記空気調和装置（１００）を制御する制御ステップ（４０４）と、
を備え、
前記目標温度分布は、ユーザーあるいは管理者によってあらかじめ設定された温度分布である、
空調制御方法。