(57)【要約】【課題】ユーザを効果的に覚醒させることができる環境制御システムを提供する。【解決手段】環境制御システム１０は、ユーザの生理指標情報を含む入力情報を取得する第１取得部１１０と、制御内容決定ルールに従って、入力情報から、ユーザを覚醒させるための制御内容であって、光を出力する機器を含む環境制御機器４００の制御内容を決定する決定部１２０と、決定された制御内容に基づいて環境制御機器４００の制御を実行する制御部１３０と、実行された制御に対するユーザの評価を示す評価情報を取得する第２取得部１５０と、評価情報に基づく値を報酬として用いる機械学習によって制御内容決定ルールを更新する更新部１８０とを備える。【選択図】図１
2020103496.tif 000002
【特許請求の範囲】
【請求項１】
ユーザの生理指標情報を含む入力情報を取得する第１取得部と、
制御内容決定ルールに従って、前記入力情報から、前記ユーザを覚醒させるための制御内容であって、光を出力する機器を含む環境制御機器の制御内容を決定する決定部と、
決定された前記制御内容に基づいて前記環境制御機器の制御を実行する制御部と、
実行された前記制御に対する前記ユーザの評価を示す評価情報を取得する第２取得部と、
前記評価情報に基づく値を報酬として用いる機械学習によって前記制御内容決定ルールを更新する更新部とを備える
環境制御システム。
【請求項２】
前記制御内容決定ルールは、前記制御内容の価値を定める価値関数を含み、
前記更新部は、前記価値関数を更新する
請求項１に記載の環境制御システム。
【請求項３】
さらに、
前記評価情報に基づいて前記報酬を算出する報酬算出部と、
前記報酬算出部における前記報酬の算出における条件を設定する報酬条件設定部とを備える
請求項１または２に記載の環境制御システム。
【請求項４】
さらに、前記決定部によって決定された前記制御内容を記憶する記憶部を備える
請求項１〜３のいずれか１項に記載の環境制御システム。
【請求項５】
前記更新部は、前記制御内容で前記環境制御機器を制御中に前記第２取得部が取得した前記評価情報に基づいて、前記制御内容決定ルールを更新し、
前記決定部は、さらに、前記環境制御機器を制御中に更新された前記制御内容決定ルールに従って前記入力情報に対する制御内容を前記制御中に決定しなおす
請求項１〜４のいずれか１項に記載の環境制御システム。
【請求項６】
前記入力情報には、さらに、前記ユーザの行動指標情報、前記ユーザのスケジュール情報、前記ユーザの前記環境制御システムの利用履歴情報、及び、環境情報の少なくとも１つが含まれる
請求項１〜５のいずれか１項に記載の環境制御システム。
【請求項７】
前記制御部は、さらに、前記環境制御機器を用いて前記ユーザを眠らせるための睡眠制御を実行することが可能であり、
前記入力情報には、さらに、前記睡眠制御における制御パラメータが含まれる
請求項１〜６のいずれか１項に記載の環境制御システム。
【請求項８】
前記環境制御機器には、さらに、前記光を出力する機器以外の他の機器が含まれ、
前記決定部は、前記他の機器を含む前記環境制御機器の前記制御内容を決定する
請求項１〜７のいずれか１項に記載の環境制御システム。
【請求項９】
前記他の機器は、空調機器である
請求項８に記載の環境制御システム。
【請求項１０】
前記ユーザを覚醒させるための制御内容は、対象期間において行われる前記光を出力する機器によって出力される光の明るさを増加させる制御における、（ａ）前記対象期間の長さ、（ｂ）最大明るさ、（ｃ）前記最大明るさに到達するまでの所要時間、（ｄ）前記最大明るさが維持される時間、及び、（ｅ）前記最大明るさに到達するまでの明るさのカーブの形状の少なくとも１つを含む
請求項１〜９のいずれか１項に記載の環境制御システム。
【請求項１１】
前記第１取得部、前記決定部、前記制御部、前記第２取得部、及び、前記更新部を有する個別環境制御システムを複数備え、
複数の個別環境制御システムのそれぞれは、互いに通信可能に接続されており、前記入力情報及び学習結果の少なくとも一つを相互に通信し、
前記更新部は、他の個別環境制御システムから取得した前記入力情報及び前記学習結果の少なくとも一つに基づいて、前記制御内容決定ルールを更新する
請求項１〜１０のいずれか１項に記載の環境制御システム。
【請求項１２】
前記複数の個別環境制御システムと、
前記複数の個別環境制御システムのそれぞれと通信可能に接続されたサーバ装置とを備える
請求項１１に記載の環境制御システム。
【請求項１３】
ユーザの生理指標情報を含む入力情報を取得する第１取得ステップと、
制御内容決定ルールに従って、前記入力情報から、前記ユーザを覚醒させるための制御内容であって、光を出力する機器を含む環境制御機器の制御内容を決定する決定ステップと、
決定された前記制御内容に基づいて前記環境制御機器の制御を実行する制御ステップと、
実行された前記制御に対する前記ユーザの評価を示す評価情報を取得する第２取得ステップと、
前記評価情報に基づく値を報酬として用いる機械学習によって前記制御内容決定ルールを更新する更新ステップとを含む
環境制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ユーザを覚醒させるための環境制御機器の制御内容を決定する環境制御システム及び環境制御方法に関する。
【背景技術】
【０００２】
従来、ユーザを覚醒させるための様々な技術が提案されている。特許文献１には、就寝者の睡眠状態に基づいて就寝者に起床を報知する目覚まし装置が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１４−０２３５７１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ところで、ユーザを覚醒させるために環境を制御する環境制御システムは、ユーザを効果的に覚醒させることができることが望まれている。
【０００５】
そこで、本発明は、ユーザを効果的に覚醒させることができる環境制御システム及び環境制御方法を提供する。
【課題を解決するための手段】
【０００６】
本発明の一態様に係る環境制御システムは、ユーザの生理指標情報を含む入力情報を取得する第１取得部と、制御内容決定ルールに従って、前記入力情報から、前記ユーザを覚醒させるための制御内容であって、光を出力する機器を含む環境制御機器の制御内容を決定する決定部と、決定された前記制御内容に基づいて前記環境制御機器の制御を実行する制御部と、実行された前記制御に対する前記ユーザの評価を示す評価情報を取得する第２取得部と、前記評価情報に基づく値を報酬として用いる機械学習によって前記制御内容決定ルールを更新する更新部とを備える。
【０００７】
本発明の一態様に係る環境制御方法は、ユーザの生理指標情報を含む入力情報を取得する第１取得ステップと、制御内容決定ルールに従って、前記入力情報から、前記ユーザを覚醒させるための制御内容であって、光を出力する機器を含む環境制御機器の制御内容を決定する決定ステップと、決定された前記制御内容に基づいて前記環境制御機器の制御を実行する制御ステップと、実行された前記制御に対する前記ユーザの評価を示す評価情報を取得する第２取得ステップと、前記評価情報に基づく値を報酬として用いる機械学習によって前記制御内容決定ルールを更新する更新ステップとを含む。
【０００８】
なお、これらの包括的又は具体的な態様は、システム、方法、集積回路、コンピュータプログラム又はコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【０００９】
本発明の一態様に係る環境制御システム及び環境制御方法は、ユーザを効果的に覚醒させることができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施の形態１に係る環境制御システムの機能構成を示すブロック図である。
【図２】図２は、覚醒制御の概要を説明するための図である。
【図３】図３は、複数種類の照明機器を示す図である。
【図４】図４は、実施の形態１に係る制御装置の覚醒制御時の動作のフローチャートである。
【図５】図５は、入力情報として使用することができる情報を示す図である。
【図６】図６は、覚醒制御の制御パラメータを説明するための図である。
【図７】図７は、覚醒制御における発光色の変更を説明するための色度図である。
【図８】図８は、実施の形態１に係る制御装置の報酬の算出動作のフローチャートである。
【図９】図９は、報酬の算出に用いることが可能な項目を示す図である。
【図１０】図１０は、個別報酬を決定するための項目と、当該個別報酬を決定するために使用できる生理指標情報との関係を示す図である。
【図１１】図１１は、睡眠制御の制御パラメータを説明するための第一の図である。
【図１２】図１２は、睡眠制御の制御パラメータを説明するための第二の図である。
【図１３】図１３は、実施の形態２に係る環境制御システムの機能構成を示すブロック図である。
【発明を実施するための形態】
【００１１】
以下、実施の形態について、図面を参照しながら説明する。なお、以下で説明する実施の形態は、いずれも包括的又は具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置、接続形態、ステップ、及び、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【００１２】
なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付しており、重複する説明は省略又は簡略化される場合がある。
【００１３】
また、本明細書において、数値、および、数値範囲は、厳格な意味のみを表す表現ではなく、実質的に同等な範囲、例えば数％程度の差異をも含むことを意味する表現である。
【００１４】
（実施の形態１）
［概要］
以下、実施の形態１に係る環境制御システムについて説明する。図１は、実施の形態１に係る環境制御システムの機能構成を示すブロック図である。実施の形態１に係る環境制御システム１０は、ユーザが睡眠中に当該ユーザを覚醒させるための覚醒支援システムである。環境制御システム１０は、例えば、照明機器などの光を出力する機器を用いてユーザを覚醒させる覚醒制御を行う。図２は、覚醒制御の概要を説明するための図である。
【００１５】
図２に示されるように、覚醒制御は、例えば、対象期間の開始時刻から対象期間の終了時刻にかけて照明機器が発する光の明るさを徐々に増加させる制御である。これにより、環境制御システム１０は、ユーザを快適に覚醒させることができる。
【００１６】
ここで、睡眠前または睡眠中のユーザの心身の状態を示す生理指標情報により、覚醒制御の制御内容（対象期間の長さ、最大明るさ、明るさの変化量、明るさの変化関数（つまり、明るさのカーブの形状）など）の最適値は異なると考えられる。したがって、覚醒制御の制御内容がユーザの心身の状態にかかわらず固定されると、ユーザ快適に覚醒させる効果が減少する可能性がある。
【００１７】
そこで、環境制御システム１０は、あらかじめ機械学習によって構築された学習器１００ａを有する。学習器１００ａに生理指標情報が入力情報として与えられると、学習器１００ａは、最適と考えられる覚醒制御の制御内容を出力する。これにより、環境制御システム１０は、ユーザを効果的に（つまり、快適に）覚醒させることができる。
【００１８】
なお、図２に示される、環境制御システム１０は、睡眠導入期間または睡眠期間に、ユーザを快適に眠らせるための睡眠制御を行うこともできる。睡眠導入期間において行われる制御は、光ゆらぎ制御とも記載される。後述のように、睡眠制御における制御内容は、学習器１００ａに覚醒制御の制御内容を出力させるための入力情報として使用される。
【００１９】
なお、ここでの睡眠には、仮眠が含まれる。仮眠とは、短時間の睡眠であり、例えば、作業の途中で当該作業を中断して行われる睡眠であり、日中に活動している人が夜にとる長時間の睡眠（以下、本睡眠とも記載される）より浅い睡眠である。図１に示されるように、環境制御システム１０は、具体的には、制御装置１００と、センサ２００と、入力装置３００と、環境制御機器４００とを備える。以下、これらの各装置について詳細に説明する。
【００２０】
［センサ］
センサ２００は、ユーザの心身の状態を検出し、検出したユーザの心身の状態を示す生理指標情報を制御装置１００に出力する。このようなセンサ２００は、例えば、心拍計、カメラ、体温計、脳波計、唾液センサ、発汗センサ、呼吸センサ、体動センサ、血流センサなどである。このような生理指標情報を制御装置１００に出力するセンサ２００のそれぞれは、ユーザに接触する接触型のセンサであってもよいし、非接触型のセンサであってもよい。
【００２１】
また、センサ２００には、ユーザの行動を検出し、検出したユーザの行動を直接的または間接的に示す行動指標情報を制御装置１００に出力するセンサが含まれてもよい。このようなセンサ２００は、例えば、ユーザのタイプスピード、または、ユーザのマウスクリック数を検出するユーザインタフェースシステム、ユーザの離席状態（離席頻度及び離席回数）を検出するためにユーザが座る椅子に設けられた圧力センサなどである。センサ２００は、ユーザの会話数または状態を検出する音声認識システム、ユーザの睡眠時間、睡眠の質、または、起床時刻・就寝時刻を検出するバイタルセンサ（具体的には、睡眠計または脳波計など）であってもよい。ユーザの睡眠時間、睡眠の質、または、起床時刻・就寝時刻は、スマートフォンなどの携帯端末のアプリケーションが実行されることで検出されてもよいし、専用のウェアラブル端末によって検出されてもよい。
【００２２】
また、センサ２００には、ユーザの周囲の環境情報を検出し、検出した環境情報を制御装置１００に出力するセンサが含まれてもよい。このようなセンサ２００は、例えば、日射量センサ、受光量センサ、温度センサ、においセンサ、マイクロフォン、ＣＯ２濃度センサなどである。なお、環境制御システム１０が備えるセンサ２００の数は特に限定されない。
【００２３】
［入力装置］
入力装置３００は、ユーザが情報を制御装置１００へ入力するための操作を受け付けるユーザインターフェース装置である。入力装置３００は、例えば、ユーザの操作に基づいて、行動指標情報（薬の摂取履歴、飲食履歴）、主観指標情報、スケジュール情報、及び、ユーザ情報などを制御装置１００に出力する。
【００２４】
また、入力装置３００は、ユーザの操作に基づいて、実行中または実行後の覚醒制御に対するユーザの評価情報を制御装置１００に出力する。評価情報は、機械学習における報酬の算出に用いられる。
【００２５】
入力装置３００は、例えば、スマートフォンまたはタブレット端末などの携帯端末であるが、スマートウォッチなどのウェアラブルデバイスであってもよい。また、入力装置３００は、マイクロフォン、機械式のプッシュボタン、キーボード、またはマウスなどであってもよい。なお、環境制御システム１０が備える入力装置３００の数は特に限定されない。
【００２６】
［環境制御機器］
環境制御機器４００は、ユーザの周囲の環境（光環境、空気環境、または温度環境など）を制御するための機器であり、覚醒制御において制御装置１００によって制御される機器である。環境制御機器４００は、具体的には、照明機器などの光を出力する機器（つまり、光によりユーザに刺激を与える機器）である。
【００２７】
なお、環境制御システム１０は、複数種類の照明機器を環境制御機器４００として備えてもよい。図３は、複数種類の照明機器を示す図である。図３に示されるように、複数種類の照明機器には、例えば、ダウンライトなどの直接照明を行う照明機器と、コーブ照明及びコーニス照明などの間接照明を行う照明機器と、上側覚醒照明及び下側覚醒照明とが含まれる。覚醒制御において、これら複数種類の照明機器は、個別に制御されてもよいし、グループ化されてグループ単位で制御されてもよい。
【００２８】
なお、環境制御機器４００は、照明機器以外の機器であって、ユーザを覚醒させるために環境を制御する他の機器を含んでもよい。環境制御機器４００は、光以外に、映像、音、香り、振動、温湿度、気流、及び、触感などによりユーザに刺激を与える機器を含んでもよい。具体的には、環境制御機器４００は、さらに、空調機器、空気清浄機、換気扇、扇風機または床暖房などを含んでいてもよい。また、環境制御機器４００は、窓を開閉可能に覆う遮光設備（例えばブラインド及びカーテンなど）の開閉機器を含んでもよい。また、環境制御機器４００は、映像機器、音響機器または映像音響機器を含んでもよい。また、環境制御機器４００は、芳香器を含んでもよい。また、環境制御機器４００は、マッサージ器を含んでもよい。
【００２９】
［制御装置］
次に、制御装置１００について説明する。制御装置１００は、生理指標情報を入力情報として取得し、取得した入力情報に基づいて、覚醒制御における環境制御機器４００の制御内容を決定する。また、制御装置１００は、決定した制御内容にしたがって環境制御機器４００を制御するための制御信号を環境制御機器４００に出力する。制御装置１００は、例えば、マイクロコンピュータによって実現されるが、プロセッサなどによって実現されてもよい。
【００３０】
制御装置１００は、具体的には、第１取得部１１０と、決定部１２０と、制御部１３０と、第２取得部１５０と、報酬算出部１６０と、報酬条件設定部１７０と、更新部１８０と、記憶部１９０とを備える。これらの構成要素のうち制御部１３０以外の構成要素は、学習器１００ａを構成する。報酬算出部１６０、報酬条件設定部１７０、更新部１８０、及び、記憶部１９０は、学習部１００ｂを構成する。
【００３１】
第１取得部１１０は、ユーザの生理指標情報を含む入力情報を取得する。
【００３２】
決定部１２０は、制御内容決定ルールに従って、入力情報からユーザを覚醒させるための制御内容を決定する。決定部１２０は、具体的には、ユーザを覚醒させるための覚醒制御において制御される環境制御機器４００の制御内容を決定する。制御内容決定ルールは、記憶部１９０に記憶されている。
【００３３】
制御部１３０は、決定部１２０によって決定された制御内容に基づいて環境制御機器４００を制御する。具体的には、制御部１３０は、制御内容に対応する制御信号を環境制御機器４００に出力する。
【００３４】
第２取得部１５０は、覚醒制御に対するユーザの評価を示す評価情報を取得する。評価情報は、制御部１３０によって実行された制御に対する評価を示す情報を含み、例えば、覚醒制御後に入力装置３００を介してユーザから入力された情報を含む。第２取得部１５０は、入力装置３００によって出力される情報を評価情報として取得するが、センサ２００によって出力される情報を評価情報として取得してもよい。
【００３５】
報酬算出部１６０は、第２取得部１５０が取得した評価情報に基づいて報酬を算出する。報酬を算出する処理の詳細については後述される。
【００３６】
報酬条件設定部１７０は、報酬算出部１６０における報酬の算出における条件を設定する。後述のように、条件は、例えば、重み係数である。条件は、予め記憶部１９０に記憶されていてもよいし、条件が固定される場合、報酬条件設定部１７０は、設けられなくてもよい。
【００３７】
更新部１８０は、第２取得部１５０が取得した評価情報に基づく値を報酬として用いる機械学習によって制御内容決定ルールを更新する。
【００３８】
記憶部１９０は、制御内容決定ルール、環境制御システム１０の利用履歴情報、入力装置３００によって出力されたユーザのスケジュール情報などが記憶される記憶装置である。記憶部１９０は、例えば、半導体メモリによって実現される。
【００３９】
［覚醒制御時の動作］
次に、制御装置１００の覚醒制御時の動作について説明する。図４は、制御装置１００の覚醒制御時の動作のフローチャートである。
【００４０】
まず、第１取得部１１０は、ユーザの生理指標情報を含む入力情報を取得する（Ｓ１１０）。図５は、入力情報として使用することができる生理指標情報を示す図である。図５に示されるように、生理指標情報には、心拍（脈波）、瞬目・視線、眼球運動、瞳孔変動、皮膚温度（末梢、鼻、額）、表情（感情）、脳波、唾液、頭部の動き、発汗（通常発汗、精神性発汗）、呼吸、体動、血流（脳・末梢）などが含まれる。なお、生理指標情報として使用される心拍には、心拍数だけでなく、心拍変動の周波数成分ＬＦ、ＨＦ、ＨＦ／ＬＦなどが含まれる。生理指標情報には、これらの項目の経時変化を示す情報（時間情報）が含まれてもよい。
【００４１】
第１取得部１１０は、これらの生理指標情報のうちの少なくとも１つを入力情報として取得する。第１取得部１１０は、例えば、センサ２００から生理指標情報を取得するが、入力装置３００から生理指標情報を取得してもよいし、記憶部１９０に記憶された生理指標情報を取得してもよい。
【００４２】
次に、決定部１２０は、記憶部１９０に記憶された制御内容決定ルールに従って、入力情報から、ユーザを覚醒させるため覚醒制御の制御内容であって、光を出力する機器を含む環境制御機器４００の制御内容を決定する（Ｓ１２０）。
【００４３】
制御内容決定ルールは、例えば、制御内容の価値を決定する行動価値関数で表される。行動価値関数は、価値関数の一例である。決定部１２０は、例えば、行動価値関数を用いて、入力情報から報酬が最も高くなると推定される制御内容（例えば、覚醒効果に対する最大限の報酬が得られる制御内容）を当該入力情報に対する制御内容であると決定する。
【００４４】
報酬が最も高くなる制御内容は、ユーザごとに異なる場合がある。そこで、環境制御システム１０が複数のユーザによって共用される場合、決定部１２０は、ユーザごとに異なる制御内容決定ルールに従って、制御内容に対する当該ユーザの報酬を算出してもよい。
【００４５】
覚醒制御の制御内容には、図６に示されるような制御パラメータが含まれる。図６は、覚醒制御の制御パラメータを説明するための図である。図６の縦軸は、照明機器が発する光の明るさを示し、図６の横軸は、時間を示す。
【００４６】
覚醒制御は、対象期間の開始時刻から対象期間の終了時刻にかけて照明機器が発する光の明るさを徐々に増加させた後、一定にする制御である。これにより、環境制御システム１０は、ユーザを快適に覚醒させることができる。このとき、決定部１２０によって決定される制御パラメータとしては、（ａ）対象期間の長さ、（ｂ）最大明るさ、（ｃ）最大明るさに到達するまでの所要時間、（ｄ）最大明るさが維持される時間、及び、（ｅ）最大明るさに到達するまでの明るさのカーブの形状、が例示される。カーブの形状には、直線状、上に凸状、下に凸状などの形状が含まれる。
【００４７】
なお、覚醒制御においては、明るさに代えて、または、明るさに加えて発光色（照明機器が発する光の色度）が変更されてもよい。発光色が変更される場合、図６の縦軸は、発光色と読み代えられる。図７は、覚醒制御における発光色の変更を説明するための色度図である。
【００４８】
例えば、図７に示される色度図上のｂ点からａ点まで色度を変化させる場合、決定部１２０によって決定される制御パラメータとしては、（ａ）対象期間の長さ、（ｂ）ａ点の色度、（ｃ）色度がｂ点からａ点に到達するまでの所要時間、（ｄ）a点の色度が維持される時間、及び、（ｅ）ａ点の色度に到達するまでの色度のカーブの形状、が例示される。カーブの形状には、直線状、上に凸状、及び、下に凸状などの形状が含まれる。
【００４９】
また、覚醒制御においては、照明機器に加えて空調機器が制御されてもよい。空調機器を制御対象とした覚醒制御は、対象期間の開始時刻から対象期間の終了時刻にかけて空調機器が発する気流の強さを徐々に増加させた後一定にする制御である。つまり、図６の縦軸は、気流の強さと読み代えられる。
【００５０】
この場合、決定部１２０によって決定される制御パラメータとしては、（ａ）対象期間の長さ、（ｂ）最大気流、（ｃ）最大気流に到達するまでの所要時間、（ｄ）最大気流が維持される時間、及び、（ｅ）最大気流に到達するまでの気流の強さのカーブの形状、が例示される。カーブの形状には、直線状、上に凸状、下に凸状などの形状が含まれる。
【００５１】
ステップＳ１２０の後、制御部１３０は、決定された制御内容に基づいて環境制御機器４００の制御（つまり、覚醒制御）を実行する（Ｓ１３０）。制御部１３０は、具体的には、制御内容に対応する制御信号を環境制御機器４００に出力する。
【００５２】
次に、第２取得部１５０は、ステップＳ１３０において実行された覚醒制御に対するユーザの評価を示す評価情報を取得する（Ｓ１４０）。第２取得部１５０は、入力装置３００によって出力される情報を評価情報として取得するが、センサ２００によって出力される情報を評価情報として取得してもよい。
【００５３】
次に、報酬算出部１６０は、ステップＳ１４０において取得された評価情報に基づいて報酬を算出する（Ｓ１５０）。報酬の算出動作の詳細については後述される。なお、ステップＳ１５０の評価情報の取得は、覚醒制御後に行われるが、覚醒制御中に行われてもよい。
【００５４】
次に、更新部１８０は、報酬算出部１６０によって算出された報酬を用いて機械学習によって制御内容決定ルールを更新する（Ｓ１６０）。更新部１８０は、報酬算出部１６０によって算出された報酬に基づく強化学習により、ユーザに適応した制御内容（すなわち、当該ユーザにおける報酬が最も多く得られる制御内容）の決定を学習する。上述のように、実施の形態１では、更新部１８０は、行動価値関数を更新することで、制御内容決定ルールを更新する。
【００５５】
以下、行動価値関数の更新方法について説明する。強化学習の代表的な手法としては、Ｑ学習やＴＤ学習が知られている。以下、Ｑ学習を例に説明する。Ｑ学習は、入力情報が示すユーザの状態ｓの下で、制御内容ａを選択する価値Ｑ（ｓ、ａ）を学習する方法であって、ある状態ｓのとき、価値Ｑ（ｓ、ａ）の最も高い制御内容ａを最適な制御内容として選択する。学習器１００ａ（更新部１８０）は、ある状態ｓの下で様々な制御内容ａを選択し、そのときの制御内容ａに対して報酬が与えられる。それにより、学習器１００ａは、よりよい制御内容の選択、すなわち正しい価値Ｑ（ｓ、ａ）を学習していく。このような価値Ｑ（ｓ、ａ）の更新式は、例えば、式１により表すことができる。
【００５６】
【数１】
2020103496.tif 000003
【００５７】
ここで、ｓｔは、時刻tにおける状態を表し、ａｔは、時刻tにおける制御内容を表す。制御内容ａｔにより、状態はｓｔ＋１に変化する。ｒｔ＋１は、その状態の変化により得られる報酬を表している。また、ｍａｘの付いた項は、状態ｓｔ＋１の下で、そのときに分かっている最もＱ値の高い制御内容ａｔ＋１を選択した場合のＱ値にγを乗じたものになる。ここで、γは、０＜γ≦１のパラメータで、割引率と呼ばれる。また、αは、学習係数で、０＜α≦１の範囲とする。
【００５８】
なお、上記手法は、強化学習の手法の一例である。強化学習には、ニューラルネットワークを用いた手法、強化学習にディープラーニングを組み合わせた手法など、既存のどのような手法が用いられてもよい。
【００５９】
［報酬の算出動作］
次に、上記ステップＳ１５０の報酬の算出動作の詳細について説明する。図８は、報酬の算出動作のフローチャートである。
【００６０】
まず、報酬算出部１６０は、快適感に対する個別報酬Ｆａを決定する（Ｓ２１０）。報酬算出部１６０は、例えば、入力装置３００によって出力されるユーザの主観評価結果を示す主観指標情報を評価情報として個別報酬Ｆａを決定するが、センサ２００として用いられる心拍計によって検出されるユーザの心拍数を評価情報として個別報酬Ｆａを決定してもよい。この場合、主観指標情報または心拍数が示す快適感が高いほど、個別報酬Ｆａの値は大きくなる。
【００６１】
次に、報酬算出部１６０は、リフレッシュ感に対する個別報酬Ｆｂを決定する（Ｓ２２０）。報酬算出部１６０は、例えば、入力装置３００によって出力されるユーザの主観指標情報を評価情報として個別報酬Ｆｂを決定する。この場合、主観指標情報が示す快適感が高いほど、個別報酬Ｆｂの値は大きくなる。
【００６２】
次に、報酬算出部１６０は、ユーザのモチベーションに対する個別報酬Ｆｃを決定する（Ｓ２３０）。報酬算出部１６０は、例えば、入力装置３００によって出力されるユーザの主観指標情報を評価情報として個別報酬Ｆｃを決定するが、センサ２００として用いられるユーザインタフェースシステムによって検出されるユーザのタイプスピードを評価情報として個別報酬Ｆｃを決定してもよい。この場合、主観指標情報が示すモチベーションの向上度合いが高いほど、個別報酬Ｆｃの値は大きくなり、タイプスピードが速いほど、個別報酬Ｆｃの値は大きくなる。
【００６３】
次に、報酬算出部１６０は、眠気レベルに対する個別報酬Ｆｄを決定する（Ｓ２４０）。報酬算出部１６０は、例えば、入力装置３００によって出力されるユーザの主観指標情報を評価情報として個別報酬Ｆｄを決定するが、センサ２００として用いられるカメラによって検出される、所定期間におけるユーザの瞬目の回数を評価情報として個別報酬Ｆｄを決定してもよい。この場合、主観指標情報が示す眠気レベルの低減度合いが高いほど、個別報酬Ｆｄの値は大きくなり、入眠前における瞬目の回数よりも覚醒後における瞬目の回数が少ないほど、個別報酬Ｆｄの値は大きくなる。
【００６４】
次に、報酬算出部１６０は、覚醒後の集中レベルの向上に対する個別報酬Ｆｅを決定する（Ｓ２５０）。報酬算出部１６０は、例えば、入力装置３００によって出力されるユーザの主観指標情報を評価情報として個別報酬Ｆｅを決定するが、センサ２００として用いられるユーザインタフェースシステムによって検出されるユーザのタイプスピードを評価情報として個別報酬Ｆｅを決定してもよい。この場合、主観指標情報が示すモチベーションの向上度合いが高いほど、個別報酬Ｆｅの値は大きくなり、タイプスピードが速いほど、個別報酬Ｆｅの値は大きくなる。
【００６５】
そして、報酬算出部１６０は、ステップＳ２１０〜Ｓ２５０で決定した個別報酬Ｆａ〜Ｆｅに基づいて、制御内容に対する報酬Ｆを決定する（Ｓ２６０）。このとき、報酬算出部１６０は、個別報酬Ｆａ〜Ｆｅを重み付け加算することで報酬Ｆを算出してもよい。例えば、報酬算出部１６０は、式２に基づいて報酬Ｆを算出してもよい。
【００６６】
Ｆ＝ｗ１×Ｆａ＋ｗ２×Ｆｂ＋ｗ３×Ｆｃ＋ｗ４×Ｆｄ＋ｗ５×Ｆｅ  ・・（式２）
【００６７】
ｗ１〜ｗ５は、報酬条件設定部１７０が設定した項目それぞれの重みであり、報酬条件の一例である。つまり、報酬条件設定部１７０は、報酬算出部１６０が重み付け加算するときの重みｗ１〜ｗ５を設定する。
【００６８】
なお、報酬条件設定部１７０は、ユーザが覚醒するときの天気、季節及び時間帯の少なくとも１つに応じて、条件（例えば、重み）を変更してもよい。例えば、天気、季節及び時間帯が第１取得部１１０によって取得された入力情報に含まれている場合、報酬条件設定部１７０は、第１取得部１１０から天気、季節及び時間帯に関する情報を取得することができる。また、報酬条件設定部１７０は、制御装置１００が備える、現在時刻を計測する汎用のタイマＩＣ（タイマ回路）、又は、リアルタイムクロックＩＣなどから季節及び時間帯に関する情報を取得してもよい。
【００６９】
以上、報酬の算出動作について説明したが、このような報酬の算出動作は一例である。例えば、個別報酬を決定するための項目（快適感、リフレッシュ感、モチベーション、眠気レベル、及び、集中レベル）は、一例であり、報酬は、少なくとも１つの項目について個別報酬が決定されることにより算出されればよい。また、報酬の算出において、その他の項目について個別報酬が決定されてもよい。図９は、報酬の算出に用いることが可能な項目を示す図である。
【００７０】
また、上記報酬の算出動作においては、個別報酬を決定するために、主観評価結果を示す情報、行動指標情報（タイプスピード）、または、生理指標情報（心拍数、及び、瞬目）が評価情報として用いられた。ここで、報酬の算出動作においては、その他の生理指標情報を用いて個別報酬が決定されてもよい。図１０は、個別報酬を決定するための項目と、当該個別報酬を決定するために使用できる生理指標情報との関係を示す図である。
【００７１】
なお、図１０に示されるように、個別報酬を決定するための項目には、覚醒制御中のユーザの状態を示す項目と、覚醒後のユーザの状態を示す項目とが含まれる。また、個別報酬を決定するための項目には、入眠前及び覚醒後の生理指標情報の変化に基づいて定められる項目が含まれる。このように、個別報酬は、覚醒制御中または覚醒後のユーザの状態に基づいて絶対的に決定されてもよいし、入眠前及び覚醒後の生理指標情報の変化に基づいて相対的に決定されてもよい。
【００７２】
［その他の入力情報１］
入力情報は、生理指標情報に限定されない。以下、上記図５を参照しながらその他の入力情報について説明する。
【００７３】
第１取得部１１０は、ユーザの行動を示す行動指標情報を入力情報として取得してもよい。行動指標情報には、ユーザがキーボードを操作するタイプスピード、睡眠時間・睡眠の質・起床時間・就寝時間、マウスクリック数、離席頻度・離席回数、会話数・会話の状態、休憩時間、薬の摂取履歴、飲食履歴などが含まれる。行動指標情報には、これらの項目の経時変化を示す情報（時間情報）が含まれてもよい。行動指標情報は、例えば、センサ２００から取得されるが、入力装置３００から取得されてもよい。
【００７４】
また、第１取得部１１０は、主観指標情報を入力情報として取得してもよい。主観指標情報には、眠気、やる気、体調・身体疲労、ストレス、集中力、パフォーマンス、緊張・リラックス度合、イライラ度合・怒り・悲しさなどが含まれる。主観指標情報には、これらの項目の経時変化を示す情報（時間情報）が含まれてもよい。主観指標情報は、例えば、入力装置３００から取得される。
【００７５】
また、第１取得部１１０は、ユーザのスケジュールを示すスケジュール情報を入力情報として取得してもよい。スケジュール情報には、利用日・利用前日・翌日の活動予定（会議など）、作業状態（取り込み中、離席中、打合わせ中など）利用日が属する季節、利用時間帯などが含まれる。スケジュール情報は、例えば、入力装置３００から取得される。
【００７６】
また、第１取得部１１０は、ユーザの環境制御システム１０（覚醒制御）の利用履歴情報を入力情報として取得してもよい。利用履歴情報には、利用時間・時刻、曜日、タイミング、入力情報、出力情報、報酬などが含まれる。利用履歴情報は、例えば、記憶部１９０から取得される。つまり、利用履歴情報は、記憶部１９０に記憶される。
【００７７】
また、第１取得部１１０は、ユーザの周囲の環境情報を入力情報として取得してもよい。環境情報には、天気（日射量）、受光量（つまり、光環境情報）、季節・時間帯、環境温度、湿度、におい、音環境、ＣＯ２濃度などが含まれる。
【００７８】
また、第１取得部１１０は、ユーザ情報を入力情報として取得してもよい。ユーザ情報には、性別、年齢、人種、出身地、職種、体質（光過敏など）、病歴（不眠症等を含む）などが含まれる。ユーザ情報は、例えば、入力装置３００から取得される。
【００７９】
［その他の入力情報２］
第１取得部１１０は、睡眠制御における制御パラメータを入力情報として取得してもよい。第１取得部１１０は、具体的には、これから行う覚醒制御よりも前（例えば、直前）の睡眠導入期間（または睡眠期間）に行われていた睡眠制御における制御パラメータを入力情報として取得してもよい。以下、睡眠制御の制御パラメータについて説明する。図１１及び図１２は、睡眠制御の制御パラメータを説明するための図である。図１１及び図１２の縦軸は、照明機器が発する光の明るさを示し、図１１及び図１２の横軸は、時間を示す。
【００８０】
なお、以下では、リラックス期間、睡眠導入期間、及び、睡眠期間のうち、主に睡眠導入期間の制御内容（言い換えれば、光ゆらぎ制御の制御内容）について説明する。
【００８１】
図１１に示されるように、睡眠制御の制御パラメータには、睡眠導入期間全体の長さ、最大明るさ及び最小明るさ、明るさを上げる上昇所要時間、最大明るさが維持される時間、明るさを下げる下降所要時間、最小明るさが維持される時間、周期、明るさを上げるときの変化の仕方（例えば、傾き）を示す上昇カーブ、及び、明るさを下げるときの変化の仕方（例えば、傾き）を示す下降カーブが含まれる。なお、最大明るさ及び最小明るさは、明るさを周期的に変化させるときの明るさの最大値及び最小値を意味する。
【００８２】
また、最大明るさ、最小明るさ、各種時間、及び、各種カーブの少なくとも１つは、時間の経過とともに変化してもよい。図１２では、最大明るさが時間の経過とともに変化する例を示している。
【００８３】
図１２に示されるように、睡眠制御の制御パラメータには、さらに、最大明るさの変化を開始する変化開始時間、最大明るさの変化を終了する変化終了期間、最大明るさの変化の仕方を示す変化カーブ、及び、変化後の最大明るさを示す変化目標値が含まれてもよい。
【００８４】
なお、睡眠制御においては、明るさに代えて、または、明るさに加えて発光色（照明機器が発する光の色度）が変更される場合がある。発光色が変更される場合、睡眠制御の制御パラメータには、上記明るさに関する制御パラメータに加えて、発光色に関する制御パラメータが含まれてもよい。例えば、図７に示される色度図上のｂ点からａ点まで発光色を変化させる場合、睡眠制御の制御パラメータには、ａ点の色度及びｂ点の色度、ａ点の色度に到達するまでの時間、ａ点の色度が維持される時間、ｂ点の色度に到達するまでの時間、ｂ点の色度が維持される時間、周期、ａ点の色度に到達するまでカーブの形状、及び、ｂ点の色度に到達するまでのカーブの形状が含まれる。
【００８５】
また、この場合も、ａ点の色度、ｂ点の色度、各種期間、及び、各種カーブの少なくとも１つは、時間の経過とともに変化してもよい。例えば、ａ点の色度が時間の経過とともに変化する場合、睡眠制御の制御パラメータには、ａ点の色度が変化を開始する変化開始時間、ａ点の色度の変化を終了する変化終了期間、ａ点の色度の変化の仕方を示す変化カーブ、及び、変化後のａ点の色度を示す変化目標値が含まれてもよい。
【００８６】
［変形例１］
上述のように、第２取得部１５０は、覚醒制御の実行中に評価情報を取得することができる。そうすると、報酬算出部１６０は、取得された評価情報に基づいて、覚醒制御の実行中に報酬を算出することができ、更新部１８０は、覚醒制御の実行中に、算出された報酬に基づいて制御内容決定ルール（行動価値関数）を更新することができる。この結果、決定部１２０は、覚醒制御の実行中に、制御内容を変更する（つまり、制御内容を決定しなおす）ことができる。
【００８７】
このように、覚醒制御の実行中に制御内容が決定しなおされれば、環境制御システム１０は、そのときのユーザの状態に対してより適切な制御内容を決定することができるので、ユーザを効果的に覚醒させることができる。
【００８８】
［変形例２］
記憶部１９０は、決定部１２０によって過去に決定された制御内容を記憶してもよい。これにより、環境制御システム１０は、何らかの原因で入力情報を取得できず制御内容の決定が不可能な場合に、記憶部１９０に記憶された制御内容を代替え使用することができる。なお、記憶部１９０に記憶される制御内容は、上述の利用履歴情報の一部として記憶されてもよいし、単独で記憶されてもよい。記憶部１９０は、例えば、制御内容を、当該制御内容を決定するために使用された入力情報と対応付けて記憶してもよいし、制御内容を、当該制御内容を決定するために使用された入力情報と対応付けずに記憶してもよい。
【００８９】
［効果など］
以上説明したように、環境制御システム１０は、ユーザの生理指標情報を含む入力情報を取得する第１取得部１１０と、制御内容決定ルールに従って、入力情報から、ユーザを覚醒させるための制御内容であって、光を出力する機器を含む環境制御機器４００の制御内容を決定する決定部１２０と、決定された制御内容に基づいて環境制御機器４００の制御を実行する制御部１３０と、実行された制御に対するユーザの評価を示す評価情報を取得する第２取得部１５０と、評価情報に基づく値を報酬として用いる機械学習によって制御内容決定ルールを更新する更新部１８０とを備える。
【００９０】
このような環境制御システム１０は、生理指標情報及び評価情報に関連付けて学習した制御内容決定ルールに基づいて制御内容を決定することができる。したがって、環境制御システム１０は、ユーザを効果的に覚醒させることができる。
【００９１】
また、例えば、制御内容決定ルールは、制御内容の価値を定める価値関数を含み、更新部１８０は、価値関数を更新する。
【００９２】
このような環境制御システム１０は、生理指標情報及び評価情報に関連付けて学習した価値関数に基づいて制御内容を決定することができる。
【００９３】
また、例えば、環境制御システム１０は、さらに、評価情報に基づいて報酬を算出する報酬算出部１６０と、報酬算出部１６０における報酬の算出における条件を設定する報酬条件設定部１７０とを備える。
【００９４】
このような環境制御システム１０は、報酬条件設定部１７０によって設定された条件に応じて報酬を算出することができる。例えば、ユーザの好みに応じて条件が設定されれば、ユーザの好みに応じた制御内容が決定されやすくなる。
【００９５】
また、例えば、環境制御システム１０は、さらに、決定部１２０によって決定された制御内容を記憶する記憶部１９０を備える。
【００９６】
このような環境制御システム１０は、記憶部１９０に記憶されている制御内容（例えば、前回の制御内容）を読み出すことで、入力情報が取得できずに制御内容が決定できない場合であってもユーザを覚醒させるための制御を行うことができる。
【００９７】
また、例えば、更新部１８０は、上記制御内容で環境制御機器４００を制御中に第２取得部１５０が取得した評価情報に基づいて、制御内容決定ルールを更新する。決定部１２０は、さらに、環境制御機器４００を制御中に更新された制御内容決定ルールに従って入力情報に対する制御内容を制御中に決定しなおす。
【００９８】
このような環境制御システム１０は、制御中のユーザの状態に応じて制御内容決定ルールを更新し、制御内容を変更することができる。つまり、環境制御システム１０は、制御中に学習することで、そのときのユーザの状態に対してより適切な制御内容を決定することができるので、さらにユーザを効果的に覚醒させることができる。
【００９９】
また、例えば、入力情報には、さらに、ユーザの行動指標情報、ユーザのスケジュール情報、ユーザの環境制御システム１０の利用履歴情報、及び、環境情報の少なくとも１つが含まれる。
【０１００】
このような環境制御システム１０は、行動指標情報、スケジュール情報、利用履歴情報、及び、環境情報の少なくとも１つを評価情報に関連付けて学習した制御内容決定ルールに基づいて制御内容を決定することができる。
【０１０１】
また、例えば、制御部１３０は、さらに、環境制御機器４００を用いてユーザを眠らせるための睡眠制御を実行することが可能であり、入力情報には、さらに、睡眠制御における制御パラメータが含まれる。
【０１０２】
このような環境制御システム１０は、睡眠制御における制御パラメータを評価情報に関連付けて学習した制御内容決定ルールに基づいて制御内容を決定することができる。
【０１０３】
また、例えば、環境制御機器４００には、光を出力する機器以外の他の機器が含まれる。決定部１２０は、上記他の機器を含む環境制御機器４００の制御内容を決定する。
【０１０４】
このような環境制御システム１０は、光を出力する機器及びそれ以外の機器のそれぞれを用いて、ユーザを覚醒させるための制御を行うことができる。
【０１０５】
また、例えば、上記他の機器は、空調機器である。
【０１０６】
このような環境制御システム１０は、光を出力する機器及び空調機器のそれぞれを用いて、ユーザを覚醒させるための制御を行うことができる。
【０１０７】
また、例えば、ユーザを覚醒させるための制御内容は、対象期間において行われる光を出力する機器によって出力される光の明るさを増加させる覚醒制御における、（ａ）対象期間の長さ、（ｂ）最大明るさ、（ｃ）最大明るさに到達するまでの所要時間、（ｄ）最大明るさが維持される時間、及び、（ｅ）最大明るさに到達するまでの明るさのカーブの形状の少なくとも１つを含む。
【０１０８】
このような環境制御システム１０は、覚醒制御における制御パラメータを制御内容として決定することができる。
【０１０９】
また、環境制御システム１０などのコンピュータが実行する環境制御方法は、ユーザの生理指標情報を含む入力情報を取得する第１取得ステップ（Ｓ１１０）と、制御内容決定ルールに従って、入力情報から、ユーザを覚醒させるための制御内容であって、光を出力する機器を含む環境制御機器４００の制御内容を決定する決定ステップ（Ｓ１２０）と、決定された制御内容に基づいて環境制御機器４００の制御を実行する制御ステップ（Ｓ１３０）と、実行された制御に対するユーザの評価を示す評価情報を取得する第２取得ステップ（Ｓ１４０）と、評価情報に基づく値を報酬として用いる機械学習によって制御内容決定ルールを更新する更新ステップ（Ｓ１６０）とを含む。
【０１１０】
このような環境制御システム１０は、生理指標情報及び評価情報に関連付けて学習した制御内容決定ルールに基づいて制御内容を決定することができる。したがって、環境制御システム１０は、ユーザを効果的に覚醒させることができる。
【０１１１】
（実施の形態２）
［構成］
実施の形態２では、環境制御システムの他の構成について、図１３を参照しながら説明する。図１３は、実施の形態２に係る環境制御システムの機能構成を示すブロック図である。
【０１１２】
図１３に示されるように、実施の形態２に係る環境制御システム１０ｂは、複数の個別環境制御システム１０ｃと、複数の個別環境制御システム１０ｃのそれぞれ通信可能に接続されたサーバ装置５００とを備える。
【０１１３】
複数の個別環境制御システム１０ｃのそれぞれは、例えば、実施の形態１の環境制御システム１０と同様の構成であるが、図１３では第１取得部１１０及び記憶部１９０以外の構成の図示が省略されている。環境制御システム１０ｂが備える複数の個別環境制御システム１０ｃの数は、特に限定されない。
【０１１４】
サーバ装置５００は、複数の個別環境制御システム１０ｃのそれぞれから、第１取得部１１０が取得した入力情報、及び、記憶部１９０に記憶された学習結果（例えば、制御内容、報酬、及び、更新された行動価値関数）の少なくとも１つを取得し、集中管理する。サーバ装置５００は、取得した情報を記憶部５１０に格納する。これにより、複数の個別環境制御システム１０ｃのそれぞれの学習結果等を共有することができる。
【０１１５】
なお、複数の個別環境制御システム１０ｃのそれぞれが備える複数の制御装置１００のうちの少なくとも１つの制御装置１００がサーバ装置として機能してもよい。つまり、環境制御システム１０ｂは、個別環境制御システム１０ｃとは別にサーバ装置５００を備えていなくてもよい。この場合、複数の個別環境制御システム１０ｃのそれぞれは、互いに通信可能に接続されており、入力情報、評価情報及び学習結果の少なくとも一つを相互に通信する。そして、更新部１８０は、他の個別環境制御システム１０ｃから取得した入力情報、及び、学習結果の少なくとも一つに基づいて、行動価値関数を更新する。
【０１１６】
［効果など］
以上説明したように、環境制御システム１０ｂは、第１取得部１１０、決定部１２０、制御部１３０、第２取得部１５０、及び、更新部１８０を有する個別環境制御システム１０ｃを複数備える。複数の個別環境制御システム１０ｃのそれぞれは、互いに通信可能に接続されており、入力情報及び学習結果の少なくとも一つを相互に通信する。そして、更新部１８０は、他の個別環境制御システム１０ｃから取得した入力情報及び学習結果の少なくとも一つに基づいて、制御内容決定ルールを更新する。
【０１１７】
このような環境制御システム１０ｂにおいて、更新部１８０は、他の個別環境制御システム１０ｃが取得した入力情報等に基づいて、自装置の行動価値関数を更新することができる。よって、自装置における学習の精度が向上し、より適切な行動価値関数を得ることができる。
【０１１８】
また、環境制御システム１０ｂは、複数の個別環境制御システム１０ｃと、複数の個別環境制御システム１０ｃのそれぞれと通信可能に接続されたサーバ装置５００とを備える。
【０１１９】
このような環境制御システム１０ｂは、入力情報、評価情報、及び、学習結果の少なくとも１つを集中管理することができる。また、サーバ装置５００が学習部を備えている場合、複数の個別環境制御システム１０ｃのそれぞれから取得した入力情報及び評価情報等に基づいて、機械学習によって行動価値関数を更新することが可能となる。それゆえ、学習の精度が向上し、さらに適切な行動価値関数を得ることができる。なお、この場合、サーバ装置５００は、制御装置１００より高速で処理が行えるプロセッサ等を備えているとよい。
【０１２０】
（その他の実施の形態）
以上、実施の形態について説明したが、本発明は、上記実施の形態に限定されるものではない。
【０１２１】
例えば、上記実施の形態において、環境制御システムは複数パターンの制御内容をユーザへの推薦パターンとして決定し、ユーザは入力装置を用いて複数パターンの制御内容の中から１つを選択してもよい。この場合、環境制御システムは、選択された制御内容の制御を実行する。
【０１２２】
また、上記実施の形態では、覚醒制御における環境制御機器の制御内容を決定するために睡眠制御の制御パラメータ（つまり、制御内容）が入力情報として用いられる例について説明された。しかしながら、これとは逆に、睡眠制御における環境制御機器の制御内容を決定するために覚醒制御の制御パラメータ（つまり、制御内容）が入力情報として用いられてもよい。
【０１２３】
また、上記実施の形態において、覚醒制御が行われる場所については特に限定されない。覚醒制御は、例えば、オフィスの仮眠室で行われるが、住宅、医療施設、または、介護施設などで行われてもよい。
【０１２４】
また、上記実施の形態では、環境制御システムは複数の装置によって実現されたが、単一の装置として実現されてもよい。環境制御システムが複数の装置によって実現される場合に、上記実施の形態で説明された構成要素は、複数の装置にどのように振り分けられてもよい。また、環境制御システムは、クライアントサーバシステムとして実現されてもよい。
【０１２５】
また、上記実施の形態において装置間の通信方法については特に限定されるものではない。装置間で行われる通信は、例えば、特定小電力無線、ＺｉｇＢｅｅ（登録商標）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、または、Ｗｉ−Ｆｉ（登録商標）などの通信規格を用いた無線通信であるが、有線通信であってもよい。また、装置間の通信においては、図示されない中継装置が介在してもよい。
【０１２６】
また、上記実施の形態において、特定の処理部が実行する処理を別の処理部が実行してもよい。また、複数の処理の順序が変更されてもよいし、複数の処理が並行して実行されてもよい。
【０１２７】
また、上記実施の形態において、各構成要素は、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【０１２８】
また、各構成要素は、ハードウェアによって実現されてもよい。例えば、各構成要素は、回路（または集積回路）でもよい。これらの回路は、全体として１つの回路を構成してもよいし、それぞれ別々の回路でもよい。また、これらの回路は、それぞれ、汎用的な回路でもよいし、専用の回路でもよい。
【０１２９】
また、本発明の全般的または具体的な態様は、システム、装置、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよい。また、システム、装置、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。例えば、本発明は、上記実施の形態に係る制御装置として実現されてもよい。また、本発明は、上記実施の形態に係る環境制御方法をコンピュータに実行させるためのプログラムとして実現されてもよいし、このようなプログラムが記録されたコンピュータ読み取り可能な非一時的な記録媒体として実現されてもよい。
【０１３０】
その他、各実施の形態に対して当業者が思いつく各種変形を施して得られる形態、または、本発明の趣旨を逸脱しない範囲で各実施の形態における構成要素及び機能を任意に組み合わせることで実現される形態も本発明に含まれる。
【符号の説明】
【０１３１】
１０、１０ｂ    環境制御システム
１０ｃ    個別環境制御システム
１１０    第１取得部
１２０    決定部
１３０    制御部
１５０    第２取得部
１６０    報酬算出部
１７０    報酬条件設定部
１８０    更新部
１９０    記憶部
４００    環境制御機器
５００    サーバ装置
【図１】
2020103496.tif 000004
【図２】
2020103496.tif 000005
【図３】
2020103496.tif 000006
【図４】
2020103496.tif 000007
【図５】
2020103496.tif 000008
【図６】
2020103496.tif 000009
【図７】
2020103496.tif 000010
【図８】
2020103496.tif 000011
【図９】
2020103496.tif 000012
【図１０】
2020103496.tif 000013
【図１１】
2020103496.tif 000014
【図１２】
2020103496.tif 000015
【図１３】
2020103496.tif 000016