(57)【要約】【課題】個々のユーザに適応した快眠支援を実現することができる快眠支援装置を提供する。【解決手段】快眠支援装置１００は、第１屋内環境情報を取得する第１取得部１１０と、（i）制御内容決定ルールに従って、快眠支援のための屋内環境制御を行う機器５００の制御内容を第１屋内環境情報から決定する、又は（ii）ランダムに機器５００の制御内容を決定する決定部１２０と、制御内容を出力する出力部１３０と、屋内におけるユーザの快適さを示す快適性情報を取得する第２取得部１４０と、第１屋内環境情報及び快適性情報に基づいて、制御内容決定ルールを更新する更新部１５０と、を備え、決定部１２０は、確率εで（ii）の決定を選択する。【選択図】図１
2018138137.tif 000002
【特許請求の範囲】
【請求項１】
第１屋内環境情報を取得する第１取得部と、
（i）制御内容決定ルールに従って、快眠のための機器の制御内容を前記第１屋内環境情報から決定する、又は（ii）ランダムに前記機器の制御内容を決定する決定部と、
決定された前記制御内容を出力する出力部と、
睡眠に対するユーザの快適さを示す快適性情報を取得する第２取得部と、
前記第１屋内環境情報及び前記快適性情報に基づいて、前記制御内容決定ルールを更新する更新部と、を備え、
前記決定部は、確率εで前記（ii）の決定を選択する、
快眠支援装置。
【請求項２】
前記制御内容決定ルールは、屋内環境情報から複数の制御内容の各々の価値を推定するためのニューラルネットワークで表され、
前記更新部は、前記快適性情報に基づく値を報酬として用いて前記複数の制御内容の価値を更新し、更新された前記価値に基づいて前記ニューラルネットワークのパラメータを更新する、
請求項１に記載の快眠支援装置。
【請求項３】
前記第２取得部は、音声認識により所定のキーワードの発言を検出することにより前記快適性情報を取得する、
請求項１又は２に記載の快眠支援装置。
【請求項４】
前記決定部は、前記（ii）の決定において、複数の制御内容の各々に対してユーザが制御内容の変化に気付くことの難しさを示す気付き困難度が対応付けられた気付き困難度情報を参照して、前記気付き困難度が所定の条件を満たす１以上の制御内容の中からランダムに前記制御内容を決定する、
請求項１〜３のいずれか１項に記載の快眠支援装置。
【請求項５】
前記快眠支援装置は、さらに、前記ユーザが制御内容の変化に気付いたかどうかを検知する検知部を備え、
前記更新部は、前記（ii）の決定が選択された場合に、さらに、前記検知部による検知結果に基づいて、前記気付き困難度情報を更新する、
請求項４に記載の快眠支援装置。
【請求項６】
第１屋内環境情報を取得する第１取得ステップと、
（i）制御内容決定ルールに従って、快眠支援のための機器の制御内容を前記第１屋内環境情報から決定する、又は（ii）ランダムに前記機器の制御内容を決定する決定ステップと、
決定された前記制御内容を出力する出力ステップと、
屋内におけるユーザの快適さを示す快適性情報を取得する第２取得ステップと、
前記第１屋内環境情報及び前記快適性情報に基づいて、前記制御内容決定ルールを更新する更新ステップと、を含み、
前記決定ステップでは、確率εで前記（ii）の決定を選択する、
快眠支援方法。
【請求項７】
請求項６に記載の快眠支援方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、快眠のための機器の制御内容を決定する快眠支援装置及び快眠支援方法に関する。
【背景技術】
【０００２】
従来、ユーザが快適に睡眠及び起床できるように、映像、音楽、香りなどを出力する各種機器を制御するシステムが提案されている（例えば、特許文献１を参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００５−３３４２８３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、従来技術では、予め定められたタイムスケジュール等に基づいて機器が制御されるため、あるユーザに対しては快適な睡眠及び起床を提供できたとしても、別のユーザには不快な睡眠及び起床しか提供できない場合がある。つまり、従来技術では、個々のユーザに適応した快眠支援を実現することが難しい。
【０００５】
そこで、本発明は、個々のユーザに適応した快眠支援を実現することができる快眠支援装置及び快眠支援方法を提供する。
【課題を解決するための手段】
【０００６】
本発明の一態様に係る快眠支援装置は、第１屋内環境情報を取得する第１取得部と、（i）制御内容決定ルールに従って、快眠支援のための機器の制御内容を前記第１屋内環境情報から決定する、又は（ii）ランダムに前記機器の制御内容を決定する決定部と、決定された前記制御内容を出力する出力部と、睡眠に対するユーザの快適さを示す快適性情報を取得する第２取得部と、前記第１屋内環境情報及び前記快適性情報に基づいて、前記制御内容決定ルールを更新する更新部と、を備え、前記決定部は、確率εで前記（ii）の決定を選択する。
【０００７】
本発明の一態様に係る快眠支援方法は、第１屋内環境情報を取得する第１取得ステップと、（i）制御内容決定ルールに従って、快眠のための機器の制御内容を前記第１屋内環境情報から決定する、又は（ii）ランダムに前記機器の制御内容を決定する決定ステップと、決定された前記制御内容を出力する出力ステップと、睡眠に対するユーザの快適さを示す快適性情報を取得する第２取得ステップと、前記第１屋内環境情報及び前記快適性情報に基づいて、前記制御内容決定ルールを更新する更新ステップと、を含み、前記決定ステップでは、確率εで前記（ii）の決定を選択する。
【０００８】
なお、これらの包括的又は具体的な態様は、システム、集積回路、コンピュータプログラム又はコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【０００９】
本発明の一態様に係る快眠支援装置は、個々のユーザに適応した快眠支援を実現することができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施の形態１に係る快眠支援システムの構成を示すブロック図である。
【図２】図２は、実施の形態１に係る快眠支援装置におけるニューラルネットワークの一例を示す概念図である。
【図３】図３は、実施の形態１における複数の制御内容の具体例を示す図である。
【図４】図４は、実施の形態１に係る快眠支援装置の処理を示すフローチャートである。
【図５】図５は、実施の形態１に係る快適性情報の入力のためのグラフィカルユーザーインターフェースの一例を示す図である。
【図６】図６は、実施の形態２に係る快眠支援装置の機能構成を示すブロック図である。
【図７】図７は、実施の形態２における複数の制御内容及び気付き困難度情報の具体例を示す図である。
【図８】図８は、実施の形態２に係る快眠支援装置の処理を示すフローチャートである。
【発明を実施するための形態】
【００１１】
以下、実施の形態について、図面を参照しながら具体的に説明する。
【００１２】
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、請求の範囲を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【００１３】
また、各図は、模式図であり、必ずしも厳密に図示されたものではない。また、各図において、同一又は類似の構成部及び処理ステップについては同じ符号を付している。
【００１４】
（実施の形態１）
［快眠支援システムの構成］
まず、快眠支援システムの全体構成について説明する。図１は、実施の形態１に係る快眠支援システム１０の構成を示すブロック図である。本実施の形態に係る快眠支援システム１０は、快眠支援装置１００と、センサ２００と、入力装置３００と、制御装置４００と、機器５００と、を備える。
【００１５】
快眠支援装置１００は、機器５００のための制御内容を決定し、その制御内容を制御装置４００に出力する。この快眠支援装置１００の詳細については後述する。
【００１６】
センサ２００は、屋内環境を検知し、検知結果を屋内環境情報として出力する。屋内環境情報とは、区画された空間内の環境の情報である。具体的には、屋内環境情報は、例えば、機器５００によって制御される屋内の温度、湿度又は気流などに関する情報である。
【００１７】
入力装置３００は、ユーザから屋内の快適さを示す快適性情報の入力を受ける。例えば、入力装置３００は、スマートフォン及びタブレットコンピュータであり、タッチディスプレイを介して快適性情報の入力を受ける。また例えば、入力装置３００は、マイクロフォンであってもよい。この場合、入力装置３００は、ユーザから音声入力を受ける。また例えば、入力装置３００は、機械式のプッシュボタン、キーボード、又はマウスなどであってもよい。
【００１８】
制御装置４００は、快眠支援装置１００から出力された制御内容に基づいて機器５００を制御する。具体的には、制御装置４００は、制御内容に対応する制御信号を機器５００に送信する。なお、制御装置４００は、機器５００に内蔵されてもよい。
【００１９】
機器５００は、快眠支援のための機器である。例えば、機器５００は、屋内の環境を制御する。また例えば、機器５００は、ユーザに刺激を与えてもよい。刺激とは、光、音、匂い、触感などである。具体的には、機器５００は、例えばエアコン、空気清浄機、換気扇、扇風機又は床暖房を含む。また例えば、機器５００は、照明機器を含んでもよい。また例えば、機器５００は、窓を開閉可能に覆う遮光設備（例えばブラインド及びカーテンなど）の開閉機器を含んでもよい。また例えば、機器５００は、映像機器、音響機器又は映像音響機器を含んでもよい。また例えば、機器５００は、芳香器を含んでもよい。また例えば、機器５００は、マッサージ器を含んでもよい。本実施の形態では、機器５００が複数種類の機器を含む場合について説明するが、機器５００は、単一の機器であってもよい。
【００２０】
［快眠支援装置の構成］
次に、快眠支援装置１００の詳細な構成について説明する。図１に示すように、快眠支援装置１００は、第１取得部１１０と、決定部１２０と、出力部１３０と、第２取得部１４０と、更新部１５０と、を備える。
【００２１】
快眠支援装置１００は、例えば、プロセッサ及びメモリにより実現される。例えば、メモリに格納されたソフトウェアプログラムをプロセッサが実行したときに、プロセッサが、第１取得部１１０、決定部１２０、出力部１３０、第２取得部１４０、及び更新部１５０として機能する。また、快眠支援装置１００は、第１取得部１１０、決定部１２０、出力部１３０、第２取得部１４０、及び更新部１５０に対応する専用の１以上の電子回路として実現されてもよい。
【００２２】
第１取得部１１０は、センサ２００から屋内環境情報（第１屋内環境情報）を取得する。例えば、第１取得部１１０は、センサ２００の出力信号を処理することにより屋内環境情報を取得する。
【００２３】
決定部１２０は、（i）制御内容決定ルールに従って、屋内環境情報から機器５００の制御内容を決定する、又は、（ii）ランダムに機器５００の制御内容を決定する。つまり、決定部１２０は、（i）の決定及び（ii）の決定を含む複数の決定の中から１つの決定を選択的に実行する。このとき、決定部１２０は、確率εで（ii）の決定を選択する。εは、０より大きく１より小さい予め定められた値である。例えば、決定部１２０は、１−εの確率で（i）の決定を選択し、εの確率で（ii）の決定を選択する。
【００２４】
制御内容決定ルールは、例えば、屋内環境情報から複数の制御内容の各々の価値を推定するためのニューラルネットワークで表される。制御内容決定ルールは、図示しない記憶部に記憶されている。ニューラルネットワークの詳細については図２を用いて後述する。
【００２５】
出力部１３０は、決定部１２０によって決定された制御内容を出力する。ここでは、出力部１３０は、制御装置４００に制御内容を出力する。
【００２６】
第２取得部１４０は、睡眠に対するユーザの快適さを示す快適性情報を取得する。この快適性情報は、入力装置３００を介してユーザから入力された情報を含む。例えば、第２取得部１４０は、ユーザによって入力された睡眠の快適性を示す値を入力装置３００から取得する。
【００２７】
また例えば、第２取得部１４０は、入力装置３００から音声信号を受信し、音声認識により所定のキーワードの発言を検出することにより快適性情報を取得してもよい。所定のキーワードは、睡眠に対するユーザの快適性を示す予め定められたキーワードである。例えば、所定のキーワードは、「快適」あるいは「不快」などである。
【００２８】
更新部１５０は、第１取得部１１０によって取得された屋内環境情報と、第２取得部１４０によって取得された快適性情報とに基づいて、決定部１２０で用いられる制御内容決定ルールを更新する。具体的には、更新部１５０は、快適性情報に基づく値を報酬として用いて複数の制御内容の価値を更新する。そして、更新部１５０は、更新された価値に基づいてニューラルネットワークのパラメータ（例えば重みｗ）を更新する。つまり、更新部１５０は、複数の制御内容の価値に基づいた強化学習により、ユーザに適応した制御内容の決定を学習する。
【００２９】
［ニューラルネットワークの説明］
ここで、本実施の形態におけるニューラルネットワークについて図２を参照しながら説明する。図２は、実施の形態１に係る快眠支援装置１００におけるニューラルネットワークの一例を示す概念図である。このニューラルネットワークは、多階層の人工ニューラルネットワークであり、屋内環境情報が示す環境ｓにおける複数の制御内容ａｉ（ｉ＝１〜ｎ）の価値Ｑａｉを推定するための数学モデルである。
【００３０】
［制御内容の具体例］
図３は、実施の形態１における複数の制御内容の具体例を示す図である。ここでは、機器５００がエアコン、照明装置及び音響装置を含む場合について説明する。
【００３１】
複数の制御内容ａ１〜ａｎは、複数の機器の複数の制御内容を含む複数の制御内容セットである。例えば、制御内容ａ１は、エアコンの風力「弱」、エアコンの目標温度「摂氏２５度」、照明装置の明るさ「２５％」及び音響装置のボリューム「５％」を含む。このような複数の制御内容ａ１〜ａｎの各々の環境ｓにおける価値がニューラルネットワークによって推定される。
【００３２】
［快眠支援装置の動作］
次に、以上のように構成された快眠支援装置１００の動作について図４及び図５を参照しながら説明する。
【００３３】
図４は、実施の形態１に係る快眠支援装置１００の処理を示すフローチャートである。この処理は、例えば、予め定められた時間間隔で周期的に実行される。また例えば、この処理は、予め定められたタイムスケジュールに従って実行されてもよいし、ユーザからの指示に基づいて実行されてもよい。
【００３４】
まず、第１取得部１１０は、屋内環境情報を取得する（Ｓ１１０）。決定部１２０は、ニューラルネットワークに基づいて、屋内環境情報から各制御内容の価値を推定する（Ｓ１２０）。
【００３５】
続いて、決定部１２０は、確率εを用いて分岐処理を行う（Ｓ１３０）。ここでは、決定部１２０は、１−εの確率で（i）の決定を選択し、εの確率で（ii）の決定を選択する。
【００３６】
ここで、（ii）の決定が選択された場合（Ｓ１３０のε）、決定部１２０は、ランダムに制御内容を決定する（Ｓ１４０）。つまり、決定部１２０は、複数の制御内容の中からランダムに制御内容を選択する。言い換えると、決定部１２０は、ニューラルネットワークに基づいて推定される価値に依存せずに制御内容を決定する。
【００３７】
一方、（i）の決定が選択された場合（Ｓ１３０の１−ε）、決定部１２０は、推定された価値に基づいて制御内容を決定する（Ｓ１５０）。例えば、決定部１２０は、複数の制御内容の中から最も高い価値を有する制御内容を選択する。
【００３８】
出力部１３０は、ステップＳ１４０又はステップＳ１５０で決定された制御内容を出力する（Ｓ１６０）。これにより、決定された制御内容に基づいて機器５００が制御される。
【００３９】
その後、第２取得部１４０は、快適性情報を取得する（Ｓ１７０）。例えば、入力装置３００がディスプレイを有する場合、第２取得部１４０は、図５に示すようなグラフィカルユーザーインターフェース（ＧＵＩ）を介して、睡眠に対するユーザの快適性を示す値を取得する。なお、図５のＧＵＩでは、スライダーを用いて快適性の値が入力されるが、これに限定される必要はない。ＧＵＩは、数値が直接入力されるテキストボックスを含んでもよいし、数値増加／減少ボタンを含んでもよいし、これらの組合せを含んでもよい。
【００４０】
続いて、更新部１５０は、屋内環境情報及び快適性情報に基づいて、複数の制御内容の価値を更新する（Ｓ１８０）。このとき、快適性情報に基づく値が強化学習における報酬として用いられる。快適性情報に基づく値とは、快適性を示す値であり、例えば、快適性が高いほど増加する値である。
【００４１】
さらに、更新部１５０は、更新された価値に基づいてニューラルネットワークのパラメータを更新する（Ｓ１９０）。つまり、更新部１５０は、更新された各制御内容の価値を教師信号として入力することにより、複数階層のニューラルネットワークのパラメータを学習する。
【００４２】
このようなステップＳ１８０及びステップＳ１９０の処理が内部的に繰り返されることにより、いわゆる深層強化学習が行われる。なお、深層強化学習については、特に限定される必要はなく、従来技術が用いられてもよい。したがって、深層強化学習の詳細な説明については省略する。
【００４３】
なお、快適性情報の取得は、制御内容の決定のたびに行われなくてもよい。つまり、ステップＳ１７０はスキップされてもよい。この場合、更新部１５０は、予め定められた値（例えば０）を報酬として用いて各制御内容の価値を学習してもよい。
【００４４】
［効果］
以上のように、本実施の形態に係る快眠支援装置１００は、第１屋内環境情報を取得する第１取得部１１０と、（i）制御内容決定ルールに従って、快眠支援のための機器５００の制御内容を第１屋内環境情報から決定する、又は（ii）ランダムに機器５００の制御内容を決定する決定部１２０と、決定された制御内容を出力する出力部１３０と、屋内におけるユーザの快適さを示す快適性情報を取得する第２取得部１４０と、第１屋内環境情報及び快適性情報に基づいて、制御内容決定ルールを更新する更新部１５０と、を備え、決定部１２０は、確率εで（ii）の決定を選択する。
【００４５】
この構成により、更新部１５０は、快適性情報に基づいて制御内容決定ルールを更新することができる。したがって、快眠支援装置１００は、睡眠に対するユーザの快適性の向上に適した制御内容決定ルールを学習することができ、個々のユーザに適応した快眠支援を実現することができる。さらに、決定部１２０は、確率εでランダムな決定を選択するので、現在の制御内容決定ルールに縛られることなく、最適な制御内容を探査することができる。つまり、快眠支援装置１００は、探査と学習結果の利用とのバランスを図ることができ、制御内容決定ルールを効果的に更新することができる。
【００４６】
また、本実施の形態に係る快眠支援装置１００において、制御内容決定ルールは、屋内環境情報から複数の制御内容の各々の価値を推定するためのニューラルネットワークで表され、更新部１５０は、快適性情報に基づく値を報酬として用いて複数の制御内容の価値を更新し、更新された価値に基づいてニューラルネットワークのパラメータを更新する。
【００４７】
この構成により、いわゆる深層強化学習を快眠支援装置１００に適用することができ、快眠支援装置１００は、よりユーザに適した制御内容決定ルールを構築することができる。その結果、快眠支援装置１００は、個々のユーザに適した快眠支援を実現することができる。
【００４８】
また、本実施の形態に係る快眠支援装置１００において、第２取得部１４０は、音声認識により所定のキーワードの発言を検出することにより快適性情報を取得してもよい。
【００４９】
この構成により、快眠支援装置１００は、ユーザの快適性情報の入力の負荷を軽減することができ、ユーザの利便性を向上させることができる。
【００５０】
（実施の形態２）
次に、実施の形態２について説明する。実施の形態２では、ユーザが制御内容の変化に気付くことの難しさを示す気付き困難度に基づいて複数の制御内容の中から１以上の制御内容を抽出し、抽出された１以上の制御内容の中からランダムに制御内容が決定される点が上記実施の形態１と主として異なる。以下に、実施の形態１と異なる点を中心に実施の形態２について説明する。
【００５１】
［快眠支援装置の構成］
実施の形態２に係る快眠支援装置の詳細な構成について説明する。図６は、実施の形態２に係る快眠支援装置１００Ａの機能構成を示すブロック図である。図６に示すように、快眠支援装置１００Ａは、第１取得部１１０と、決定部１２０Ａと、出力部１３０と、第２取得部１４０と、更新部１５０Ａと、検知部１６０Ａと、を備える。
【００５２】
決定部１２０Ａは、（i）制御内容決定ルールに従って、快眠支援のための機器の制御内容を屋内環境情報から決定する、又は（ii）ランダムに制御内容を決定する。ここで、（ii）の場合に、決定部１２０Ａは、気付き困難度情報を参照して、気付き困難度が所定の条件を満たす１以上の制御内容の中からランダムに制御内容を決定する。
【００５３】
気付き困難度情報とは、複数の制御内容の各々に対して気付き困難度が対応付けられた情報である。気付き困難度は、ユーザが制御内容の変化に気付くことの難しさを示す値である。例えば、気付き困難度情報は、複数の制御内容の各々に対してユーザの気付き難さを表す値が対応付けられたテーブルである。気付き困難度情報は、図示しない記憶部に記憶されている。
【００５４】
所定の条件は、ユーザがその変化に気付き難い制御内容を決定するための条件である。例えば、所定の条件は、気付き困難度の値が予め定められた閾値より大きいことである。
【００５５】
例えば、決定部１２０Ａは、気付き困難度情報を参照して、複数の制御内容の中から、閾値より大きい気付き困難度の値を有する１以上の制御内容を抽出する。そして、決定部１２０Ａは、抽出された１以上の制御内容からランダムに制御内容を決定する。
【００５６】
図７は、実施の形態２における複数の制御内容及び気付き困難度情報の具体例を示す図である。図７では、各制御内容は、前回の制御内容に対する相対的な値（変化量）で定義されている。例えば、制御内容ａ２は、エアコンの風力が「変化なし」であり、エアコンの目標温度が「変化なし」であり、照明装置の明るさが「５％減少」であり、音響装置のボリュームが「変化なし」であることを示す。そして、この制御内容ａ２の気付き困難度は「８０」である。
【００５７】
検知部１６０Ａは、ユーザが制御内容の変化に気付いたかどうかを検知する。つまり、検知部１６０Ａは、ランダムに制御内容が決定された場合に、その決定による制御内容の変化に対してユーザが気付いたか否かを決定する。例えば、ユーザが目覚めて、手動で制御内容の変更を指示した場合に、検知部１６０Ａは、ユーザが制御内容の変化に気付いたと検知する。ユーザの手動による制御内容の指示は、ユーザが睡眠に対して不快感を覚えていることを間接的に示す。したがって、検知部１６０Ａは、ランダムに制御内容を決定することでユーザに不快感を与えているかどうかを検知することができる。
【００５８】
更新部１５０Ａは、実施の形態１と同様に、屋内環境情報と快適性情報とに基づいて、制御内容決定ルールを更新する。本実施の形態に係る更新部１５０Ａは、さらに、ランダムに制御内容が決定された場合に、検知部１６０Ａによる検知結果に基づいて、気付き困難度情報を更新する。例えば、ユーザが制御内容の変化に気付いたと検知された場合に、更新部１５０Ａは、決定された制御内容の気付き困難度の値を減少させる。逆に、例えばユーザが制御内容の変化に気付いたと検知されなかった場合に、更新部１５０Ａは、決定された制御内容の気付き困難度の値を増加させる。
【００５９】
［快眠支援装置の動作］
次に、以上のように構成された快眠支援装置１００Ａの動作について図８を参照しながら説明する。図８は、実施の形態２に係る快眠支援装置１００Ａの処理を示すフローチャートである。
【００６０】
ステップＳ１３０において（ii）の決定が選択された場合（Ｓ１３０のε）、決定部１２０Ａは、気付き困難度情報に基づいて、複数の制御内容の中から１以上の制御内容を抽出する（Ｓ１３２Ａ）。例えば、決定部１２０Ａは、図７の気付き困難度情報を参照して、複数の制御内容ａ１〜ａｎの中から、予め定められた閾値（例えば５０）より大きい気付き困難度の値を有する制御内容（例えばａ１、ａ２）を抽出する。
【００６１】
そして、決定部１２０Ａは、抽出された制御内容の中からランダムに制御内容を決定する（Ｓ１４０Ａ）。
【００６２】
その後、ステップＳ１６０〜Ｓ１９０が実行され、ランダムに制御内容が決定されていない場合は（Ｓ１９２ＡのＮｏ）、そのまま処理を終了する。一方、ランダムに制御内容が決定されていた場合は（Ｓ１９２ＡのＹｅｓ）、検知部１６０Ａは、ユーザが制御内容の変化に気付いたかどうかを検知する（Ｓ１９４Ａ）。更新部１５０Ａは、検知部１６０Ａによる検知結果に基づいて気付き困難度情報を更新する（Ｓ１９６Ａ）。
【００６３】
［効果］
以上のように、本実施の形態に係る快眠支援装置１００Ａにおいて、決定部１２０Ａは、ランダムな決定において、複数の制御内容の各々に対してユーザが制御内容の変化に気付くことの難しさを示す気付き困難度が対応付けられた気付き困難度情報を参照して、気付き困難度が所定の条件を満たす１以上の制御内容の中からランダムに制御内容を決定する。
【００６４】
この構成により、決定部１２０Ａは、ランダムに制御内容を決定したときに、ユーザが制御内容の変化に気付く可能性を低減させることができる。つまり、決定部１２０Ａは、ランダムな決定において、ユーザに不快感を与える制御内容が決定されることを抑制することができる。
【００６５】
また、本実施の形態に係る快眠支援装置１００Ａは、さらに、ユーザが制御内容の変化に気付いたかどうかを検知する検知部１６０Ａを備え、更新部１５０Ａは、ランダムに制御内容が決定された場合に、さらに、検知部１６０Ａによる検知結果に基づいて、気付き困難度情報を更新する。
【００６６】
この構成により、更新部１５０Ａは、ユーザが制御内容の変化に気付いたかどうかの検知結果に基づいて気付き困難情報を更新することができ、気付き困難情報の改良を図ることができる。したがって、決定部１２０Ａは、ランダムな決定において、ユーザに不快感を与える制御内容が決定されることをさらに抑制することができる。
【００６７】
（他の実施の形態）
以上、本発明の１つまたは複数の態様に係る快眠支援装置について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本発明の１つまたは複数の態様の範囲内に含まれてもよい。
【００６８】
なお、上記各実施の形態では、第１取得部１１０は、屋内環境情報を取得していたが、さらにユーザに関する情報を取得してもよい。ユーザに関する情報は、例えば、ユーザの生体情報（例えば脳波及び心拍数など）、画像情報及び音声情報である。この場合、決定部は、（i）の決定において、屋内環境情報及びユーザに関する情報から機器の制御内容を決定してもよい。
【００６９】
なお、上記各実施の形態では、第２取得部１４０は、入力装置３００から受信した情報に基づいて快適性情報を取得していたが、入力装置３００だけではなくセンサ２００から受信した情報にも基づいて、快適性情報を取得してもよい。例えば、第２取得部１４０は、センサ２００から受信した情報を用いて、入力装置３００から受信した情報を修正することにより快適性情報を取得してもよい。具体的には、第２取得部１４０は、ユーザの表情、脳波又は心拍数に基づいて、入力装置３００から受信した情報を修正してもよい。この場合、センサ２００は、画像センサ、脳波センサ、又は、心拍センサを含めばよい。
【００７０】
なお、上記各実施の形態では、深層強化学習を利用して、ユーザに適応した制御内容の決定を学習していたが、深層強化学習に限定されなくてもよい。例えば、制御内容決定ルールは、多階層のニューラルネットワークではなく、単階層のニューラルネットワークで表されてもよい。また、制御内容決定ルールは、ニューラルネットワークではなく、他の数学モデル（例えば、線形回帰、サポートベクタマシンなど）で表されてもよい。
【００７１】
なお、上記各実施の形態では、主として２つの決定（（i）制御内容決定ルールに従って、屋内環境情報から機器５００の制御内容を決定する、又は、（ii）ランダムに機器５００の制御内容を決定する）について説明したが、必ずしも２つの決定に限定される必要はない。例えば、３以上の決定の中から１つの決定が選択されてもよい。つまり、決定部は、（i）の決定及び（ii）の決定を含む複数の決定のうちのいずれかを選択的に実行すればよく、このとき、（ii）の決定が確率εで選択されればよい。
【００７２】
なお、上記各実施の形態では、快眠支援装置は、単一の装置で実現されていたが、互いに接続された複数の装置で実現されてもよい。例えば、快眠支援装置は、クラウドコンピューティングによって実現されてもよい。
【００７３】
なお、上記実施の形態２では、気付き困難度情報が更新されていたが、必ずしも気付き困難度情報は更新されなくてもよい。この場合、快眠支援装置１００Ａは検知部１６０Ａを備えなくてもよい。
【００７４】
また、上記各実施の形態における快眠支援装置が備える構成要素の一部又は全部は、１個のシステムＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ：大規模集積回路）から構成されているとしてもよい。例えば、快眠支援装置１００は、第１取得部１１０と、決定部１２０と、出力部１３０と、第２取得部１４０と、更新部１５０とを有するシステムＬＳＩから構成されてもよい。
【００７５】
システムＬＳＩは、複数の構成部を１個のチップ上に集積して製造された超多機能ＬＳＩであり、具体的には、マイクロプロセッサ、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）などを含んで構成されるコンピュータシステムである。前記ＲＯＭには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、システムＬＳＩは、その機能を達成する。
【００７６】
なお、ここでは、システムＬＳＩとしたが、集積度の違いにより、ＩＣ、ＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、あるいはＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【００７７】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてありえる。
【００７８】
また、本発明の一態様は、このような快眠支援装置だけではなく、快眠支援装置に含まれる特徴的な構成部をステップとする快眠支援方法であってもよい。また、本発明の一態様は、快眠支援方法に含まれる特徴的な各ステップをコンピュータに実行させるコンピュータプログラムであってもよい。また、本発明の一態様は、そのようなコンピュータプログラムが記録された、コンピュータ読み取り可能な非一時的な記録媒体であってもよい。
【００７９】
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の快眠支援装置などを実現するソフトウェアは、次のようなプログラムである。
【００８０】
すなわち、このプログラムは、コンピュータに、第１屋内環境情報を取得する第１取得ステップと、（i）制御内容決定ルールに従って、快眠支援のための機器の制御内容を前記第１屋内環境情報から決定する、又は（ii）ランダムに機器の制御内容を決定する決定ステップと、決定された前記制御内容を出力する出力ステップと、睡眠に対するユーザの快適さを示す快適性情報を取得する第２取得ステップと、前記第１屋内環境情報及び前記快適性情報に基づいて、前記制御内容決定ルールを更新する更新ステップと、を含む快眠支援方法を実行させ、前記決定ステップでは、確率εで前記（ii）の決定を選択する。
【符号の説明】
【００８１】
１００、１００Ａ  快眠支援装置
１１０  第１取得部
１２０、１２０Ａ  決定部
１３０  出力部
１４０  第２取得部
１５０、１５０Ａ  更新部
１６０Ａ  検知部
【図１】
2018138137.tif 000003
【図２】
2018138137.tif 000004
【図３】
2018138137.tif 000005
【図４】
2018138137.tif 000006
【図５】
2018138137.tif 000007
【図６】
2018138137.tif 000008
【図７】
2018138137.tif 000009
【図８】
2018138137.tif 000010