(57)【要約】      （修正有）【課題】認知機能障害の病態を非侵襲的・簡易的・定量的に評価することができる、認知機能障害の病態診断システムを提供する。【解決手段】被験者が強化学習型タスクを行うための器具若しくは機器、時刻ｔにおける器具若しくは機器の状態ｓtを観測する手段、時刻ｔにおいて被験者の行動ａtを観測する手段、時刻ｔにおいて被験者に与えられた報酬ｒtを観測する手段、観測された、状態ｓt、行動ａtおよび報酬ｒtに関するデータを記録する手段、および記録されたデータから強化学習アルゴリズムのパラメータを数値計算によって決定する手段を具える認知機能障害の病態診断システム。【選択図】図１
2017221307.tif 000002
【特許請求の範囲】
【請求項１】
被験者が強化学習型タスクを行うための器具若しくは機器、
時刻ｔにおける器具若しくは機器の状態ｓtを観測する手段、
時刻ｔにおいて被験者が選択した行動ａtを観測する手段、
時刻ｔにおいて被験者に与えられた報酬ｒtを観測する手段、
観測された状態ｓt、行動ａtおよび報酬ｒtに関するデータを記録する手段、および
記録されたデータから強化学習アルゴリズムのパラメータを決定する手段を具える
認知機能障害の病態診断システム。
【請求項２】
強化学習型タスクが、
ブロックを置くことが許された３つの箇所のいずれか一ヶ所以上に、大きさの異なる複数のブロックが積み上げられている状態から、
(1)ブロックを一度に一個しか移動させることができない。
(2)小さなブロックの上に大きなブロックを置くことができない。
(3)上記３つの箇所以外の所にブロックを置くことができない。
という制約のもとで、
全てのブロックが所定の１つの箇所に積み上げられている状態にすることである、請求項１に記載の認知機能障害の病態診断システム。
【請求項３】
被験者に与えられた報酬ｒtが、強化学習型タスクのゴールに近づいているか否かである、請求項１または２に記載の認知機能障害の病態診断システム。
【請求項４】
強化学習型タスクを遂行中の被験者の神経活動を観測する手段を具備する、請求項１〜３のいずれかひとつに記載の認知機能障害の病態診断システム。
【請求項５】
強化学習アルゴリズムがＱ学習アルゴリズムである、請求項１〜４のいずれかひとつに記載の認知機能障害の病態診断システム。
【請求項６】
強化学習アルゴリズムのパラメータが、学習率α、探索ノイズβ、および割引率γから選択される少なくとも一つである、請求項１〜５のいずれかひとつに記載の認知機能障害の病態診断システム。
【請求項７】
被験者に強化学習型タスクを行わせ、
時刻ｔにおける、状態ｓtと被験者が選択した行動ａtと被験者に与えられた報酬ｒtを観測し、
時刻ｔにおいて観測された、状態ｓtと被験者が選択した行動ａtと被験者に与えられた報酬ｒtに関するデータを記録し、
記録されたデータから強化学習アルゴリズムのパラメータを決定することを含む、
認知機能障害の病態診断のためのパラメータの算出方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、認知機能障害の病態診断システムに関する。より詳細に、認知機能障害の病態を非侵襲的・簡易的・定量的に評価することができる、認知機能障害の病態診断システムに関する。
【背景技術】
【０００２】
認知機能障害の治療または予防のために、神経又は精神障害及びその症状、特に多動性、不注意、及び／又は衝動性の１又は複数、並びにその他の障害で現れる状態に関連づけられる認知機能障害の病態を非侵襲的・簡易的・定量的に評価する手法が求められている。さらに、認知機能障害がどの脳部位と対応関係にあるのかを明らかにすることが求められている。
【０００３】
特許文献１は、ヒトの一生理学的状態を検出する装置であって、少なくとも２つの生理学的パラメータを受信し、受信した生理学的パラメータに基づいて、前記生理学的状態の存在又は発生を示す結果信号を求める処理手段、及び結果信号を示す出力を生成する出力手段を備え、装置が、各々が事前に計算された前記生理学的状態の存在又は発生の確率に対応する複数の入力を含むルックアップテーブルを保存する保存手段を備え、この場合事前に計算された確率は既にモニターされた生理学的パラメータに基づいて強化学習プロセスなどの計算プロセスにより求められていること、及び処理手段が、受信した少なくとも２つの生理学的パラメータを処理してルックアップテーブルの複数の入力の内の一つを特定し、ルックアップテーブルの特定済み入力に基づいて前記結果信号を求めることを特徴とする装置を開示している。
【０００４】
特許文献２は、行動及び認知試験を、復元モデル(Shaham,Psychopharmacology(Berl)168,3-20(2003))、時間差強化学習（ＴＤＲＬ, temporal difference reinforcement learning）モデル（Redish,Science.2004 Dec 10;306(5703):1944-7）などの強化学習モデルのようなモデルと組み合わせて使用して耽溺障害を評価できると述べている。
【０００５】
非特許文献１は、人間である被験者を，強化学習のエージェントであると見立てて、被験者の行動決定を強化学習アルゴリズムの観点から解析を行なった結果を開示している。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特表２００７−５０８０７６号公報
【特許文献２】特表２０１１−５２１９５４号公報
【非特許文献】
【０００７】
【非特許文献１】佐々木隆宏「強化学習型タスクにおける人間の行動研究に関する研究」平成１６年度電気通信大学大学院修士論文
【発明の概要】
【発明が解決しようとする課題】
【０００８】
本発明の課題は、認知機能障害の病態を非侵襲的・簡易的・定量的に評価することができる、認知機能障害の病態診断システムを提供することである。
【課題を解決するための手段】
【０００９】
上記課題を解決すべく鋭意検討した結果、下記の形態を包含する本発明を完成するに至った。
【００１０】
〔１〕  被験者が強化学習型タスクを行うための器具若しくは機器、
時刻ｔにおける器具若しくは機器の状態ｓtを観測する手段、
時刻ｔにおいて被験者が選択した行動ａtを観測する手段、
時刻ｔにおいて被験者に与えられた報酬ｒtを観測する手段、
観測された状態ｓt、行動ａtおよび報酬ｒtに関するデータを記録する手段、ならびに
記録されたデータから強化学習アルゴリズムのパラメータを決定する手段を具える
認知機能障害の病態診断システム。
【００１１】
〔２〕  強化学習型タスクが、
ブロックを置くことが許された３つの箇所のいずれか一ヶ所以上に、大きさの異なる複数のブロックが積み上げられている状態から、
(1)ブロックを一度に一個しか移動させることができない。
(2)小さなブロックの上に大きなブロックを置くことができない。
(3)上記３つの箇所以外の所にブロックを置くことができない。
という制約のもとで、
全てのブロックが所定の１つの箇所に積み上げられている状態にすることである、〔１〕に記載の認知機能障害の病態診断システム。
【００１２】
〔３〕  被験者に与えられた報酬ｒtが、強化学習型タスクのゴールに近づいているか否かである、〔１〕または〔２〕に記載の認知機能障害の病態診断システム。
〔４〕  強化学習型タスクを遂行中の被験者の神経活動を観測する手段を具備する、〔１〕〜〔３〕のいずれかひとつに記載の認知機能障害の病態診断システム。
〔５〕  強化学習アルゴリズムがＱ学習アルゴリズムである、〔１〕〜〔４〕のいずれかひとつに記載の認知機能障害の病態診断システム。
〔６〕  強化学習アルゴリズムのパラメータが、学習率α、探索ノイズβ、および割引率γから選択される少なくとも一つである、〔１〕〜〔５〕のいずれかひとつに記載の認知機能障害の病態診断システム。
【００１３】
〔７〕  被験者に強化学習型タスクを行わせ、
時刻ｔにおける、状態ｓtと被験者が選択した行動ａtと被験者に与えられた報酬ｒtを観測し、
時刻ｔにおいて観測された、状態ｓtと被験者が選択した行動ａtと被験者に与えられた報酬ｒtに関するデータを記録し、
記録されたデータから強化学習アルゴリズムのパラメータを決定することを含む、
認知機能障害の病態診断のためのパラメータの算出方法。
【発明の効果】
【００１４】
本発明に係る認知機能障害の病態診断システムまたは認知機能障害の病態診断のためのパラメータの算出方法によれば、認知機能障害の病態を非侵襲的・簡易的・定量的に評価することができる。本発明は、認知機能障害に対応する脳部位の特定に寄与することができ、認知機能障害の治療または予防に寄与する。本発明は、大脳皮質や海馬の病変を意識した従来の計算や記銘力検査とは異なり、皮質下認知機能障害をも検出できる。なお、「皮質下」とは大脳基底核などを指す。
【図面の簡単な説明】
【００１５】
【図１】強化学習の基本的枠組みを示す図である。
【図２】決定された学習率αと探索ノイズβとからなる診断平面を示す図である。
【図３】パズル「ハノイの塔」を行うための器具の一例を示す図である。
【発明を実施するための形態】
【００１６】
本発明に係る認知機能障害の病態診断システムは、被験者が強化学習型タスクを行うための器具若しくは機器、時刻ｔにおける器具若しくは機器の状態ｓtを観測する手段、時刻ｔにおいて被験者が選択した行動ａtを観測する手段、時刻ｔにおいて被験者に与えられた報酬ｒtを観測する手段、観測された状態ｓt、行動ａtおよび報酬ｒtに関するデータを記録する手段、および記録されたデータから強化学習アルゴリズムのパラメータを決定する手段を具える。
【００１７】
認知機能障害としては、例えば、パーキンソン病、アルツハイマー病、ハンチントン病、クッシング病、レビー小体病、多発性硬化症、脳血管障害、依存症（例えば、喫煙、飲酒、薬物乱用、コカイン依存、賭博及びその他の衝動制御の障害）、広汎性発達障害、自閉症、注意欠陥・多動性障害、脆弱Ｘ症候群、不安障害（例えば、急性及び慢性パニック、外傷後ストレス障害、全般性不安障害）、プラダー・ウィリー症候群、統合失調症、双極性障害、鬱病、血管性認知症、軽度認知機能障害、認知症、健忘障害、譫妄、及びその他の神経又は精神障害などが挙げられる。
【００１８】
被験者は、健常者、および認知機能障害を伴う患者である。そして、本発明のシステムを健常者に対して適用した際に決定されるパラメータと認知機能障害を伴う患者に対して適用した際に決定されるパラメータとを比較することで病態診断の一助をなすことができる。
【００１９】
図１に強化学習の基本的枠組みを示す。強化学習では、エージェント（行動主体）が環境状態ｓtに基づき或る行動ａtを選択し、行動に基づき環境状態ｓtがｓt+1に変化する。環境状態の変化に伴って、報酬ｒtがエージェントに与えられ、エージェントはより良い行動の選択（意志決定）を学習していく。
【００２０】
強化学習型タスクには、初期状態（スタート）と終期状態（ゴール）が存在し、タスクの開始直前において被験者は初期状態にいる。被験者は少なくとも２種の行動を選択することによって状態遷移を繰り返し、目的である終期状態への遷移を目指す。この初期状態から終期状態への一区切りをエピソードと呼ぶ。被験者はこのエピソードの繰り返しによって、環境に関する知識（どの状態でどの行動を行なうとどの状態へ遷移するのか）を学習していくと考えられる。
【００２１】
強化学習型タスクの一例として、ブロックを置くことが許された３つの箇所（例えば、３本の立設された棒など）のいずれか一ヶ所以上に、大きさの異なる複数のブロック（例えば、棒を通すことができる孔を有する円盤など）が積み上げられている状態から、(1)ブロックを一度に一個しか移動させることができない、(2)小さなブロックの上に大きなブロックを置くことができない、(3)上記３つの箇所以外の所にブロックを置くことができないという制約のもとで、全てのブロックが所定の１つの箇所に積み上げられている状態にすることを挙げることができる。このようなタスクとしては「ハノイの塔」と呼ばれるパズルがある。
【００２２】
強化学習型タスクは、実在空間において行ってもよいし、仮想空間において行ってもよい。本発明のシステムを構成する、被験者が強化学習型タスクを行うための器具若しくは機器は、例えば、パズル玩具などのような実在空間において強化学習型タスクを行うことができるもの；アプリケーションソフトがインストールされたゲーム機器、コンピュータ機器、スマートフォン若しくはその他の情報処理機器などのような仮想空間において強化学習型タスクを行うことができるものであることができる。
【００２３】
強化学習型タスクを実在空間において行う場合、時刻ｔにおける器具若しくは機器の状態ｓtを観測する手段は、光、圧力、位置、温度などを感知するセンサなどであることができる。時刻ｔにおいて被験者が選択した行動ａtを観測する手段は、上記センサで感知された情報の変化、特に位置情報の変化を記録する装置などであることができる。
【００２４】
強化学習型タスクを仮想空間において行う場合、時刻ｔにおける器具若しくは機器の状態ｓtを観測する手段および時刻ｔにおいて被験者が選択した行動ａtを観測する手段は、強化学習型タスクを行うための情報処理機器であることができる。
【００２５】
時刻ｔにおいて被験者に与えられた報酬ｒtを観測する手段は、報酬をどのように定義するかに応じて設定することができる。被験者に与えられた報酬ｒtとして、強化学習型タスクのゴールに近づいているか否かを採用することができる。報酬ｒtを観測する手段は、例えば、光、圧力、位置、温度などを感知するセンサなど、または強化学習型タスクを行うための情報処理機器であることができる。報酬ｒtは観測された状態変化（状態ｓt-1から状態ｓtへの変化）で定義することができる。
【００２６】
強化学習型タスク遂行中の神経活動を観測する手段は、例えば、被験者の慶びによって分泌されるドパミンの量を測定する装置であってもよいし、所定脳領域における温度、酸素代謝率、酸素摂取率、グルコース代謝率、血液量若しくは血流量を測定する装置（ｆＭＲＩ、ｆＮＩＲＳ、ＰＥＴなど）であってもよい。
【００２７】
観測された状態ｓt、行動ａtおよび報酬ｒtに関するデータは、情報処理機器の記録装置に記録し、該情報を適時に引き出せるようにすることができる。
【００２８】
図３は、パズル「ハノイの塔」を行うための器具の一例を示す図である。台5の上面に支台12,22,32が設けられ、それぞれに第一立設棒1、第二立設棒2および第三立設棒3が設けられている。第一立設棒1には円盤を重ね載せたときの高さに相当する位置のそれぞれにセンサ（円盤の陰で見えない）が少なくとも１個（図３においては１段に３個、そのうち２個は裏側にあるので見えない。）設けられている。同様に、第二立設棒2にはセンサ21a〜21dが、第三立設棒3にはセンサ31a〜31dが設けられている。各円盤の立設棒に対向する面側に識別タグ（例えば、赤外線吸収素材、着色、模様（一次元バーコード、二次元バーコードなど）、符号など）が付けられている。センサが識別タグを認識して円盤の種類および所在を感知する。例えば、センサから放射する赤外線を赤外線吸収素材が付けられた円盤で反射させ、その反射率をセンサで測定することによって円盤の種類および所在を識別する。図３においては、大きさの異なる円盤4a,4b,4c,4dが、第一立設棒1に直径の大きい円盤の上に直径の小さい円盤が載せられた状態で置かれている。例えば、第一円盤4aを第一立設棒1から第二立設棒2に移動させると、第一立設棒1の最上部に位置するセンサ（図３においては第一円盤4aの陰で見えない）が第一円盤4aが第一立設棒1の最上段から無くなったことを感知し、第二立設棒2の最下部に位置するセンサが第一円盤4aが第二立設棒2の最下段に置かれたことを感知することができる。センサの信号は情報処理装置に送られ記録させることができる。なお、センサを円盤に、識別タグを立設棒に取り付けた器具も、本発明における強化学習型タスクを行うための器具若しくは機器として用いることができる。
【００２９】
本発明で用いられる強化学習アルゴリズムは、強化学習アルゴリズムとして知られているものであれば特に限定されない。強化学習アルゴリズムとしては、例えば、ＴＤ学習、Sarsa、Actor-Critic法、Ｑ学習、Policy Gradient、動的計画法、Deep Q-Networkなどを挙げることができる。いずれの強化学習アルゴリズムにおいても共通のパラメータを推定することができる。また、被験者の認知行動を説明するのに最も適した強化学習アルゴリズムを同定することによって、被験者の認知行動メカニズムの個別性を判断することができる。
【００３０】
ＴＤ学習(temporal difference learning)は、環境の完全なモデルを必要とせず、相互作用によって得られる経験から価値関数を求めることによって学習が進行する。
時刻ｔにおける環境との１回の相互作用から得られる経験を用いて、現在の状態ｓtの価値Ｖ(ｓt)を以下の式によって更新する。
2017221307.tif 000003
ここで、αは学習率と呼ばれるパラメータである。通常、０≦α≦１である。また、δtはＴＤ誤差(TD error)と呼ばれるパラメータである。
【００３１】
Sarsaでは、学習に行動価値関数を用い，状態ｓtにおける行動ａtの価値Ｑ(ｓt，ａt)を、次の時刻ｔ＋１で実際に選択する行動を用いて、以下の式によって更新する。
2017221307.tif 000004
【００３２】
Actor-Critic法では、エージェント内部に価値評価部分(critic)と行動選択部分(actor)が独立して存在する。criticは状態価値関数を評価し、その出力(ＴＤ誤差)に基づいてactorは方策を学習する。actorの行動選択がBoltzmann分布によるsoftmax手法であるときの学習則は以下のとおりである。
2017221307.tif 000005
ここで、βは探索ノイズと呼ばれるパラメータである。探索ノイズは、探索(exploration)と搾取(exploitation)行動のトレードオフを決定する。βは絶対温度Ｔとボルツマン定数ｋBを用いて次のように定義される。
2017221307.tif 000006
また、ｐ(ｓt，ａt)は、時刻ｔでactorが変更可能な方策パラメータの値を表す。例えば、次式のようにｓtにおけるａtの選択傾向の強さを更新する。
2017221307.tif 000007
ここで、α2は、actorの学習率と呼ばれるパラメータである。criticが状態価値関数を更新する際に用いられる学習率αと区別される。
【００３３】
Ｑ学習(Q-learning)は、ＴＤ学習と同じく環境の完全なモデルを必要とせず、エージェントの経験から学習が可能である。ＴＤ学習と異なる点は、状態の価値ではなく行動の価値の更新を行なう点である。最も単純なＱ学習は１ステップＱ学習と呼ばれる。時刻ｔにおける環境との１回の相互作用から得られる経験を用いて、現在の状態ｓtにおける行動ａtの価値Ｑ（ｓt，ａt）を以下の式によって更新する。
2017221307.tif 000008
Ｑ学習では、状態ｓt+1において、最大の行動価値（Ｑ値）を持つ行動ａを選択している点がSarsaと異なる。Ｑ学習の方策として以下のものがよく用いられる。
ε-greedy
確率εでランダムな行動を選択し、それ以外では最大のＱ値を持つ行動
2017221307.tif 000009
を選択する。
Boltzmann rule
状態ｓにおいて行動ａを以下の確率で選択する。
2017221307.tif 000010
【００３４】
本発明において記録された時系列データから強化学習アルゴリズムにおける学習の進行に影響を与えるパラメータを決定する。例えば、Ｑ学習などでは、学習率α、探索ノイズβ、割引率γなどのパラメータを決定する。学習率αは学習速度に係るパラメータである。探索ノイズβは探索のランダムさを決定するパラメータである。割引率γは将来の報酬を割り引くパラメータである。パラメータの決定は数値計算によって行うことができる、数値計算の手法は、特に限定されず、例えば、最尤推定法、二分法、ニュートン法などを挙げることができる。
【００３５】
決定されたパラメータの値を、事前に蓄積していたパラメータテーブルと対比することによって、被験者の病態を診断することができる。例えば、図２に示すように、学習率αを縦軸に探索ノイズβを横軸にプロットし診断平面化したときに、αが小さく且つβが小さい領域には認知機能障害の患者（黒丸）が分布していることがわかる。白丸は健常者の分布である。さらに、診断平面とタスク実施前・実施中・実施後のいずれかの時点において計測した神経活動との相関から、当該認知機能障害に相関のある脳領域を特定し、その特定脳領域に治療を集中させるということができる。このように、本発明の認知機能障害の病態診断システムまたは方法によれば、認知機能障害の病態を非侵襲的・簡易的・定量的に評価することができる。さらに、本発明によって、認知機能障害に対応する脳部位の特定することができ、認知機能障害の治療または予防に寄与することができる。
【００３６】
以下に実施例を示して本発明をより詳細に説明する。なお、本発明は本実施例によって限定されない。
【００３７】
実施例
パズル玩具「ハノイの塔」を用意した。一本の直線上に並んで立設された３本の柱の内部に光センサを取り付け、それぞれの円盤がどの柱のどの高さに置かれているかを検出できるようにした。検出された位置データはパーソナルコンピュータに送信されハードディスクに記録されるようにした。スタートにおける円盤の積み上げ状態の異なる「ハノイの塔」のパズルを被験者に２０回行わせた。ゴールはすべての円盤を右端の柱に積み上げることである。その間の位置データを記録した。
記録された位置データから状態ｓt、行動ａtおよび報酬ｒtに関するデータを抽出した。抽出した状態ｓt、行動ａtおよび報酬ｒtに関するデータを用いて、Ｑ学習アルゴリズムの更新式：
2017221307.tif 000011
における学習率αと探索ノイズβとを最尤推定法を用いて決定した。
あるひとりの被験者は、αが０．８３、βが１．５９であった。該被験者は健常者であった。
ある別のひとりの被験者は、αが０．５３、βが０．５７であった。該被験者はパーキンソン病患者であった。
前記パーキンソン病患者の学習率αおよび探索ノイズβは、前記健常者の学習率αおよび探索ノイズβよりも小さい値を示した。図２に示すような診断平面によって、認知機能障害の病態診断が可能であることを確認できた。本実施例では脳領域におけるドパミン量などの分布データの解析を行わなかったが、ドパミン量などの分布データの解析を行うことによって、病態と相関する脳部位の特定が期待できる。
【符号の説明】
【００３８】
１：第一立設棒
２：第二立設棒
３：第三立設棒
4a：第一円盤
4b：第二円盤
4c：第三円盤
4d：第四円盤
5：台
21a〜21l、31a〜31l：センサ
12、22、32：支台
【図１】
2017221307.tif 000012
【図２】
2017221307.tif 000013
【図３】
2017221307.tif 000014