強化学習

強化学習（きょうかがくしゅう、英: reinforcement learning、RL）は、ある環境内における知的エージェントが、現在の状態を観測し、得られる収益（累積報酬）を最大化するために、どのような行動をとるべきかを決定する機械学習の一分野である。強化学習は、教師あり学習、教師なし学習と並んで、3つの基本的な機械学習パラダイムの一つである。 強化学習が教師あり学習と異なる点は、ラベル付きの入力／出力の組を提示する必要がなく、最適でない行動を明示的に修正する必要もない。その代わり、未知の領域の探索と、現在の知識の活用の間のバランスを見つけることに重点が置かれる。 この文脈の強化学習アルゴリズムの多くは動的計画法を使用するため、この環境は通常マルコフ決定過程（MDP）として定式化される。古典的な動的計画法と強化学習アルゴリズムとの主な違いは、後者はMDPの正確な数学的モデルの知識を必要とせず、正確な方法では実行不可能な大規模MDPを対象にできることである。代表的なアルゴリズムとして時間差分学習（TD学習）やQ学習が知られている。 強化学習はその一般性から、ゲーム理論、制御理論、オペレーションズ・リサーチ、情報理論、シミュレーションに基づく最適化（英語版）、マルチエージェントシステム、群知能、統計学など、多くの分野で研究されている。オペレーションズ・リサーチや制御の文献では、強化学習は近似動的計画法（approximate dynamic programming）あるいはニューロダイナミック・プログラミング（neuro-dynamic programming）と呼ばれている。強化学習の問題は最適制御理論でも研究されており、主に最適解の存在と特徴づけや、その厳密な計算のためのアルゴリズムを対象するが、（特に環境の数学的モデルがない場合の）学習や近似への関心は高くない。また、経済学やゲーム理論では、限定合理性のもとで均衡がどのように生じるかを説明するために、強化学習が用いられることがある。 基本的な強化学習は、マルコフ決定過程（Markov decision process、MDP）としてモデル化される。 S {\displaystyle {\mathcal {S}}} ：環境とエージェントの状態の集合 A {\displaystyle {\mathcal {A}}} ：エージェントの行動の集合 P a ( s , s ′ ) = Pr ( S t + 1 = s ′ ∣ S t = s , A t = a ) {\displaystyle P_{a}(s,s')=\Pr(S_{t+1}=s'\mid S_{t}=s,A_{t}=a)} ：状態 s {\displaystyle s} から行動 a {\displaystyle a} にて状態 s ′ {\displaystyle s'} に遷移する確率 R a ( s , s ′ ) {\displaystyle R_{a}(s,s')} ：行動 a {\displaystyle a} で状態 s {\displaystyle s} から状態 s ′ {\displaystyle s'} に遷移した後の即時報酬（immediate reward） 強化学習の目標は、エージェントが、即時報酬から蓄積される報酬関数（reward function）または他のユーザ提供の強化信号を最大化するような、最適または最適に近い方策を学習することである。これは、動物心理学で起こっていると思われるプロセスに似ている。たとえば、生物の脳は、痛みや空腹などの信号を負の強化、喜びや食物摂取を正の強化として解釈するように配線（hardwired）されている。いくつかの状況では、動物はこれらの報酬を最適化するような行動を学習することができる。このことは、動物は強化学習が可能であることを示唆している。 基本的な強化学習エージェント型人工知能（AI）は、離散的な時間ステップで環境と相互作用を行う。各時刻 t において、エージェントは現在の状態 S t {\displaystyle S_{t}} と報酬 R t {\displaystyle R_{t}} を受け取る。次に選択可能な行動の集合から、1つの行動 A t {\displaystyle A_{t}} を選択し、それを環境に送信する。環境は新しい状態 S t + 1 {\displaystyle S_{t+1}} に移動し、遷移（transition） ( S t , A t , S t + 1 ) {\displaystyle (S_{t},A_{t},S_{t+1})} に関連付けられる報酬 R t + 1 {\displaystyle R_{t+1}} が決定される。強化学習エージェントの目標は、期待累積報酬を最大化する方策 π : S × A → [ 0 , 1 ] {\displaystyle \pi :{\mathcal {S}}\times {\mathcal {A}}\rightarrow [0,1]} , π ( s , a ) = Pr ( A t = a ∣ S t = s ) {\displaystyle \pi (s,a)=\Pr(A_{t}=a\mid S_{t}=s)} を学習することである。 この問題をMDPとして定式化すると、エージェントが環境の現在の状態を直接観測することを仮定し、この場合、問題は完全観測可能（full observability）であると言う。しかし、エージェントが一部の状態しか観測できない場合、あるいは観測された状態がノイズによって破損している場合、エージェントは部分観測可能（partial observability）であると呼ばれ、正式にはその問題を部分観測可能マルコフ決定過程（partially observable Markov decision process）として定式化しなければならない。どちらの場合も、エージェントが使用できる行動の集合は制限を受ける可能性がある。たとえば、口座残高の状態が正である制約を課すことができる。状態の現在値が3で、状態遷移が値を4だけ減らそうと試みた場合、その遷移は許可されない。 あるエージェントの性能を、最適に行動している別のエージェントの性能と比較すると、その差からリグレット（英語版）（regret、後悔）という概念が生じる。最適な行動に近づくために、たとえ即時報酬は負であっても、エージェントはその行動の長期的な結果（すなわち将来の収益の最大化）について考えなければならない。 したがって、強化学習は、長期的な報酬と短期的な報酬のトレードオフを伴う問題に特に適している。強化学習は、ロボット制御（英語版）、エレベーターのスケジューリング、電気通信、バックギャモン、チェッカー、囲碁（AlphaGo）など、さまざまな問題への応用に成功している。 強化学習を強力なものにしている2つの要素として、性能を最適化するためのサンプルの使用と、大規模な環境に対処するための関数近似の使用があげられる。この2つの重要な要素により、強化学習は次のような状況下で、大規模環境に適用することができる。 環境のモデルはわかっているが、解析解（英語版）が得られない。 環境のシミュレーションモデルだけが与えられている（シミュレーションに基づく最適化（英語版）の対象）。 環境に関する情報を収集する唯一の方法は、環境と対話することである。 これらの問題のうち、最初の2つは計画問題であり（何らかの形のモデルが利用可能であるため）、最後の1つは真の学習問題であると考えることができる。ただし、強化学習はどちらの計画問題も機械学習問題に変換する。 探索（exploration）と活用（exploitation）のトレードオフは、多腕バンディット問題や、Burnetas and Katehakis（1997）の有限状態空間MDPの研究を通じて、最も詳細に研究されてきた。 強化学習には巧妙な探索機構が不可欠であり、推定された確率分布を参照せず、ランダムに行動を選択すればその性能は低下する。（小規模な）有限MDPについては、比較的よく理解されている。しかし、状態数に応じてうまくスケールする（あるいは状態空間が無限の問題でも対応する）アルゴリズムがないため、単純な探索方法が最も実用的となる。 そのような方法の一つが ε {\displaystyle \varepsilon } -貪欲法（イプシロンどんよくほう、 ε {\displaystyle \varepsilon } -greedy）で、 0 < ε < 1 {\displaystyle 0<\varepsilon <1} は探索と活用の量を制御するパラメータである。確率 1 − ε {\displaystyle 1-\varepsilon } で活用が選択され、エージェントは長期的に最も効果があると思われる行動を選択する（行動間の関係は無作為に解消される）。あるいは、確率 ε {\displaystyle \varepsilon } で探索が選択され、行動は無作為に選択される。通常、 ε {\displaystyle \varepsilon } は固定パラメータであるが、スケジュールに従ったり（エージェントが探索を徐々に少なくする）、またはヒューリスティック（経験則）に基づいて適応的に調整することもできる。 たとえ探索の問題を無視して、状態が観測可能であっても（以下は仮定）、過去の経験を使用して、どの行動がより高い累積報酬につながるかを見つけ出すという問題が残される。 エージェントの行動（action）の選択は、方策（policy）と呼ばれる写像としてモデル化することができる。 π : S × A → [ 0 , 1 ] {\displaystyle \pi :{\mathcal {S}}\times {\mathcal {A}}\rightarrow [0,1]} π ( s , a ) = Pr ( A t = a ∣ S t = s ) {\displaystyle \pi (s,a)=\Pr(A_{t}=a\mid S_{t}=s)} 方策の写像は、状態 s {\displaystyle s} において行動 a {\displaystyle a} を選択する確率を与える。決定論的な方策（全ての確率が 0 または 1）を考えても良い。 状態価値関数（state-value function） V π ( s ) {\displaystyle V_{\pi }(s)} は、状態 s {\displaystyle s} 、すなわち S 0 = s {\displaystyle S_{0}=s} から出発して、方策 π {\displaystyle \pi } に連続して従う場合の期待割引収益（expected discounted return）と定義される。したがって、大まかに言えば、状態価値関数は、ある状態にあることが「どれくらい良いか」を推定するものである。 V π ( s ) = E ⁡ [ G ∣ S 0 = s ] = E ⁡ [ ∑ t = 0 ∞ γ t R t + 1 ∣ S 0 = s ] , {\displaystyle V_{\pi }(s)=\operatorname {\mathbb {E} } [G\mid S_{0}=s]=\operatorname {\mathbb {E} } \left[\sum _{t=0}^{\infty }\gamma ^{t}R_{t+1}\mid S_{0}=s\right],} ここで、確率変数 G {\displaystyle G} は割引収益（discounted return）を表し、報酬（reward）に割引率（discount rate） γ {\displaystyle \gamma } を乗じた将来の割引報酬（discounted reward）の和として定義される。 G = ∑ t = 0 ∞ γ t R t + 1 = R 1 + γ R 2 + γ 2 R 3 + … {\displaystyle G=\sum _{t=0}^{\infty }\gamma ^{t}R_{t+1}=R_{1}+\gamma R_{2}+\gamma ^{2}R_{3}+\dots } ここで、報酬 R t + 1 {\displaystyle R_{t+1}} は状態 S t {\displaystyle S_{t}} から S t + 1 {\displaystyle S_{t+1}} に遷移した際の報酬である。割引率は 0 < γ < 1 {\displaystyle 0<\gamma <1} に設定され、遠い未来の報酬ほど重み付けは小さくなる。割引率の考え方は経済学でも使われている。 アルゴリズムは、期待割引収益が最大になるような方策を見つける必要がある。MDPの理論から、一般性を損なうことなく、探索をいわゆる「定常方策」（stationary policies）の集合に限定できることが知られている。ある方策が返す行動分布が、（観察しているエージェントの履歴から）最後に訪れた状態にのみ依存する場合、その方策は「定常的」（stationary）である。探索はさらに決定論的な定常方策に限定されることがある。「決定論的定常方策」（deterministic stationary policy）は、現在の状態に基づいて「決定論的」に行動を選択する。このような方策は、状態の集合から行動の集合へのマッピングとして識別できるので、一般性を損なうことなく、これらの方策はこのようなマッピングと識別することができる。 総当たり法（brute force method、力まかせ探索）は、次の2つの段階を伴う。 可能性のある各方策について、それに従った場合の収益をサンプリングする 期待収益が最大の方策を選択する この場合の問題の一つは、方策数が増大する、あるいは無限大になる可能性である。また、収益の分散が大きい場合、各方策の収益を正確に推定するために多くのサンプルが必要になることもある。 これらの問題は、何らかの構造を仮定し、ある方策から生成されたサンプルが他の方策の推定に影響を与えるようにすることで改善することができる。これを実現するための2つな主要な手法は、価値関数推定と直接方策探索である。 価値関数法（value function methods）は、ある方策（通常は「現行」（on-policy、方策内）または「最適」（方策外、off-policy）のいずれか）に対する期待収益の推定値の集合を維持することにより、収益を最大化する方策を見つけ出そうとするものである。 これらの方法はマルコフ決定過程の理論に基づいており、最適性は前述したよりも強い意味で定義されている。方策は、どのような初期状態からでも最大の期待収益を達成する場合、最適であると呼ばれる（つまり、この定義において初期分布は何の役割も果たさない）。繰り返すが、最適方策は常に定常方策の中から見出すことができる。 最適性を正式に定義するために、方策 π {\displaystyle \pi } の下での状態価値（state-value）を、 V π ( s ) = E ⁡ [ G ∣ s , π ] {\displaystyle V^{\pi }(s)=\operatorname {\mathbb {E} } [G\mid s,\pi ]} で定義する。ここで、 G {\displaystyle G} は初期状態 s {\displaystyle s} から π {\displaystyle \pi } に従うことに伴う割引収益を表す。また、 π {\displaystyle \pi } が変更しうる場合、 V π ( s ) {\displaystyle V^{\pi }(s)} の最大可能値として V ∗ ( s ) {\displaystyle V^{*}(s)} を定義すると、 V ∗ ( s ) = max π V π ( s ) {\displaystyle V^{*}(s)=\max _{\pi }V^{\pi }(s)} となる。 すべての状態において、これらの最適値を達成する方策を最適（optimal）と呼ぶ。この強い意味で最適な方策は、期待割引収益 ρ π = E [ V π ( s ) ] {\displaystyle \rho ^{\pi }=\mathbb {E} [V^{\pi }(s)]} を最大化するという意味でも「最適」であることは明らかである。ここで、 s {\displaystyle s} は初期状態の分布 μ {\displaystyle \mu } からランダムにサンプリングした状態（したがって μ ( s ) = Pr ( S 0 = s ) {\displaystyle \mu (s)=\Pr(S_{0}=s)} ）である。 最適性を定義するには状態価値で十分だが、行動価値（action-value）を定義しておくと有用である。状態 s {\displaystyle s} 、行動 a {\displaystyle a} 、方策 π {\displaystyle \pi } が与えられたとき、 π {\displaystyle \pi } の下での状態-行動ペア ( s , a ) {\displaystyle (s,a)} の行動価値は、 Q π ( s , a ) = E ⁡ [ G ∣ s , a , π ] , {\displaystyle Q^{\pi }(s,a)=\operatorname {\mathbb {E} } [G\mid s,a,\pi ],\,} で定義される。ここで G {\displaystyle G} は、状態 s {\displaystyle s} で最初に行動 a {\displaystyle a} を取り、その後 π {\displaystyle \pi } に従っているときの割引収益を表している。 MDPの理論では、 π ∗ {\displaystyle \pi ^{*}} が最適方策であれば、 Q π ∗ ( s , ⋅ ) {\displaystyle Q^{\pi ^{*}}(s,\cdot )} から各状態 s {\displaystyle s} で最も行動価値の高い行動を選択することで最適に行動する（最適行動を取る）とされている。このような最適方策（ Q π ∗ {\displaystyle Q^{\pi ^{*}}} ）の行動価値関数（action-value function）を最適行動価値関数（optimal action-value function）といい、一般に Q ∗ {\displaystyle Q^{*}} と表わす。要約すると、最適行動価値関数を知っていれば、最適な行動方法を知ることができる。 MDPの完全な知識を前提とすると、最適な行動価値関数を計算するための2つの基本的な手法は、価値反復法と方策反復法である。どちらのアルゴリズムも、 Q ∗ {\displaystyle Q^{*}} に収束する一連の関数 Q k {\displaystyle Q_{k}} ( k = 0 , 1 , 2 , … {\displaystyle k=0,1,2,\ldots } ) を計算する。これらの関数を計算するには、状態空間全体に対する期待行動価値を計算する必要があるが、これは最小の（有限の）MDPを除いては非現実的である。強化学習法では、大きな状態行動空間上の行動価値関数を表現する必要性に対処するために、サンプルの平均化や関数近似の手法を使用して期待値を近似する。 モンテカルロ法（Monte Carlo methods）は、方策反復法を模倣したアルゴリズムに使用することができる。方策反復法は、方策の評価（policy evaluation）と方策の改善（policy improvement）という2つの段階から構成される。モンテカルロ法は、方策評価段階で使用される。この段階での目標は、定常的で決定論的な方策 π {\displaystyle \pi } が与えられたとき、すべての状態-行動ペア ( s , a ) {\displaystyle (s,a)} に対する関数値 Q π ( s , a ) {\displaystyle Q^{\pi }(s,a)} （またはその適切な近似）を計算することである。ここでは簡単にするために、MDPは有限であり、行動価値を収容するのに十分なメモリがあり、問題は偶発的（英: episodic）で、各出来事の後にランダムな初期状態から新しい出来事が始まると仮定する。そして、与えられた状態-行動ペア ( s , a ) {\displaystyle (s,a)} の行動価値の推定値は、 ( s , a ) {\displaystyle (s,a)} からサンプリングされた収益を時間経過とともに平均化することによって計算することができる。十分な時間があれば、この手順により、行動価値関数 Q π {\displaystyle Q^{\pi }} の正確な推定値 Q {\displaystyle Q} を構築することができる。これで、方策評価段階の説明を終了する。 方策改善段階では、 Q {\displaystyle Q} に関する貪欲な方策（greedy policy）を計算することにより次の方策を得る。状態 s {\displaystyle s} が与えられたとき、この新しい方策は Q ( s , ⋅ ) {\displaystyle Q(s,\cdot )} を最大化する一つの行動を返す。実際には、遅延評価によって、最大化行動の計算を必要なときまで先送りすることができる。 この手法の問題を次にあげる。 最適でない方策を評価するのに時間がかかりすぎる場合がある。 サンプリングが非効率的に行われる（長い軌跡が、軌跡を開始した単一の状態-行動ペアの推定値を改善するだけである） 軌跡上の収益が高分散（high variance）である場合、収束が遅くなる。 偶発的問題（episodic problems）に対してのみ有効である。 小規模で有限なMDPでしか使えない。 以降の小節では、それぞれの問題についてさらに議論する。 最初の問題は、価値が収まる前に（一部または全ての状態で）手順が方策を変更できるようにすることによって対応できる。ただし収束を妨げて問題となる可能性もある。現在のほとんどのアルゴリズムではこれを行い、一般化方策反復（generalized policy iteration）という種類のアルゴリズムを作り出すことができる。多くのアクター・クリティック法（actor-critic methods）はこの範疇（はんちゅう）に属する。 2番目の問題は、軌跡がその中の任意の状態-行動ペアに関与できるようにすることで修正できる。これは3番目の問題にもある程度有効であるが、収益の分散が高い場合のより優れた解決策は、再帰的ベルマン方程式（recursive Bellman equation）に基づくリチャード・サットンが命名した時間差分学習（temporal difference learning、TD学習）である。 TD法における計算法には、インクリメンタル法（各遷移後にメモリを変更し、遷移を破棄する）またはバッチ法（遷移をバッチ処理し、バッチに基づいて推定値を一回計算する）がある。最小二乗時間差法（least-squares temporal difference method）のようなバッチ法は、サンプル内の情報をより有効に利用できる可能性があるが、インクリメンタル法は、バッチ法が計算量やメモリの複雑性の理由で実行不可能な場合に選択される唯一の方法となる。この2つの方法を組み合わせる手法もある。時間差分に基づく方法は、4番目の問題も克服している。 TDに特有のもう一つの問題は、再帰的なベルマン方程式への依存に起因している。ほとんどのTD法には、いわゆる λ {\displaystyle \lambda } （ラムダ）パラメータ ( 0 ≤ λ ≤ 1 ) {\displaystyle (0\leq \lambda \leq 1)} があり、ベルマン方程式に依存しないモンテカルロ法と、ベルマン方程式に完全に依存する基本的なTD法の間を、連続的に補間することができる。これにより、この問題を効果的に緩和することができる。 5番目の課題を解決するために、関数近似法（function approximation methods）が提案されている。線形関数近似（linear function approximation）は、各状態-行動ペアに有限次元ベクトルを割り当てるマッピング ϕ {\displaystyle \phi } から始まる。そして、状態-行動ペア ( s , a ) {\displaystyle (s,a)} の行動価値（action-value）は、 ϕ ( s , a ) {\displaystyle \phi (s,a)} の成分を何らかの重み θ {\displaystyle \theta } で線形結合することによって得られる。 Q ( s , a ) = ∑ i = 1 d θ i ϕ i ( s , a ) {\displaystyle Q(s,a)=\sum _{i=1}^{d}\theta _{i}\phi _{i}(s,a)} その後、アルゴリズムは、各状態-行動ペアに関連する値ではなく、重みを調整する。ノンパラメトリック統計学の考え方に基づく方法（独自の特徴を構築することが見られる）が探究されている。 また、値の反復を出発点として、Q学習アルゴリズム（Q-learning algorithm）とその多くのバリエーションを作成することができる。行動価値関数Qを表現するためにニューラルネットワークを使用するディープQ学習法を含め、確率的探索問題へのさまざまな応用ができる。 行動価値を用いる場合の問題は、競合する行動価値を高精度に推定する必要であることになる可能性があることで、収益にノイズが多い場合には取得するのが難しい場合があるが、この問題は時間差法によってある程度軽減される。いわゆる互換関数近似法（compatible function approximation method）を使用すると、一般性と効率性が損なわれる。 別の方法として、方策空間（その何らかの部分集合）を直接探索する方法があり、この場合、問題は確率的最適化（英語版）の一つとなる。利用可能な2つの方法として、勾配を用いる方法と、勾配を用いない方法がある。 勾配法を使用する手法は方策勾配法（policy gradient method）と呼ばれる。有限次元（パラメータ）空間から方策空間へのマッピングを行い、パラメータベクトル θ {\displaystyle \theta } が与えられたとき、 θ {\displaystyle \theta } に対応する方策を π θ {\displaystyle \pi _{\theta }} とする。評価関数を ρ ( θ ) = ρ π θ {\displaystyle \rho (\theta )=\rho ^{\pi _{\theta }}} と定義すると、この関数は穏やかな条件下ではパラメータベクトル θ {\displaystyle \theta } の関数として微分可能になる。もし ρ {\displaystyle \rho } の勾配がわかっていれば、最急降下法を使うことができる。勾配の解析解が分からないため、ノイズを含んだ推定値しか利用できない。このような推定値はさまざまな方法で構築することができ、ウィリアムズのREINFORCE法（シミュレーションベース最適化（英語版）の文献では尤度比法として知られている）のようなアルゴリズムで作成することもできる。 勾配を用いない方法も、多くの種類がある。たとえば、シミュレーティドアニーリング、クロスエントロピー探索（英語版）、または進化的計算の手法などがある。多くの勾配を用いない手法は、（理論的にも極限的にも）大域的な最適解に到達することができる。 ノイズの多いデータでは、方策の収束が遅くなることがある。こうしたことは、たとえば、軌跡が長くリターンの分散が大きい偶発的問題で起こる。このような場合、時間差分法に依存する価値関数に基づく手法が役立つ可能性がある。近年では、1970年代から存在していたアクター・クリティック法（actor-critic method）を改良する方法が提案され、さまざまな問題で良い結果を出している。 方策探索法は、ロボット工学の文脈でも使用されている。多くの方策探索法は、局所探索に基づいているため、局所最適に陥ることがある。 最後に、上記の方法はみな、初めにモデルを訓練するアルゴリズムと組み合わせることができる。たとえば、Dynaアルゴリズムは経験からモデルを訓練し、実際の遷移に加えて、よりモデル化された遷移を価値関数に与えることができる。このような方法はノンパラメトリックモデルに拡張できる場合があり、たとえば、遷移を単純に保存して学習アルゴリズムに「再生」させるなどの方法がある。 モデルの使用には価値関数を更新する以外の方法もある。たとえば、モデル予測制御 (en:英語版) では、モデルを用いて挙動を直接更新する。 ほとんどのアルゴリズムの漸近的挙動と有限標本挙動の両方がよく理解されている。（探索問題に対処する）優れたオンライン性能が証明されたアルゴリズムも知られている。 MDPの効率的な探索については、Burnetas and Katehakis（1997）で述べられている。また、多くのアルゴリズムで有限時間性能の限界が見られるが、これらの限界はかなり緩いと予想されるため、相対的な価値と限界をより深く理解するために、さらなる研究が必要である。 インクリメンタルアルゴリズムについては、漸近的収束の問題が解決された[要説明]。時間差分に基づくアルゴリズムでは、従来よりも広い条件の下で収束するようになった（たとえば、任意の滑らかな関数近似と併用する場合）。 研究テーマを次に列挙する。 アクター・クリティック法 少ないパラメータでも多数の条件下で動作する適応的手法 ソフトウェアプロジェクトにおけるバグ検出 継続的な学習 ロジックベースフレームワークとの組み合わせ 大規模MDPでの探索 人間のフィードバックからの強化学習 スキル獲得における暗黙知と明示知の相互作用 情報探索-好奇心型行動と、タスク依存型-目的指向型行動とを区別する内発的動機付け (人工知能)（英語版）の大規模な経験的評価 大きな（または連続的な）行動空間 モジュール型および階層型な強化学習 マルチエージェント・分散型強化学習は、関心を集めて話題で、応用が拡大している 乗員主体の制御 コンピューティング資源の最適化 部分情報（predictive state representation、POMDP）。たとえば予測的状態表現（英語版）（PSR）を使用する。 新規情報の最大化することに基づく報酬関数 サンプルベースの計画（たとえばモンテカルロ木探索に基づく） 証券取引 転位学習 脳内のドーパミンを利用した学習をモデル化したTD学習。黒質緻密部から大脳基底核へのドーパミン作動性投射は予測誤差である。 価値関数と方策の探索方法 連想強化学習タスク（associative reinforcement learning）は、確率的学習オートマトンタスクと教師あり学習パターン分類タスクの側面をあわせ持っている。連想強化学習タスクでは、学習システムは閉ループで環境と相互作用する。 深層強化学習（deep reinforcement learning） (en:英語版) は、ディープニューラルネットワークを使用し、状態空間を明示的に設計することなく、強化学習を拡張するものである。Google DeepMindによってAtari 2600のゲームの強化学習が研究（Deep Q-Network）されたことで、深層強化学習やエンドツーエンド強化学習が注目されるようになった。 敵対的深層強化学習（adversarial deep reinforcement learning）は、学習された方策の脆弱性（ぜいじゃくせい）に焦点を当てた強化学習の活発な研究分野である。この研究領域では、当初、強化学習方策がわずかな敵対的操作の影響を受けやすいことがいくつかの研究で示されていた。これらの脆弱性を克服するためにいくつか方法が提案されているが、最新の研究では、これらの提案された解決策は、深層強化学習方策の現在の脆弱性を正確に表すには程遠いことが示された。 強化学習にファジィ推論を導入することで、連続空間におけるファジィルール（英語版）で状態-行動価値関数を近似することが可能になる。ファジィルールの IF - THEN 形式は、自然言語に近い形式で結果を表現するのに適している。ファジィルール補間によるファジィ強化学習（fuzzy reinforcement learning、FRL）への拡張により、サイズが縮小されたスパース・ファジィ・ルールベースを使用して、基本ルール（最も重要な状態-行動価値）に重点を置くことができるようになった。 逆強化学習（inverse reinforcement learning、IRL）では報酬関数が与えられない。その代わり、専門家が観察した行動から報酬関数を推測する。このアイディアは観察された行動を模倣することであり、多くの場合、最適または最適に近い行動となる。 安全な強化学習（safe reinforcement learning、SRL）とは、システムの訓練や配置の過程で、その合理的な性能を確保し安全制約を尊重することが重要な問題において、期待収益を最大化する方策を学習する過程と定義することができる。 時間差分学習（TD学習） Q学習 State–action–reward–state–action（SARSA法） 人間のフィードバックによる強化学習 エンドツーエンドの強化学習 仮想プレイ（英語版） 学習分類子システム（英語版） 最適制御 動的治療計画（英語版） 誤差駆動型学習（英語版） マルチエージェント強化学習（英語版） マルチエージェントシステム 分散型人工知能（英語版） 内発的動機付け (人工知能)（英語版） 遺伝的アルゴリズム 徒弟学習（英語版） モデルフリー (強化学習)（英語版） ^ Kaelbling, Leslie P.; Littman, Michael L.; Moore, Andrew W. (1996). “Reinforcement Learning: A Survey”. Journal of Artificial Intelligence Research 4: 237–285. arXiv:cs/9605103. doi:10.1613/jair.301. オリジナルの2001-11-20時点におけるアーカイブ。. http://webarchive.loc.gov/all/20011120234539/http://www.cs.washington.edu/research/jair/abstracts/kaelbling96a.html.  ^ van Otterlo, M.; Wiering, M. (2012). Reinforcement learning and markov decision processes. Adaptation, Learning, and Optimization. 12. 3–42. doi:10.1007/978-3-642-27645-3_1. ISBN 978-3-642-27644-6  ^ Russell, Stuart J.; Norvig, Peter (2010). Artificial intelligence : a modern approach (Third ed.). Upper Saddle River, New Jersey. pp. 830, 831. ISBN 978-0-13-604259-4  ^ Lee, Daeyeol; Seo, Hyojung; Jung, Min Whan (21 July 2012). “Neural Basis of Reinforcement Learning and Decision Making”. Annual Review of Neuroscience 35 (1): 287–308. doi:10.1146/annurev-neuro-062111-150512. PMC 3490621. PMID 22462543. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3490621/.  ^ Xie, Zhaoming, et al. "ALLSTEPS: Curriculum‐driven Learning of Stepping Stone Skills." Computer Graphics Forum. Vol. 39. No. 8. 2020. ^ Sutton & Barto 1998, Chapter 11. ^ Gosavi, Abhijit (2003). Simulation-based Optimization: Parametric Optimization Techniques and Reinforcement. Operations Research/Computer Science Interfaces Series. Springer. ISBN 978-1-4020-7454-7. https://www.springer.com/mathematics/applications/book/978-1-4020-7454-7  ^ a b Burnetas, Apostolos N.; Katehakis, Michael N. (1997), “Optimal adaptive policies for Markov Decision Processes”, Mathematics of Operations Research 22: 222–255, doi:10.1287/moor.22.1.222  ^ Tokic, Michel; Palm, Günther (2011), “Value-Difference Based Exploration: Adaptive Control Between Epsilon-Greedy and Softmax”, KI 2011: Advances in Artificial Intelligence, Lecture Notes in Computer Science, 7006, Springer, pp. 335–346, ISBN 978-3-642-24455-1, http://www.tokic.com/www/tokicm/publikationen/papers/KI2011.pdf  ^ a b “Reinforcement learning: An introduction”. 2023年5月12日閲覧。 ^ Sutton, Richard S. (1984). Temporal Credit Assignment in Reinforcement Learning (PhD thesis). University of Massachusetts, Amherst, MA. ^ Sutton & Barto 1998, §6. Temporal-Difference Learning. ^ Bradtke, Steven J.; Barto, Andrew G. (1996). “Learning to predict by the method of temporal differences”. Machine Learning 22: 33–57. doi:10.1023/A:1018056104778.  ^ Watkins, Christopher J.C.H. (1989). Learning from Delayed Rewards (PDF) (PhD thesis). King’s College, Cambridge, UK. ^ Matzliach, Barouch; Ben-Gal, Irad; Kagan, Evgeny (2022). “Detection of Static and Mobile Targets by an Autonomous Agent with Deep Q-Learning Abilities”. Entropy 24 (8): 1168. Bibcode: 2022Entrp..24.1168M. doi:10.3390/e24081168. PMC 9407070. PMID 36010832. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9407070/.  ^ Williams, Ronald J. (1987). "A class of gradient-estimating algorithms for reinforcement learning in neural networks". Proceedings of the IEEE First International Conference on Neural Networks. CiteSeerX 10.1.1.129.8871。 ^ Peters, Jan; Vijayakumar, Sethu; Schaal, Stefan (2003). "Reinforcement Learning for Humanoid Robotics" (PDF). IEEE-RAS International Conference on Humanoid Robots. ^ Juliani, Arthur (2016年12月17日). “Simple Reinforcement Learning with Tensorflow Part 8: Asynchronous Actor-Critic Agents (A3C)”. Medium. 2018年2月22日閲覧。 ^ Deisenroth, Marc Peter; Neumann, Gerhard; Peters, Jan (2013). A Survey on Policy Search for Robotics. Foundations and Trends in Robotics. 2. NOW Publishers. pp. 1–142. doi:10.1561/2300000021. hdl:10044/1/12051. http://eprints.lincoln.ac.uk/28029/1/PolicySearchReview.pdf  ^ Sutton, Richard (1990). "Integrated Architectures for Learning, Planning and Reacting based on Dynamic Programming". Machine Learning: Proceedings of the Seventh International Workshop. ^ Lin, Long-Ji (1992). "Self-improving reactive agents based on reinforcement learning, planning and teaching" (PDF). Machine Learning volume 8. doi:10.1007/BF00992699。 ^ van Hasselt, Hado; Hessel, Matteo; Aslanides, John (2019). "When to use parametric models in reinforcement learning?" (PDF). Advances in Neural Information Processing Systems 32. ^ “On the Use of Reinforcement Learning for Testing Game Mechanics : ACM - Computers in Entertainment” (英語). cie.acm.org. 2018年11月27日閲覧。 ^ Riveret, Regis; Gao, Yang (2019). “A probabilistic argumentation framework for reinforcement learning agents” (英語). Autonomous Agents and Multi-Agent Systems 33 (1–2): 216–274. doi:10.1007/s10458-019-09404-2.  ^ Yamagata, Taku; McConville, Ryan; Santos-Rodriguez, Raul (16 November 2021). "Reinforcement Learning with Feedback from Multiple Humans with Diverse Skills". arXiv:2111.08596 [cs.LG]。 ^ Kulkarni, Tejas D.; Narasimhan, Karthik R.; Saeedi, Ardavan; Tenenbaum, Joshua B. (2016). “Hierarchical Deep Reinforcement Learning: Integrating Temporal Abstraction and Intrinsic Motivation”. Proceedings of the 30th International Conference on Neural Information Processing Systems. NIPS'16 (USA: Curran Associates Inc.): 3682–3690. arXiv:1604.06057. Bibcode: 2016arXiv160406057K. ISBN 978-1-5108-3881-9. http://dl.acm.org/citation.cfm?id=3157382.3157509.  ^ “Reinforcement Learning / Successes of Reinforcement Learning”. umichrl.pbworks.com. 2017年8月6日閲覧。 ^ Quested, Tony. “Smartphones get smarter with Essex innovation”. Business Weekly. 2021年6月17日閲覧。 ^ Dey, Somdip; Singh, Amit Kumar; Wang, Xiaohang; McDonald-Maier, Klaus (March 2020). “User Interaction Aware Reinforcement Learning for Power and Thermal Efficiency of CPU-GPU Mobile MPSoCs”. 2020 Design, Automation Test in Europe Conference Exhibition (DATE): 1728–1733. doi:10.23919/DATE48585.2020.9116294. ISBN 978-3-9819263-4-7. https://ieeexplore.ieee.org/document/9116294.  ^ Williams, Rhiannon (2020年7月21日). “Future smartphones 'will prolong their own battery life by monitoring owners' behaviour'” (英語). i. 2021年6月17日閲覧。 ^ Kaplan, F.; Oudeyer, P. (2004). “Maximizing learning progress: an internal reward system for development”. In Iida, F.; Pfeifer, R.; Steels, L. et al.. Embodied Artificial Intelligence. Lecture Notes in Computer Science. 3139. Berlin; Heidelberg: Springer. pp. 259–270. doi:10.1007/978-3-540-27833-7_19. ISBN 978-3-540-22484-6  ^ Klyubin, A.; Polani, D.; Nehaniv, C. (2008). “Keep your options open: an information-based driving principle for sensorimotor systems”. PLOS ONE 3 (12): e4018. Bibcode: 2008PLoSO...3.4018K. doi:10.1371/journal.pone.0004018. PMC 2607028. PMID 19107219. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC2607028/.  ^ Barto, A. G. (2013). “Intrinsic motivation and reinforcement learning”. Intrinsically Motivated Learning in Natural and Artificial Systems. Berlin; Heidelberg: Springer. pp. 17–47. https://people.cs.umass.edu/~barto/IMCleVer-chapter-totypeset2.pdf  ^ Dabérius, Kevin; Granat, Elvin; Karlsson, Patrik (2020). “Deep Execution - Value and Policy Based Reinforcement Learning for Trading and Beating Market Benchmarks”. The Journal of Machine Learning in Finance 1. SSRN 3374766.  ^ George Karimpanal, Thommen; Bouffanais, Roland (2019). “Self-organizing maps for storage and transfer of knowledge in reinforcement learning” (英語). Adaptive Behavior 27 (2): 111–126. arXiv:1811.08318. doi:10.1177/1059712318818568. ISSN 1059-7123.  ^ Soucek, Branko (6 May 1992). Dynamic, Genetic and Chaotic Programming: The Sixth-Generation Computer Technology Series. John Wiley & Sons, Inc. p. 38. ISBN 0-471-55717-X  ^ Francois-Lavet, Vincent (2018). “An Introduction to Deep Reinforcement Learning”. Foundations and Trends in Machine Learning 11 (3–4): 219–354. arXiv:1811.12560. Bibcode: 2018arXiv181112560F. doi:10.1561/2200000071.  ^ Mnih, Volodymyr (2015). “Human-level control through deep reinforcement learning”. Nature 518 (7540): 529–533. Bibcode: 2015Natur.518..529M. doi:10.1038/nature14236. PMID 25719670. https://www.semanticscholar.org/paper/e0e9a94c4a6ba219e768b4e59f72c18f0a22e23d.  ^ Goodfellow, Ian; Shlens, Jonathan; Szegedy, Christian (2015). “Explaining and Harnessing Adversarial Examples”. International Conference on Learning Representations. arXiv:1412.6572.  ^ Behzadan, Vahid; Munir, Arslan (2017). “Vulnerability of Deep Reinforcement Learning to Policy Induction Attacks”. International Conference on Machine Learning and Data Mining in Pattern Recognition. Lecture Notes in Computer Science 10358: 262–275. arXiv:1701.04143. doi:10.1007/978-3-319-62416-7_19. ISBN 978-3-319-62415-0.  ^ Pieter, Huang, Sandy Papernot, Nicolas Goodfellow, Ian Duan, Yan Abbeel (2017-02-07). Adversarial Attacks on Neural Network Policies. OCLC 1106256905. http://worldcat.org/oclc/1106256905  ^ Korkmaz, Ezgi (2022). “Deep Reinforcement Learning Policies Learn Shared Adversarial Features Across MDPs.”. Thirty-Sixth AAAI Conference on Artificial Intelligence (AAAI-22) 36 (7): 7229–7238. doi:10.1609/aaai.v36i7.20684.  ^ Berenji, H.R. (1994). “Fuzzy Q-learning: a new approach for fuzzy dynamic programming”. Proc. IEEE 3rd International Fuzzy Systems Conference (Orlando, FL, USA: IEEE): 486–491. doi:10.1109/FUZZY.1994.343737. ISBN 0-7803-1896-X. https://ieeexplore.ieee.org/document/343737.  ^ Vincze, David (2017). “Fuzzy rule interpolation and reinforcement learning”. 2017 IEEE 15th International Symposium on Applied Machine Intelligence and Informatics (SAMI). IEEE. pp. 173–178. doi:10.1109/SAMI.2017.7880298. ISBN 978-1-5090-5655-2. http://users.iit.uni-miskolc.hu/~vinczed/research/vinczed_sami2017_author_draft.pdf  ^ Ng, A. Y.; Russell, S. J. (2000). “Algorithms for Inverse Reinforcement Learning”. Proceeding ICML '00 Proceedings of the Seventeenth International Conference on Machine Learning. pp. 663–670. ISBN 1-55860-707-2. https://ai.stanford.edu/~ang/papers/icml00-irl.pdf  ^ García, Javier; Fernández, Fernando (1 January 2015). “A comprehensive survey on safe reinforcement learning”. The Journal of Machine Learning Research 16 (1): 1437–1480. https://jmlr.org/papers/volume16/garcia15a/garcia15a.pdf.  Annaswamy, Anuradha M. (3 May 2023). “Adaptive Control and Intersections with Reinforcement Learning” (英語). Annual Review of Control, Robotics, and Autonomous Systems 6 (1): 65–93. doi:10.1146/annurev-control-062922-090153. ISSN 2573-5144. https://doi.org/10.1146/annurev-control-062922-090153.  Auer, Peter; Jaksch, Thomas; Ortner, Ronald (2010). “Near-optimal regret bounds for reinforcement learning”. Journal of Machine Learning Research 11: 1563–1600. http://jmlr.csail.mit.edu/papers/v11/jaksch10a.html.  Busoniu, Lucian; Babuska, Robert; De Schutter, Bart; Ernst, Damien (2010). Reinforcement Learning and Dynamic Programming using Function Approximators. Taylor & Francis CRC Press. ISBN 978-1-4398-2108-4. http://www.dcsc.tudelft.nl/rlbook/  François-Lavet, Vincent; Henderson, Peter; Islam, Riashat; Bellemare, Marc G.; Pineau, Joelle (2018). “An Introduction to Deep Reinforcement Learning”. Foundations and Trends in Machine Learning 11 (3–4): 219–354. arXiv:1811.12560. Bibcode: 2018arXiv181112560F. doi:10.1561/2200000071.  Powell, Warren (2011). Approximate dynamic programming: solving the curses of dimensionality. Wiley-Interscience. http://www.castlelab.princeton.edu/adp.htm  Sutton, Richard S.; Barto, Andrew G. (2018). Reinforcement Learning: An Introduction (2 ed.). MIT Press. ISBN 978-0-262-03924-6. http://incompleteideas.net/sutton/book/the-book.html  Sutton, Richard S. (1988). “Learning to predict by the method of temporal differences”. Machine Learning 3: 9–44. doi:10.1007/BF00115009. http://incompleteideas.net/sutton/publications.html#TD_paper.  Szita, Istvan; Szepesvari, Csaba (2010). "Model-based Reinforcement Learning with Nearly Tight Exploration Complexity Bounds" (PDF). ICML 2010. Omnipress. pp. 1031–1038. 2010年7月14日時点のオリジナル (PDF)よりアーカイブ。 Reinforcement Learning Repository Reinforcement Learning and Artificial Intelligence (RLAI, Rich Sutton's lab at the University of Alberta) Autonomous Learning Laboratory (ALL, Andrew Barto's lab at the University of Massachusetts Amherst) Real-world reinforcement learning experiments Archived 2018-10-08 at the Wayback Machine. at Delft University of Technology Stanford University Andrew Ng Lecture on Reinforcement Learning Dissecting Reinforcement Learning Series of blog post on RL with Python code A (Long) Peek into Reinforcement Learning Reinforcement Learning （英語） - スカラーペディア百科事典「強化学習」の項目。 強化学習とは？ 木村 元ら 強化学習FAQ Suttonの強化学習FAQ(英語)の日本語訳