随机博弈

随机博弈（英語：stochastic game），或称随机赛局、随机對局，在博弈论中是一类由一个或多个参与者所进行的、具有状态概率转移的动态博弈，由劳埃德·夏普利（Lloyd Shapley）於20世纪50年代初期提出。 这类博弈由一系列阶段组成。在博弈中每一阶段的起始，博弈处於某种特定状态。每一参与者选择某种行动，然後会获得取决於当前状态和所选择行动的收益。之後，博弈发展到下一阶段，处於一个新的随机状态，这一随机状态的分布取决於先前状态和各位参与者选择的行动。在新状态中重复上述过程，然後博弈继续进行有限或无限个数的阶段。一个参与者得到的总收益常用各阶段收益的贴现和，或是各阶段收益平均值的下极限来计算。 随机博弈的组成部分有：有限参与者集 I {\displaystyle I} ；状态空间 M {\displaystyle M} （可以是有限集，也可以是可测空间 ( M , A ) {\displaystyle (M,{\mathcal {A}})} ）；对於每一参与者 i ∈ I {\displaystyle i\in I} ，存在行动集 S i {\displaystyle S^{i}\,} （可以是有限集，也可以是可测空间 ( S i , S i ) {\displaystyle (S^{i},{\mathcal {S}}^{i})} ）； P {\displaystyle P} 是 M × S {\displaystyle M\times S} 到 M {\displaystyle M} 的转移概率，其中 S = × i ∈ I S i {\displaystyle S=\times _{i\in I}S^{i}} 是行动组合， P ( A ∣ m , s ) {\displaystyle P(A\mid m,s)} 是下一状态处於 A {\displaystyle A} 中的概率，而 A {\displaystyle A} 给定了当前状态 m {\displaystyle m} 和当前行动组合 s {\displaystyle s} ；从 M × S {\displaystyle M\times S} 到 R I {\displaystyle R^{I}\,} 的收益函数 g {\displaystyle g} ，其中 g {\displaystyle g} 的第 i {\displaystyle i} 个坐标 g i {\displaystyle g^{i}\,} 是参与者 i {\displaystyle i} 的收益，而 g i {\displaystyle g^{i}\,} 是状态 m {\displaystyle m} 和行动组合 s {\displaystyle s} 的函数。 博弈以某个初始状态 m 1 {\displaystyle m_{1}} 开始。在阶段 t {\displaystyle t} 中，参与者最先观测到 m t {\displaystyle m_{t}} ，同时选择行动 s t i ∈ S i {\displaystyle s_{t}^{i}\in S^{i}} ，然後观测到行动组合 s t = ( s t i ) i {\displaystyle s_{t}=(s_{t}^{i})_{i}} ，然後以概率 P ( ⋅ ∣ m t , s t ) {\displaystyle P(\cdot \mid m_{t},s_{t})} 自然选择 m t + 1 {\displaystyle m_{t+1}} 。一次随机博弈 m 1 , s 1 , … , m t , s t , … {\displaystyle m_{1},s_{1},\ldots ,m_{t},s_{t},\ldots } 定义了一个收益流 g 1 , g 2 , … {\displaystyle g_{1},g_{2},\ldots } ，其中 g t = g ( m t , s t ) {\displaystyle g_{t}=g(m_{t},s_{t})\,} 。 下面给出随机博弈的一个例子： 当前有任意个装着球的桶，每个桶中球的数目也是任意的，两位参与者轮流从中取出球，且需要遵守如下规则： 每一步应至少取出一只球，且只能从某一桶中取走部分或全部球； 谁取到最后一只球，谁就获胜。 贴现因子为 λ {\displaystyle \lambda } （ 0 < λ ≤ 1 {\displaystyle 0<\lambda \leq 1} ）的贴现博弈 Γ λ {\displaystyle \Gamma _{\lambda }} 中，参与者 i {\displaystyle i} 的收益是 λ ∑ t = 1 ∞ ( 1 − λ ) t − 1 g t i {\displaystyle \lambda \sum _{t=1}^{\infty }(1-\lambda )^{t-1}g_{t}^{i}} 。 n {\displaystyle n} 阶段博弈中，参与者 i {\displaystyle i} 的收益是 g ¯ n i := 1 n ∑ t = 1 n g t i {\displaystyle {\bar {g}}_{n}^{i}:={\frac {1}{n}}\sum _{t=1}^{n}g_{t}^{i}} 。 若存在有限多个状态和行动的二人零和博弈 Γ n {\displaystyle \Gamma _{n}} （各自是 Γ λ {\displaystyle \Gamma _{\lambda }} ）的值为 v n ( m 1 ) {\displaystyle v_{n}(m_{1})} （各自是 v λ ( m 1 ) {\displaystyle v_{\lambda }(m_{1})} ），则 v n ( m 1 ) {\displaystyle v_{n}(m_{1})} 在 n {\displaystyle n} 趋於无穷时收敛到一个极限，且 v λ ( m 1 ) {\displaystyle v_{\lambda }(m_{1})} 在 λ {\displaystyle \lambda } 趋於 0 {\displaystyle 0} 时收敛到相同的极限。这一结论已被杜鲁门·彪利（Truman Bewley）和艾朗·克尔伯格（Elon Kohlberg）於1976年证明。 非贴现博弈 Γ ∞ {\displaystyle \Gamma _{\infty }} 中，参与者 i {\displaystyle i} 的收益是各阶段收益平均值的极限。在定义二人零和博弈 Γ ∞ {\displaystyle \Gamma _{\infty }} 的值与非零和博弈 Γ ∞ {\displaystyle \Gamma _{\infty }} 的均衡收益之前需要注意一些事情：若对於每一 ε > 0 {\displaystyle \varepsilon >0} 都有正整数 N {\displaystyle N} 、参与者1的策略 σ ε {\displaystyle \sigma _{\varepsilon }} 和参与者2的策略 τ ε {\displaystyle \tau _{\varepsilon }} ，二人零和随机博弈 Γ ∞ {\displaystyle \Gamma _{\infty }} 的一致值（uniform value） v ∞ {\displaystyle v_{\infty }} 存在，这样对於每一 σ {\displaystyle \sigma } 、 τ {\displaystyle \tau } 和每一 n ≥ N {\displaystyle n\geq N} ，博弈中由 σ ε {\displaystyle \sigma _{\varepsilon }} 和 τ {\displaystyle \tau } 定义的概率的 g ¯ n i {\displaystyle {\bar {g}}_{n}^{i}} 期望至少为 v ∞ − ε {\displaystyle v_{\infty }-\varepsilon } ，由 σ {\displaystyle \sigma } 和 τ ε {\displaystyle \tau _{\varepsilon }} 定义的概率的 g ¯ n i {\displaystyle {\bar {g}}_{n}^{i}} 期望至多为 v ∞ + ε {\displaystyle v_{\infty }+\varepsilon } 。让·弗朗索瓦·梅顿斯（Jean Francois Mertens）和亚伯拉罕·奈曼（Abraham Neyman）於1981年证明二人零和随机博弈具有一致值。 若参与者数量有限且行动集和状态集有限，则有限阶段随机博弈总有纳什均衡，对於总收益是贴现和的无限多阶段随机博弈也是如此。尼古拉斯·维勒（Nicolas Vieille）已经证明当总收益是各阶段收益平均值的下极限时，所有具有有限状态和行动空间的二人随机博弈都有近似纳什均衡。不过，当参与者多於2名时，随机博弈是否存在这类均衡仍是一个极具挑战性的开放性问题。 随机博弈在经济学、演化生物学和计算机网络中都有应用。事实上，随机博弈是重复博弈这类每一阶段都处於相同状态的博弈的一般化形式。 有关随机博弈的最全面的参考书籍是奈曼和索林编著的文集。菲拉尔和乌瑞兹所著的书籍更为基础，书中提供了马尔可夫决策过程（MDP）和二人随机博弈理论的严密的统一处理方法。他们创造了Competitive MDPs这一术语来概括一人和二人随机博弈。 Lloyd Stowell Shapley. Stochastic games. Proc. Nat. Acad. Sciences. October 1953, 39 (10): 第1095－1100页. ISSN 1091-6490. PMC 1063912 .  Abraham Neyman，Sylvain Sorin. Stochastic Games and Applications. Kluwer Academic Press. 2003年10月31日. ISBN 978-1402014932 （英语）.  Jean Francois Mertens，Abraham Neyman. Stochastic Games (PDF). International Journal of Game Theory. June 1981, 10 (2): 第53－66页. ISSN 0020-7276. [永久失效連結] 电子版：ISSN 1432-1270 Nicolas Vieille. Stochastic games: Recent results. R.J. Aumann，S. Hart (编). Handbook of Game Theory with Economic Applications. North-Holland. 2002年9月2日: 第1833–1850页 [2010年9月7日]. ISBN 978-0-444-89428-1. doi:10.1016/S1574-0005(02)03011-4. （原始内容 (精装书)存档于2018年1月2日） （英语）.  Eitan Altman，Konstantin Avrachenkov，Nicolas Bonneau，Mérouane Debbah，Rachid El-Azouzi，Daniel Menasché. Constrained Stochastic Games in Wireless Networks. Global Telecommunications Conference, 2007. GLOBECOM '07. IEEE. Washington, DC: 第315－320页. 2007年11月26日－30日 [2010年9月7日]. doi:10.1109/GLOCOM.2007.66. ISBN 978-1-4244-1043-9. （原始内容存档于2016年3月4日）.  请检查|date=中的日期值 (帮助) [] [1] （页面存档备份，存于互联网档案馆） Jerzy A. Filar，Koos Vrieze. Competitive Markov Decision Processes. Springer-Verlag. 1996年11月15日. ISBN 978-0387948058 （英语）.  Anne Condon. The complexity of stochastic games. Information and Computation. 1992, 96 (2): 第203－224页 [2010-09-07]. ISSN 0890-5401. doi:10.1016/0890-5401(92)90048-K. （原始内容存档于2013-06-03）.