标题：蒙特卡罗算法
算法来源
蒙特卡罗是摩纳哥的一个城市，以赌博闻名于世界。蒙特卡罗法借用这
  Monte-Carlo, Monaco
一城市的名称是为了象征性地表明该方法的概率统计的特点。
算法发展
蒙特卡罗法作为一种计算方法，是由S.M.乌拉姆，J.冯·诺伊曼和N.梅特罗波利斯在20世纪40年代中叶为研制核武器的需要而首先提出来的。在此之前，该方法的基本思想实际上早已被统计学家所采用了。例如，早在17世纪，人们就知道了依频数来决定概率的方法。
20世纪40年代中叶，出现了电子计算机，使得用数学方法模拟大量的试验成为可能。另外，随着科学技术的不断发展，出现了越来越多的复杂而困难的问题，用通常的解析方法或数值方法都很难加以解决。蒙特卡罗法就是在这些情况下，作为一种可行的而且是不可缺少的计算方法被提出和迅速发展起来的。
算法基本思想
蒲丰氏问题为了求得圆周率π值，在十九世纪后期，有很多人作了这样的试验：将长为l的  蒲丰投针一根针任意投到地面上，用针与一组相间距为a（l<a）的平行线相交的频率代替概率P，再利用准确的关系式：P=2l/πa。于是有：π=2lN/an；其中N为投针次数，n为针与平行线相交的次数。这就是古典概率论中著名的蒲丰氏问题。
一些人进行了实验，其结果列于下表：
实验者
年份
投针次数
π的实验值
Wolf
1850
5000
3.1596
Smith
1855
3204
3.1553
Fox
1894
1120
3.1419
Lazzarini
1901
3408
3.1415929
射击问题设射击运动员的弹着点分布为：
蒙特卡罗法计算此积分是用
作为G 的近似估计，式中(X1n，X2n，…，Xsn)是由(x1，x2，…，xs)中抽取的第n 个样本点。同上述一维积分比较，相同点是，都以某随机变量的N 个独立抽样值的算术平均作为近似估计；不同点仅仅是，决定随机量的样本点不同，一个是一维空间的点，另一个是S 维空间的点。由上式可见， 决定近似估计 弿N好坏的仅仅是随机变量g(x)或g(x1，x2，…，xs)的分布情况，而与它们是由怎样的样本点对应过来的无关。换言之，如果随机变量g(x)和g(x1，x2，…，xs)具有相同分布，在不计抽样，不计计算g(x)和g(x1，x2，…，xs)的差别的情况下，S维情况与一维情况无任何差异。这是其他计算方法所不具有的、一个非常重要的性质。
蒙特卡罗法解题的一般过程是，首先构成一个概率空间；然后在该概率空间中确定一个随机变量g(x)，其数学期望
正好等于所要求的值G，其中F(x)为x的分布函数；最后，以所确定的随机变量的简单子样的算术平均值
作为G 的近似估计。由于其他原因，如确定数学期望为G 的随机变量g(x)有困难，或为其他目的，蒙特卡罗法有时也用G 的渐近无偏估计代替一般过程中的无偏估计弿N来作为G 的近似估计。
收敛性、误差和费用 　蒙特卡罗法的近似估计弿N依概率1收敛于G的充分必要条件是随机变量g(x)满足
。
如果随机变量g(x)满足条件
，
式中1≤r<2，则
，
亦即弿N依概率1收敛于G 的速度为。总之，蒙特卡罗法的收敛性取决于所确定的随机变量是否绝对可积，而蒙特卡罗法的收敛速度取决于该随机变量是几次绝对可积的。
根据中心极限定理，只要随机变量g(x)具有有限的异于零的方差σ2，当N 足够大时便有蒙特卡罗法的误差公式如下：
，
式中1-α为置信水平，x由置信水平所惟一确定。根据上述误差公式，为满足问题的误差和置信水平的要求，子样容量N必须大于(x/ε)2σ2，其中ε表示误差。进一步假设每观察一个样本所需要的费用是C，则蒙特卡罗法的费用是。这一结果表明，在相同误差和置信水平要求下，一个蒙特卡罗法的优劣完全取决于σ2C 的值的大小，它的值越小相应的方法越好，或者说，蒙特卡罗法的效率与σ2C 成反比。降低方差技巧降低方差是提高蒙特卡罗法效率的重要途径之一。考虑二重积分
，
式中(x，y)为x和y的分布密度函数，g(x，y)的方差存在。蒙特卡罗法计算Eg的一般技巧是用g=g(x， y)作为所确定的随机变量，其中x和y服从分布(x，y)。降低方差的具体办法有：
① 统计估计技巧　用(x) 和码(y)分别表示分布(x，y)的边缘分布和条件分布。计算Eg的统计估计技巧是用y的统计估计量
作为所确定的随机变量，其中x服从分布(x)。g的方差恰好为两个方差的和，它们分别是对随机变量x和随机变量y采用抽样办法而产生的。gSE的方差正好等于前者，因此gSE的方差一定比g的方差小。统计估计技巧的一般原理是，对于问题中所出现的诸随机变量，能够确定其相应的统计估计量的，就不要再对它们采用随机抽样的办法。
② 重要抽样技巧　引入任意分布密度函数*(x，y)，则
的数学期望同样为Eg，其中x和y服从分布*(x，y)。当*(x，y)～|g(x，y)|(x，y)时，gIS的方差达到最小。在g(x，y)≥0时，方差等于零，gIS实际上变成了与其中出现的随机变量无关的常数。重要抽样技巧的一般原理是，尽量使所确定的随机变量与问题中所出现的随机变量关系不大。
③ 相关抽样技巧　考虑一个新的、积分值已知的二重积分
，
可得知
的数学期望同样为Eg，式中x和y服从分布(x，y)，α为任意常数。当为随机变量g(x，y)和g*(x，y)的均方差σg、λg*之比时，gCS的方差达到最小。此时的方差等于g 的方差 1-ρ2倍，ρ为随机变量g(x，y)和g*(x，y)的相关系数。当ρ=1时，方差变为零。相关抽样技巧的一般原理是，寻找一个数学期望已知的且与原确定的随机变量正相关的随机变量，使相应的相关系数尽量接近1，然后用这两个随机变量的线性组合作为蒙特卡罗法最终所确定的随机变量。
降低方差的技巧还有对偶变数技巧、系统抽样技巧和分层抽样技巧等。对偶变数技巧的一般原理是，除了原确定的随机变量外，寻找另一个（或多个）具有相同数学期望的随机变量，使得它们之间尽量是对偶负相关的，然后用它们的线性组合作为蒙特卡罗法最终所确定的随机变量。系统抽样技巧的一般原理是，对问题中所出现的某些随机变量按相应分布所确定的比例进行抽样，而不是进行随机抽样。分层抽样技巧的一般原理是，对问题中所出现的某些随机变量进行分层，尽量使所确定的随机变量在各层中相对平稳，各层间的抽样按相应分布所确定的比例进行。
其他途径 　为了提高蒙特卡罗法的效率，除了简单地降低方差外，还有为降低费用设计的分裂和轮盘赌技巧，为逐步降低方差而设计的多极抽样技巧，为改善收敛速度而设计的拟蒙特卡罗法，为计算条件期望而设计的条件蒙特卡罗法等等。分裂和轮盘赌技巧的一般原理是，将x的积分区域分为重要和非重要两部分，对于抽样确定的X，当它属于重要区域时，对相应的Y 进行多次抽样；当它属于非重要区域时，只有在赌获胜时才对相应的Y 进行抽样。多级抽样技巧的一般原理是，在进行某一级抽样计算的同时，根据它所提供的抽样观察值，设计更好的抽样技巧，用新设计的抽样技巧进行新的一级的抽样计算，依次类推，最后用各级的结果的线性组合作为蒙特卡罗法的近似估计。拟蒙特卡罗法与一般蒙特卡罗法的最大区别是，前者不像后者那样要求子样 g(X1)，g(X2)，…，g(Xn)是相互独立的。用一致分布点列替代由随机数组成的点列的所谓数论方法，实际上就是一种拟蒙特卡罗法。条件蒙特卡罗法的一般原理是，首先将条件期望问题转化成为非条件期望问题，然后用解非条件期望的一般方法来解决条件期望计算问题。由于条件蒙特卡罗法中引进了任意分布密度函数，因此，可以选取合适的分布密度函数来实现进一步降低方差的目的。
优缺点 　蒙特卡罗法的最大优点是，在方差存在的情况下，问题的维数不影响它的收敛速度，而只影响它的方差；问题几何形状的复杂性对它的影响不大；它不象其他数值方法那样对问题一定要进行离散化处理，而是常可以进行连续处理；它的程序结构简单，所需计算机存贮单元比其他数值方法少，这对于高维问题差别尤其显著。蒙特卡罗法的最大缺点是，对于维数少的问题它不如其他数值方法好；它的误差是概率误差，而不是一般意义下的误差。
应用 　随着电子计算机的迅速发展和科学技术问题日趋复杂，蒙特卡罗法的应用越来越广泛，已经渗透到科学技术的各个领域。
在一些典型数学问题方面的应用主要有：多重积分计算、线性代数方程组求解、矩阵求逆、常微分方程边值问题求解、偏微分方程求解、非齐次线性积分方程求解、本征值计算和最优化计算等等。其中的多重积分计算、非齐次线性积分方程求解和齐次线性积分方程本征值计算等，不仅非常有代表性，而且有很大的实用价值，对于高维问题常比其他数值方法好。
在一些实际问题方面的应用主要有，屏蔽计算、核临界安全计算、反应堆物理计算、微扰计算、实验核物理计算、高能物理计算、核物理计算、统计物理计算、真空技术、公用事业、信息论、系统模拟、可靠性计算和计算机科学等等。其中的屏蔽计算、核临界安全计算、微扰计算、实验核物理计算和统计物理计算等，不仅非常有代表性，而且应用得很广泛，按蒙特卡罗法解决这些问题的能力讲，已经超过了其他计算方法的水平。