몬테카를로 방법

몬테카를로 방법(Monte Carlo method) 또는 몬테카를로 실험은 반복된 무작위 추출(repeated random sampling)을 이용하여 함수의 값을 수리적으로 근사하는 알고리즘을 부르는 용어이다. 수학이나 물리학 등에 자주 사용되며, 계산하려는 값이 닫힌 형식으로 표현되지 않거나 복잡한 경우에 근사적으로 계산할 때 사용된다. 몬테카를로 방법은 주로 확률 분포에서 확률 변수값을 생성하는 작업, 수학적 최적화, 수치적분 등에서 활용된다. 알고리즘의 반복과 큰 수의 계산이 관련되기 때문에 몬테카를로 방법은 다양한 컴퓨터 모의 실험 기술을 사용하여 컴퓨터로 계산하는 것이 적합하다. 엔리코 페르미가 중성자의 특성을 연구하기 위해 이 방법을 사용한 것으로 유명하다. 맨해튼 계획의 시뮬레이션이나 수소폭탄의 개발에서도 핵심적인 역할을 담당하였다. 몬테카를로(Monte Carlo)라는 용어 또한 맨해튼 계획에 참여하고 있던 니콜라스 메트로폴리스가 맨해튼 계획이 끝나가던 1947년에 제안한 이름이다. 맨해튼 계획 당시 그의 동료였던 폴란드 출신 수학자 스타니스와프 울람에게는 삼촌이 있었는데, 그는 모나코의 유명한 도박의 도시 몬테카를로에서 도박을 하기 위해 친척들의 돈을 종종 빌려갔다. 몬테카를로 방법 또한 무작위성이 있으므로 이로부터 이름이 유래된 것이 지금까지 이어져 내려왔다. 물리 문제에서 몬테카를로 방법은 유체, 무질서한 물질, 강하게 결합한 고체 및 세포 구조와 같은 많은 결합 자유도를 가진 시스템을 모의실험하는 데 유용하다. 그 밖의 예로는 사업의 위험성 계산과 같은 입력 값에 상당한 불확실성이 있는 모델링 현상과, 수학에서는 복잡한 경계 조건을 가진 다차원의 정적분이 있다. 우주, 석유 탐사, 항공기 설계 등의 시스템 엔지니어링 문제에 적용할 경우, 실패, 비용 초과 및 스케줄 초과에 대한 몬테카를로 방법 기반의 예측은 많은 경우 인간의 직관 또는 수리적인 계산이 적은 다른 대안들보다 나은 결과를 가져온다. 대체적으로, 몬테카를로 방법은 확률론적 해석을 가진 문제를 해결하기 위해 사용될 수 있다. 큰 수의 법칙에 의해, 어떤 확률 변수의 기댓값으로 설명되는 적분는 랜덤표본(random sample)의 표본 평균을 취함으로써 근사치를 구할 수 있다. 변수의 확률 분포가 매개변수로 표현 가능할 때는 주로 마르코프 연쇄 몬테카를로(MCMC) 샘플러를 사용한다. MCMC 방법에 의해 생성되는 표본의 극한 분포는 원하는 (목표) 분포의 표본이 될 것이기 때문에 핵심 아이디어는 잘 규정된 정상(stationary) 확률 분포를 가진 마르코프 연쇄 모델을 설계하는 것이다. 에르고딕 정리에 의해, 정상(stationary) 확률 분포는 MCMC 샘플러의 무작위 상태의 경험적 측도에 의해 근사된다. 다른 문제에서의 목표는 비선형 발전 방정식(evolution equation)을 만족시키는 일련의 확률 분포에서 표본을 뽑는 것이다. 이러한 확률 분포의 흐름은 변환 확률이 현재 무작위 상태의 분포에 따라 달라지는 마르코프 연쇄의 무작위 상태의 분포로 항상 해석될 수 있다. (McKean – Vlasov 프로세스, 비선형 필터링 방정식 참조). 다른 경우에는 시간 지평선이 증가하는 경로 공간 모델, 온도 매개변수 감소와 관련된 Boltzmann – Gibbs 측도 등 표본 복잡도가 증가하는 확률 분포의 흐름이 주어진다. 이 모델들은 비선형 마르코프 연쇄의 무작위 상태의 법칙이 발전된 것으로도 볼 수 있다. 이러한 정교한 비선형 마르코프 연쇄를 시뮬레이션하는 자연스러운 방법은 해당 마르코프 연쇄의 많은 사본을 표집하여 발전 방정식(evolution equation)에서 무작위 상태의 알 수 없는 분포를 표본의 경험적 측도로 대체하는 것이다. 전통적인 몬테카를로 및 MCMC 방법과는 대조적으로, 이러한 평균-장 입자 방법은 순차적으로 상호작용하는 표본들에 의존한다. 평균-장이라는 용어는 각 표본(예: 입자, 개인, 보행자, 대리인, 생물 또는 표현형)이 마르코프 연쇄의 경험적 측도과 상호작용한다는 사실을 반영한다. 시스템의 크기가 무한대로 발산할 때, 이러한 무작위 경험적 측도는 비선형 마르코프 연쇄의 무작위 상태의 결정론적 분포로 수렴하여 입자 사이의 통계적 상호작용이 사라진다. 몬테카를로 방법은 다양하지만, 특정한 패턴을 따르는 경향이 있다. 표본 공간의 값으로 가능한 범위를 정의한다. 표본 공간의 확률 분포에서 임의로 표본을 뽑는다. (표집한다.) 표본에 대한 결정론적인 계산을 수행한다. 결과를 집계한다. 예를 들어 단위 정사각형에 새겨진 사분원(원형 부분)을 생각해 보자. 몬테카를로 방법을 사용해서 π {\displaystyle \pi } 의 값을 근사치로 추정할 수 있다. 정사각형을 그린 다음, 그 안에 사분원을 삽입한다. 정사각형 위에 일정한 개수의 점을 균일하게 분포한다. 사분원 내부의 점(즉, 원점으로부터 1 미만)의 개수를 센다. 내부의 개수와 전체 개수의 비율은 두 영역의 비율을 나타낸다. 그 값에 4를 곱하여 π {\displaystyle \pi } 를 만든다. 여기서 두 가지의 중요한 점이 있다. 점이 균일하게 분포되지 않으면 근사치가 떨어진다. 평균적으로 더 많은 점을 배치할수록 근사치가 개선된다. 다음은 원주율을 계산하는 몬테카를로 알고리즘의 한 예시이다. [ 1 , 0 ] × [ 0 , 1 ] {\displaystyle [1,0]\times [0,1]} 에서 점 ( x , y ) {\displaystyle (x,y)} 를 표집한다. 표집한 점이 중심이 ( 0 , 0 ) {\displaystyle (0,0)} 에 있고 반지름이 1인 원에 속하는지 계산한다. 이는 원의 정의에 따라 x 2 + y 2 {\displaystyle x^{2}+y^{2}} 와 1을 비교함으로써 계산할 수 있다. 위의 두 과정을 충분히 반복하여, 원에 속한 점들의 개수를 계산한다. 표집 영역과 원의 공통 영역은 π / 4 {\displaystyle \pi /4} 의 넓이를 가지며, 원에 속한 점 개수를 전체 점 개수로 나눈 비율은 π / 4 {\displaystyle \pi /4} 를 근사한다. 몬테카를로 알고리즘 준몬테카를로 방법 Kroese, D. P.; Brereton, T.; Taimre, T.; Botev, Z. I. (2014). “Why the Monte Carlo method is so important today”. 《WIREs Comput Stat》 6 (6): 386–392. doi:10.1002/wics.1314. S2CID 18521840.  Metropolis, N. (1987). “The beginning of the Monte Carlo method” (PDF). 《Los Alamos Science》 (1987 Special Issue dedicated to Stanislaw Ulam): 125–130.  Hubbard, Douglas; Samuelson, Douglas A. (October 2009). “Modeling Without Measurements”. 《OR/MS Today》: 28–33.  Metropolis, Nicholas; Rosenbluth, Arianna W.; Rosenbluth, Marshall N.; Teller, Augusta H.; Teller, Edward (1953년 6월 1일). “Equation of State Calculations by Fast Computing Machines”. 《The Journal of Chemical Physics》 21 (6): 1087–1092. Bibcode:1953JChPh..21.1087M. doi:10.1063/1.1699114. ISSN 0021-9606. OSTI 4390578. S2CID 1046577.  Hastings, W. K. (1970년 4월 1일). “Monte Carlo sampling methods using Markov chains and their applications”. 《Biometrika》 57 (1): 97–109. Bibcode:1970Bimka..57...97H. doi:10.1093/biomet/57.1.97. ISSN 0006-3444. S2CID 21204149.  Liu, Jun S.; Liang, Faming; Wong, Wing Hung (2000년 3월 1일). “The Multiple-Try Method and Local Optimization in Metropolis Sampling”. 《Journal of the American Statistical Association》 95 (449): 121–134. doi:10.1080/01621459.2000.10473908. ISSN 0162-1459. S2CID 123468109.  Spall, J. C. (2003). “Estimation via Markov Chain Monte Carlo”. 《IEEE Control Systems Magazine》 23 (2): 34–45. doi:10.1109/MCS.2003.1188770.  Hill, Stacy D.; Spall, James C. (2019). “Stationarity and Convergence of the Metropolis-Hastings Algorithm: Insights into Theoretical Aspects”. 《IEEE Control Systems Magazine》 39: 56–67. doi:10.1109/MCS.2018.2876959. S2CID 58672766.  Kolokoltsov, Vassili (2010). 《Nonlinear Markov processes》. Cambridge Univ. Press. 375쪽.  Del Moral, Pierre (2013). 《Mean field simulation for Monte Carlo integration》. Chapman & Hall/CRC Press. 626쪽. Monographs on Statistics & Applied Probability  Del Moral, Pierre (2013). 《Mean field simulation for Monte Carlo integration》. Chapman & Hall/CRC Press. 626쪽. Monographs on Statistics & Applied Probability  Del Moral, P; Doucet, A; Jasra, A (2006). “Sequential Monte Carlo samplers”. 《Journal of the Royal Statistical Society, Series B》 68 (3): 411–436. arXiv:cond-mat/0212648. doi:10.1111/j.1467-9868.2006.00553.x. S2CID 12074789.  Kalos & Whitlock 2008. Anderson, Herbert L. (1986). “Metropolis, Monte Carlo and the MANIAC” (PDF). 《Los Alamos Science》 14: 96–108.  Benov, Dobriyan M. (2016). “The Manhattan Project, the first electronic computer and the Monte Carlo method”. 《Monte Carlo Methods and Applications》 22 (1): 73–79. doi:10.1515/mcma-2016-0102. S2CID 30198383.  Baeurle, Stephan A. (2009). “Multiscale modeling of polymer materials using field-theoretic methodologies: A survey about recent developments”. 《Journal of Mathematical Chemistry》 46 (2): 363–426. doi:10.1007/s10910-008-9467-3. S2CID 117867762.  Berg, Bernd A. (2004). 《Markov Chain Monte Carlo Simulations and Their Statistical Analysis (With Web-Based Fortran Code)》. Hackensack, NJ: World Scientific. ISBN 978-981-238-935-0.  Binder, Kurt (1995). 《The Monte Carlo Method in Condensed Matter Physics》. New York: Springer. ISBN 978-0-387-54369-7.  Caflisch, R. E. (1998). 《Monte Carlo and quasi-Monte Carlo methods》. Acta Numerica 7. Cambridge University Press. 1–49쪽.  Davenport, J. H. (1992). 〈Primality testing revisited〉. 《Papers from the international symposium on Symbolic and algebraic computation - ISSAC '92》. 《Proceeding ISSAC '92 Papers from the International Symposium on Symbolic and Algebraic Computation》. 123–129쪽. CiteSeerX 10.1.1.43.9296. doi:10.1145/143242.143290. ISBN 978-0-89791-489-5. S2CID 17322272.  Doucet, Arnaud; Freitas, Nando de; Gordon, Neil (2001). 《Sequential Monte Carlo methods in practice》. New York: Springer. ISBN 978-0-387-95146-1.  Eckhardt, Roger (1987). “Stan Ulam, John von Neumann, and the Monte Carlo method” (PDF). 《Los Alamos Science》 (15): 131–137.  Fishman, G. S. (1995). 《Monte Carlo: Concepts, Algorithms, and Applications》. New York: Springer. ISBN 978-0-387-94527-9.  C. Forastero and L. Zamora and D. Guirado and A. Lallena (2010). “A Monte Carlo tool to simulate breast cancer screening programmes”. 《Phys. Med. Biol.》 55 (17): 5213–5229. Bibcode:2010PMB....55.5213F. doi:10.1088/0031-9155/55/17/021. PMID 20714045.  Golden, Leslie M. (1979). “The Effect of Surface Roughness on the Transmission of Microwave Radiation Through a Planetary Surface”. 《Icarus》 38 (3): 451–455. Bibcode:1979Icar...38..451G. doi:10.1016/0019-1035(79)90199-4.  Gould, Harvey; Tobochnik, Jan (1988). 《An Introduction to Computer Simulation Methods, Part 2, Applications to Physical Systems》. Reading: Addison-Wesley. ISBN 978-0-201-16504-3.  Grinstead, Charles; Snell, J. Laurie (1997). 《Introduction to Probability》. American Mathematical Society. 10–11쪽.  Hammersley, J. M.; Handscomb, D. C. (1975). 《Monte Carlo Methods》. London: Methuen. ISBN 978-0-416-52340-9.  Hartmann, A.K. (2009). 《Practical Guide to Computer Simulations》. World Scientific. ISBN 978-981-283-415-7. 2009년 2월 11일에 원본 문서에서 보존된 문서.  Hubbard, Douglas (2007). 《How to Measure Anything: Finding the Value of Intangibles in Business》. John Wiley & Sons. 46쪽. ISBN 9780470110126.  Hubbard, Douglas (2009). 《The Failure of Risk Management: Why It's Broken and How to Fix It》. John Wiley & Sons.  Kahneman, D.; Tversky, A. (1982). 《Judgement under Uncertainty: Heuristics and Biases》. Cambridge University Press.  Kalos, Malvin H.; Whitlock, Paula A. (2008). 《Monte Carlo Methods》. Wiley-VCH. ISBN 978-3-527-40760-6.  Kroese, D. P.; Taimre, T.; Botev, Z.I. (2011). 《Handbook of Monte Carlo Methods》. New York: John Wiley & Sons. 772쪽. ISBN 978-0-470-17793-8.  MacGillivray, H. T.; Dodd, R. J. (1982). “Monte-Carlo simulations of galaxy systems”. 《Astrophysics and Space Science》 86 (2): 419–435. doi:10.1007/BF00683346. S2CID 189849365.  MacKeown, P. Kevin (1997). 《Stochastic Simulation in Physics》. New York: Springer. ISBN 978-981-3083-26-4.  Metropolis, N. (1987). “The beginning of the Monte Carlo method” (PDF). 《Los Alamos Science》 (1987 Special Issue dedicated to Stanislaw Ulam): 125–130.  Metropolis, N.; Rosenbluth, Arianna W.; Rosenbluth, Marshall N.; Teller, Augusta H.; Teller, Edward (1953). “Equation of State Calculations by Fast Computing Machines”. 《Journal of Chemical Physics》 21 (6): 1087. Bibcode:1953JChPh..21.1087M. doi:10.1063/1.1699114. OSTI 4390578.  Metropolis, N.; Ulam, S. (1949). “The Monte Carlo Method”. 《Journal of the American Statistical Association》 44 (247): 335–341. doi:10.1080/01621459.1949.10483310. JSTOR 2280232. PMID 18139350.  Milik, M.; Skolnick, J. (Jan 1993). “Insertion of peptide chains into lipid membranes: an off-lattice Monte Carlo dynamics model”. 《Proteins》 15 (1): 10–25. doi:10.1002/prot.340150104. PMID 8451235. S2CID 7450512.  Mosegaard, Klaus; Tarantola, Albert (1995). “Monte Carlo sampling of solutions to inverse problems” (PDF). 《J. Geophys. Res.》 100 (B7): 12431–12447. Bibcode:1995JGR...10012431M. doi:10.1029/94JB03097. 2021년 3월 10일에 원본 문서 (PDF)에서 보존된 문서. 2021년 9월 28일에 확인함.  Ojeda, P.; Garcia, M.; Londono, A.; Chen, N.Y. (Feb 2009). “Monte Carlo Simulations of Proteins in Cages: Influence of Confinement on the Stability of Intermediate States”. 《Biophys. J.》 96 (3): 1076–1082. Bibcode:2009BpJ....96.1076O. doi:10.1529/biophysj.107.125369. PMC 2716574. PMID 18849410.  Int Panis, L.; De Nocker, L.; De Vlieger, I.; Torfs, R. (2001). “Trends and uncertainty in air pollution impacts and external costs of Belgian passenger car traffic”. 《International Journal of Vehicle Design》 27 (1–4): 183–194. doi:10.1504/IJVD.2001.001963.  Int Panis, L.; Rabl, A.; De Nocker, L.; Torfs, R. (2002). Sturm, P., 편집. “Diesel or Petrol ? An environmental comparison hampered by uncertainty”. 《Mitteilungen Institut für Verbrennungskraftmaschinen und Thermodynamik》 (Technische Universität Graz Austria). Heft 81 Vol 1: 48–54.  Press, William H.; Teukolsky, Saul A.; Vetterling, William T.; Flannery, Brian P. (1996) [1986]. 《Numerical Recipes in Fortran 77: The Art of Scientific Computing》. Fortran Numerical Recipes 1 2판. Cambridge University Press. ISBN 978-0-521-43064-7.  Ripley, B. D. (1987). 《Stochastic Simulation》. Wiley & Sons.  Robert, C.; Casella, G. (2004). 《Monte Carlo Statistical Methods》 2판. New York: Springer. ISBN 978-0-387-21239-5.  Rubinstein, R. Y.; Kroese, D. P. (2007). 《Simulation and the Monte Carlo Method》 2판. New York: John Wiley & Sons. ISBN 978-0-470-17793-8.  Savvides, Savvakis C. (1994). “Risk Analysis in Investment Appraisal” (PDF). 《Project Appraisal Journal》 9 (1). doi:10.2139/ssrn.265905. S2CID 2809643.  Sawilowsky, Shlomo S.; Fahoome, Gail C. (2003). 《Statistics via Monte Carlo Simulation with Fortran》. Rochester Hills, MI: JMASM. ISBN 978-0-9740236-0-1.  Sawilowsky, Shlomo S. (2003). “You think you've got trivials?”. 《Journal of Modern Applied Statistical Methods》 2 (1): 218–225. doi:10.22237/jmasm/1051748460.  Silver, David; Veness, Joel (2010). 〈Monte-Carlo Planning in Large POMDPs〉 (PDF). Lafferty, J.; Williams, C. K. I.; Shawe-Taylor, J.; Zemel, R. S.; Culotta, A. 《Advances in Neural Information Processing Systems 23》. Neural Information Processing Systems 2010. Neural Information Processing Systems Foundation. 2012년 5월 25일에 원본 문서 (PDF)에서 보존된 문서. 2021년 9월 28일에 확인함.  Szirmay-Kalos, László (2008). 《Monte Carlo Methods in Global Illumination - Photo-realistic Rendering with Randomization》. VDM Verlag Dr. Mueller e.K. ISBN 978-3-8364-7919-6.  Tarantola, Albert (2005). 《Inverse Problem Theory》. Philadelphia: Society for Industrial and Applied Mathematics. ISBN 978-0-89871-572-9.  Vose, David (2008). 《Risk Analysis, A Quantitative Guide》 3판. John Wiley & Sons. ISBN 9780470512845.  Mazhdrakov, Metodi; Benov, Dobriyan; Valkanov, Nikolai (2018). 《The Monte Carlo Method. Engineering Applications》. ACMO Academic Press. ISBN 978-619-90684-3-4.  위키미디어 공용에 몬테카를로 방법 관련 미디어 분류가 있습니다.