概率论是一门研究事情发生的可能性的学问,但是最初概率论的起源与赌博问题有关。16世纪,意大利的学者吉罗拉莫·卡尔达诺(Girolamo Cardano)开始研究掷骰子等赌博中的一些简单问题。概率与统计的一些概念和简单的方法,早期主要用于赌博和人口统计模型。随着人类的社会实践,人们需要了解各种不确定现象中隐含的必然规律性,并用数学方法研究各种结果出现的可能性大小,从而产生了概率论,并使之逐步发展成一门严谨的学科。概率与统计的方法日益渗透到各个领域,并广泛应用于自然科学、经济学、医学、金融保险甚至人文科学中。随着18、19世纪科学的发展,人们注意到在某些生物、物理和社会现象与机会游戏之间有某种相似性,从而由机会游戏起源的概率论被应用到这些领域中;同时这也大大推动了概率论本身的发展。使概率论成为数学的一个分支的奠基人是瑞士数学家伯努利,他建立了概率论中第一个极限定理,即伯努利大数定律,阐明了事件的频率稳定于它的概率。随后棣莫弗和拉普拉斯又导出了第 二个基本极限定理(中心极限定理)的原始形式。拉普拉斯在系统总结前人工作的基础上写出了《分析的概率理论》,明确给出了概率的古典定义,并在概率论中引入了更有力的分析工具,将概率论推向一个新的发展阶段。19世纪末,俄国数学家切比雪夫、马尔可夫、李亚普诺夫等人用分析方法建立了大数定律及中心极限定理的一般形式,科学地解释了为什么实际中遇到的许多随机变量近似服从正态分布。20世纪初受物理学的刺激,人们开始研究随机过程。这方面柯尔莫哥洛夫、维纳、马尔可夫、辛钦、莱维及费勒等人作了杰出的贡献。