頻度主義統計学
確率は、標本が無作為に選ばれる実験(試行)を対象とする。試行に対して起こりうる結果全体からなる集合は標本空間と呼ばれる。事象は、標本空間の特定の部分集合として定義されている。各事象は、起こるか起こらないかのどちらかの可能性しかない。事象の頻度は試行の繰り返しで測定・観測され、その頻度は事象の確率の尺度となる、というのが頻度主義による確率の解釈、概念である。
頻度主義では、試行回数を限りなく増やすと頻度が収束することを仮定している。したがって、統計的確率とは、事象の相対度数の極限値のことである。
統計学的確率は、確率の哲学的解釈のうちの一つである。この解釈は、現実の現象に対して考えられる「確率」の概念の全てを捉えているわけではない。この統計学的確率は、大数の法則により、確率論における公理的確率と矛盾せず、さらには古典的確率には反映されない、現実での誤差や変化の影響も加味、反映される。特にベイズ確率は、理論構築のための実験に明確な指針を与えている。この指針が有用であるかどうか、あるいは誤った解釈であるかどうかについては、論争の的となっている。特に、統計的確率が、推計統計学の唯一の根拠であると誤解されている場合が多い。例えば、p値に関する記事には、p値の意味に関する誤った解釈のリストが添付されており、論争の詳細は、統計的仮説検定に関する記事に記載されている。ジェフリーズ・リンドレーのパラドックスは、同じデータセットに適用された異なる解釈が、結果の「統計的有意性」について異なる結論をもたらすことを示している。
ウィリアム・フェラーは次のように述べている:
我々の筋道には、明日太陽が昇る確率を推測する余地はない。それを語る前に、我々の世界は「無数にある世界の中から無作為に1つの世界が選ばれる...」というような経過をおそらくたどっただろうという(理想化された)モデルに同意すべきである。このようなモデルの構築は小さな想像力で済むが、それでは面白くないし、意味がないと思うのである。
フェラーの発言は、別の確率解釈で日の出問題の解法を発表したラプラスを批判したものである。ラプラスは、天文学と確率論の専門知識に基づいて、出典を明示しかつ即座に免責事項を記したにもかかわらず、その後2世紀にわたって批判が続いた。
確率論は数学の一分野である。そこに至るまでには何世紀も経たが、1933年のアンドレイ・コルモゴロフによる確率の公理で成熟した。公理的確率は、それまでの確率への値の割り当て方でなく、むしろ確率が満たすべき演算に焦点が当てられている。確率の解釈の違いによって数学全体が大きく影響を受けることはない。
確率の解釈は、哲学、科学、統計学により導かれる。我々は観測から法則を導き出す(帰納)が、そこにはいくつかの解釈があり、いずれにも問題がある。頻度論的解釈は、物理的対称性が認められない場合などの、古典的解釈における問題を解決する。ただしこれは dutch book(英語版)のような問題には対応していない。
古典的確率は、サイコロ、コイン、カードなどの完全な物理的対称性に基づいて割り当てられる。ここから根元事象の確率が等しいことを仮定して導入されるため、古典的確率は統計的確率の一部に過ぎない。物理的対称性がない場合、古典的確率の適用範囲は限られる。
主観確率(ベイズ確率)は個人の信念がある程度考慮され、そこには異なる解釈がされうる。全ての「主観確率」は主観を極力排除するように定義されている。観測者、解釈者の単なる主観に過ぎないものは、科学のいくつかの定義とは相容れない。ベイズ主義による科学的分析(論理ベイズ主義など)は、そこに固有の主観を含み、主観の影響に境界線を引くために、ベイズ推定を用いる。この概念は数値で表しにくい法的証拠といった範囲にまで拡張して適用できるようになった。
傾向確率(英語版)は、主観確率というよりも原因の確率として記述されている。