最大エントロピー原理
p i {\displaystyle p_{i}} は Σ i p i = 1 {\displaystyle \Sigma {}_{i}p_{i}=1} を満たすので、 ( p 1 , ... , p m ) {\displaystyle (p_{1},\dotsc ,p_{m})} を確率分布と見なす事ができる。
今我々が X について知っているのは、 X が条件 I を満たす事(と取りうる値が 1,...,m である事)だけである。また N は十分大きいので、以上の方法で作った分布 ( p 1 , ... , p m ) {\displaystyle (p_{1},\dotsc ,p_{m})} はいかなる分布をも十分によく近似できる。従って、 X の従う確率分布が以下の方法で決められていると仮定するのは自然であろう:
前述の思考実験に従い、 p 1 , ... , p m {\displaystyle p_{1},\dotsc ,p_{m}} を決める。ただし各カケラを 1,...,m のいずれの場所に置くのかは一様ランダムに決める。
分布 ( p 1 , ... , p m ) {\displaystyle (p_{1},\dotsc ,p_{m})} が条件 I を満たせば、 Pr [ X = i ] = p i {\displaystyle \Pr[X=i]=p_{i}} とする。
そうでなければ、カケラを全て片付けて最初からやり直す。
以上の方法で分布を生成したときに「 X が分布 p {\displaystyle {\boldsymbol {p}}} に従う確率」を Pr [ p ∣ I ] {\displaystyle \Pr[{\boldsymbol {p}}\mid I]} とする。