Si sabemos que en el futuro pueden suceder "n" cosas diferentes formula_1, cada una con probabilidad formula_2 ese conjunto de probabilidades constituyen nuestro conocimiento del mundo, una información debería reducir nuestra incertidumbre, variando las probabilidades a formula_3.