état de « désordre » d'un système.
mesure de l'incertitude d'un message donné à partir de celui qui le précède. « L'entropie est nulle lorsqu'il n'existe pas d'incertitude. »