Podemos construir un codificador óptimo basándonos en la entropía de una variable aleatoria de información X.