Supongamos que a cualquier mensaje "S" lo codificamos usando un cierto algoritmo de forma tal que cada "S" es codificado en "L(S)" bits; definimos entonces la información contenida en el mensaje "S" como la cantidad mínima de bits necesarios para codificar un mensaje.