La entropía de la teoría de la información está estrechamente relacionada con la entropía termodinámica.