Fue calculado por primera vez por Claude Shannon, el padre de la teoría de la información.