Etter Shannon var informasjon blitt definert som . I informasjonsteorien interpreteres negentropien som stor når en tegnfølge inneholder mye informasjon (lite uorden), og som liten i en tilfeldig tegnfølge (mye uorden). Dermed er å betrakte som en alternativ betegnelse på .