Cosa dice il primo teorema di Shannon?
Il primo teorema di Shannon dice che una sorgente casuale d'informazione non può essere rappresentata con un numero di bit inferiore alla sua entropia, cioè alla sua autoinformazione media.