Entropía da información

Na teoría da información a entropía, tamén chamada entropía da información e entropía de Shannon (en honra a Claude E. Shannon), mide a incerteza dunha fonte de información.
A entropía tamén se pode considerar como a cantidade de información media que conteñen os símbolos usados. Os símbolos con menor probabilidade son os que achegan maior información; por exemplo, se se considerase como sistema de símbolos as palabras nun texto, palabras frecuentes como «que», «o», «a» achegan pouca información, mentres que palabras menos frecuentes como «corren», «neno», «can» achegan máis información. Se dun texto dado se borra un «que», seguramente non afectará á comprensión e sobreentenderase, non sendo así se se borra a palabra «neno» do mesmo texto orixinal. Cando todos os símbolos son igualmente probables (distribución de probabilidade plana), todos achegan información relevante e a entropía é máxima.
O concepto entropía emprégase en termodinámica, mecánica estatística e teoría da información. En todos os casos a entropía concíbese como unha «medida da desorde» ou a «peculiaridade de certas combinacións». A entropía pode ser considerada como unha medida da incerteza e da información necesaria para, en calquera proceso, poder acoutar, reducir ou eliminar a incerteza. O concepto de información e o de entropía están basicamente relacionados entre si, aínda que se precisaron anos de desenvolvemento da mecánica estatística e da teoría da información antes de que isto fose percibido. Relación coa entropía termodinámica
A entropía da teoría da información está estreitamente relacionada coa entropía termodinámica. Na termodinámica estúdase un sistema de partículas cuxos estados X (usualmente posición e velocidade) teñen unha certa distribución de probabilidade, podendo ocupar varios microestados posibles (equivalentes aos símbolos na teoría da información). A entropía termodinámica é igual á entropía da teoría da información desa distribución (medida usando o logaritmo neperiano) multiplicada pola constante de Boltzmann k, a cal permite pasar de nats (unidade semellante ao bit) a J/K. Cando todos os microestados son igualmente probables, a entropía termodinámica toma a forma k log(N). Nun sistema illado, a interacción entre as partículas tende a aumentar a súa dispersión, afectando as súas posicións e as súas velocidades, o que causa que a entropía da distribución aumente co tempo até chegar a un certo máximo (cando o mesmo sistema é o máis homoxéneo e desorganizado posible); o que se denomina Segunda Lei da Termodinámica. A diferenza entre a cantidade de entropía que ten un sistema e o máximo que pode chegar a ter denomínase neguentropía, e representa a cantidade de organización interna que ten o sistema. A partir desta última pódese definir a enerxía libre de Gibbs, que indica a enerxía que pode liberar o sistema ao aumentar a entropía até o seu máximo e pode ser transformada en traballo (enerxía mecánica útil) usando unha máquina ideal de Carnot. Cando un sistema recibe un fluxo de calor, as velocidades das partículas aumentan, o que dispersa a distribución e fai aumentar así a entropía. Así, o fluxo de calor produce un fluxo de entropía na mesma dirección. Concepto intuitivo
O concepto básico de entropía en teoría da información ten moito que ver coa incerteza que existe en calquera experimento ou sinal aleatorio. É tamén a cantidade de «ruído» ou «desorde» que contén ou libera un sistema. Desta forma, poderemos falar da cantidade de información que leva un sinal.
Como exemplo, considérese un texto escrito en galego, codificado como unha cadea de letras, espazos e signos de puntuación (o noso sinal será unha cadea de caracteres). Xa que, estatisticamente, algúns caracteres non son moi comúns (por exemplo, «w»), mentres outros si o son (como o «a»), a cadea de caracteres non será tan "aleatoria" como podería chegar a ser. Obviamente, non se pode predicir con exactitude cal será o seguinte carácter na cadea, e iso faríaa aparentemente aleatoria. Pero é a entropía a encargada de medir precisamente esa aleatoriedad, e foi presentada por Shannon no seu artigo de 1948, A Mathematical Theory of Communication ("Unha teoría matemática da comunicación", en inglés).
Shannon ofrece unha definición de entropía que satisfai as seguintes afirmacións: A medida de información debe ser proporcional (linear continua). É dicir, o cambio pequeno nunha das probabilidades de aparición dun dos elementos do sinal debe cambiar pouco a entropía.
Se todos os elementos do sinal son equiprobables (igual de probables) á hora de aparecer, entón a entropía será máxima.
Exemplos de máxima entropía:
supóñase que estamos esperando dun texto, por exemplo un cable cunha mensaxe. En devandito cable só se reciben as letras en minúscula do a até o z, entón se a mensaxe que nos chega é "qalmnbphijcdgketrsfuvxyzwño" o cal posúe unha lonxitude de 27 caracteres, pódese dicir que esta mensaxe chega a nós coa máxima entropía (ou desorde posible); xa que é pouco probable que se poida prognosticar a entrada de caracteres, pois estes non se repiten nin están ordenados nunha forma predicible. Definición formal
Supóñase que un evento (variable aleatoria) ten un grao de indeterminación inicial igual a k {\displaystyle k} (i. e. existen k {\displaystyle k} estados posibles) e supóñanse todos os estados equiprobables. Entón a probabilidade de que se dea unha desas combinacións será p
1 / k {\displaystyle p
1/k}. Entón pódese representar a expresión c i {\displaystyle c_{i}} como: c i
log 2 ⁡ ( k )
log 2 ⁡ [ 1 / ( 1 / k ) ]
log 2 ⁡ ( 1 / p )
log 2 ⁡ ( 1 ) ⏟
0 − log 2 ⁡ ( p )
− log 2 ⁡ ( p ) {\displaystyle c_{i}
\log _{2}(k)
\log _{2}[1/(1/k)]
\log _{2}(1/p)
\underbrace {\log _{2}(1)} _{
0}-\log _{2}(p)
-\log _{2}(p)} Se agora cada un dos k {\displaystyle k} estados ten unha probabilidade p i {\displaystyle p_{i}}, entón a entropía virá dada pola suma ponderada da cantidade de información: H
− p 1 log 2 ⁡ ( p 1 ) − p 2 log 2 ⁡ ( p 2 ) −. .. . − p k log 2 ⁡ ( p k )
− ∑ i
1 k p i log 2 ⁡ ( p i ) {\displaystyle H
-p_{1}\log _{2}(p_{1})-p_{2}\log _{2}(p_{2})-. .. .-p_{k}\log _{2}(p_{k})
-\sum _{i
1}^{k}p_{i}\log _{2}(p_{i})} Polo tanto, a entropía dunha mensaxe X {\displaystyle X}, denotada por H ( X ) {\displaystyle H(X)}, é o valor medio ponderado da cantidade de información dos diversos estados da mensaxe: H ( X )
− ∑ i p ( x i ) log 2 ⁡ p ( x i ) {\displaystyle H(X)
-\sum _{i}p(x_{i})\log _{2}p(x_{i})} que representa unha medida da incerteza media sobre unha variable aleatoria e polo tanto da cantidade de información.
Exemplos
A entropía dunha mensaxe M de lonxitude 1 carácter que emprega o conxunto de caracteres ASCII, supondo unha equiprobabilidade nos 256 caracteres ASCII, será: H ( M )
log 2 ⁡ ( 256 )
8 {\displaystyle H(M)
\log _{2}(256)
8} Supóñase que o número de estados dunha mensaxe é igual a 3, M1, M2 e M3 onde a probabilidade de M1 é 50 %, a de M225 % e a de M325 %. Polo tanto, a entropía da información é:
Información mutua
A entropía pode verse como caso especial da información mutua. A información mutua de dúas variables aleatorias, denotado por I(X; Y), é unha cantidade que mide a dependencia mutua das dúas variables; é dicir, mide a redución da incerteza (entropía) dunha variable aleatoria, X, debido ao coñecemento do valor doutra variable aleatoria, Y. Da definición pódese concluír que, se X e Y son iguais, entón I(X; X) H(X). Propiedades
A entropía ten as seguintes propiedades: A entropía é non negativa. Isto é evidente xa que ao ser p i {\displaystyle p_{i}} unha probabilidade entón 0 < p i ≤ 1 {\displaystyle 0<p_{i}\leq 1}. Entón, pódese dicir que log 2 ⁡ p i ≤ 0 {\displaystyle \log _{2}p_{i}\leq 0} e polo tanto − log 2 ⁡ p i ≥ 0 {\displaystyle -\log _{2}p_{i}\geq 0}. H ≤ log a ⁡ ( n ) {\displaystyle H\leq \log _{a}(n)}, é dicir, a entropía H está limitada superiormente (cando é máxima) e non supón perda de información.
Dado un proceso con posibles resultados {A1, .. ,An} con probabilidades relativas p1, .. ., pn, a función H ( p 1, …, p n ) {\displaystyle H(p_{1}, \dots, p_{n})\, } é máxima no caso de que p 1
⋯
p n
1 / n {\displaystyle p_{1}
\dots
p_{n}
1/n\, }. O resultado é intuitivo xa que se ten a maior incerteza da mensaxe, cando os valores posibles da variable son equiprobables.
Dado un proceso con posibles resultados {A1, .. ,An} con probabilidades relativas p1, .. ., pn, a función H ( p 1, …, p n ) {\displaystyle H(p_{1}, \dots, p_{n})\, } é nula no caso de que p i
0 {\displaystyle p_{i}
0} para todo i, agás para unha clase, tal que: p j
1 {\displaystyle p_{j}
1}. De forma intuitiva pódese pensar que cando un ou máis estados teñen unha probabilidade alta, diminúe significativamente a entropía porque, como é lóxico, existe unha menor incerteza respecto á mensaxe que se recibirá. Codificador óptimo
Un codificador óptimo é aquel que emprega o mínimo número de bits para codificar unha mensaxe. Un codificador óptimo usará códigos curtos para codificar mensaxes frecuentes e deixará os códigos de maior lonxitude para aquelas mensaxes que sexan menos frecuentes. Desta forma optimízase o rendemento da canle ou zona de almacenamento e o sistema é eficiente en termos do número de bits para representar a mensaxe.
Por exemplo, o código Morse aprovéitase deste principio para optimizar o número de caracteres para transmitir a partir do estudo das letras máis frecuentes do alfabeto inglés. Aínda que o código Morse non é un codificador óptimo, asigna ás letras máis frecuente códigos máis curtos. Outro exemplo sería o algoritmo de Huffman de codificación que serve para compactar información. Este método baséase no codificador óptimo. Para iso o primeiro que fai é percorrer toda a información para atopar a frecuencia dos caracteres e logo a partir desta información busca o codificador óptimo por medio de árbores binarios. Algunhas técnicas de compresión como LZW ou deflación non usan probabilidades dos símbolos illados, senón que usan as probabilidades conxuntas de pequenas secuencias de símbolos para codificar a mensaxe, polo que poden lograr un nivel de compresión maior.
Pódese construír un codificador óptimo baseándose na entropía dunha variable aleatoria de información X. En efecto, a entropía dá o número medio de bits (se se usan logaritmos de base 2) necesarios para codificar a mensaxe a través dun codificador óptimo e polo tanto determínase o límite máximo ao que se pode comprimir unha mensaxe usando un enfoque símbolo a símbolo sen ningunha perda de información (demostrado analiticamente por Shannon), o límite de compresión (en bits) é igual á entropía multiplicada pola lonxitude da mensaxe. Reescribindo a ecuación de cálculo da entropía chégase a que: H ( X )
− ∑ i p ( x i ) log 2 ⁡ p ( x i )
∑ i − p ( x i ) log 2 ⁡ p ( x i )
∑ i p ( x i ) [ l o g 2 ( 1 ) − log 2 ⁡ ( p ( x i ) ) ]
∑ x p ( x ) log 2 ⁡ ( 1 / p ( x ) ) {\displaystyle H(X)
-\sum _{i}p(x_{i})\log _{2}p(x_{i})
\sum _{i}-p(x_{i})\log _{2}p(x_{i})
\sum _{i}p(x_{i})[log_{2}(1)-\log _{2}(p(x_{i}))]
\sum _{x}p(x)\log _{2}(1/p(x))} Polo tanto, a información (que se atopa definida en bits, dado que a base do logaritmo é 2) que achega un determinado valor ou símbolo x i {\displaystyle x_{i}\, \! } dunha variable aleatoria discreta X {\displaystyle X\, \! } defínese como: I ( x i )
log 2 ⁡ 1 p ( x i )
− log 2 ⁡ p ( x i ) {\displaystyle I(x_{i})
\log _{2}{\frac {1}{p(x_{i})}}
-\log _{2}{p(x_{i})}} Esta expresión representa o número necesario de bits para codificar a mensaxe X no codificador óptimo e polo tanto a entropía tamén se pode considerar como unha medida da información media contida en cada símbolo da mensaxe.
Exemplo
Supóñase que o número de estados dunha mensaxe é igual a 3 M1, M2 e M3 onde a probabilidade de M1 é 50 %, a de M225 % e a de M325 %. Para M1 tense que log 2 ⁡ [ 1 / p ( M 1 ) ]
log 2 ⁡ 2
1 {\displaystyle \log _{2}[1/p(M_{1})]
\log _{2}2
1} Para M2 tense que log 2 ⁡ [ 1 / p ( M 2 ) ]
log 2 ⁡ 4
2 {\displaystyle \log _{2}[1/p(M_{2})]
\log _{2}4
2} Para M3 tense que log 2 ⁡ [ 1 / p ( M 3 ) ]
log 2 ⁡ 4
2 {\displaystyle \log _{2}[1/p(M_{3})]
\log _{2}4
2} Polo tanto, no codificador óptimo para transmitir M1 fará falta un bit e para M2 e M3 será necesario contar con dous bits. Por exemplo, poderíase codificar M1 con "0", M2 con "10" e M3 con "11". Usando este convenio para codificar a mensaxe M1M2M1M1M3M1M2M3 usaríase "010001101011" e polo tanto 12 bits.
O valor da entropía sería: H ( X )
1 / 2 log 2 ⁡ ( 2 ) + 1 / 4 log 2 ⁡ ( 4 ) + 1 / 4 log 2 ⁡ ( 4 )
1, 5 {\displaystyle H(X)
1/2\log _{2}(2)+1/4\log _{2}(4)+1/4\log _{2}(4)
1, 5} Polo tanto, o codificador óptimo necesita de media 1, 5 bits para codificar calquera valor de X. Entropía condicional
Supóñase que no canto de ter unha única variable aleatoria X, existe outra variable Y dependentes entre si, é dicir o coñecemento dunha (por exemplo, Y) entrega información sobre a outra (por exemplo, X). Desde o punto de vista da entropía da información podemos dicir que a información de Y diminuirá a incerteza de X. Polo tanto, pódese dicir que a entropía de X será condicional a Y, e polo tanto: H ( X, Y )
− ∑ x, y p ( x, y ) log 2 ⁡ p ( x, y ) {\displaystyle H(X, Y)
-\sum _{x, y}p(x, y)\log _{2}p(x, y)} Como polo teorema de Bayes tense que p(x, y)
p(y)p(x|y) onde p(x|y) é a probabilidade de que se dea un estado de X coñecida Y, podemos dicir: H ( X | Y )
− ∑ y p ( y ) ∑ x p ( x | y ) log 2 ⁡ p ( x | y ) {\displaystyle H(X|Y) -\sum _{y}p(y)\sum _{x}p(x|y)\log _{2}p(x|y)}
Aplicación en criptoanálise
O concepto de entropía condicional é moi interesante no campo do criptoanálise. Proporciona unha ferramenta para avaliar o grao de seguridade dos sistemas. Por exemplo, para un sistema de cifrado hai dúas entropías condicionais interesantes:
Supóñase Unha mensaxe 'M1 é sometido a un proceso de cifrado usando a clave K1 obtendo E(K1, M1) C1. P C ( K ) {\displaystyle P_{C}(K)} representan a probabilidade condicional da clave K dado o criptograma recibido C. Ás veces tamén se denota por P ( K | C ) {\displaystyle P(K|C)}. P C ( M ) {\displaystyle P_{C}(M)} representan a probabilidade condicional da mensaxe M dado o criptograma recibido C. Ás veces tamén se denota por P ( M | C ) {\displaystyle P(M|C)}.
Entón: Pódese calcular a entropía do coñecemento da clave unha vez coñecido o texto cifrado, e polo tanto medir a equivocación da mensaxe (en inglés, message equivocation), H C ( K ) {\displaystyle H_{C}(K)}, tamén denotada por H ( K | C ) {\displaystyle H(K|C)}, mediante a fórmula: H C ( K )
− ∑ E, K P ( E, K ) log P E ⁡ ( K )
− ∑ E P ( E ) ∑ K P E ( K ) log P E ⁡ ( K ) {\displaystyle H_{C}(K)
-\sum _{E, K}P(E, K)\log _{P_{E}}(K)
-\sum _{E}P(E)\sum _{K}P_{E}(K)\log _{P_{E}}(K)} A primeira igualdade é pola definición da entropía condicional e a segunda por aplicación do teorema de Bayes.
Obsérvese que se H C ( K )
0 {\displaystyle H_{C}(K)
0} significa que se poderá romper o cifrado pois xa non hai incerteza. Esta anulación introduce o concepto de distancia de unicidade.
Pódese calcular a entropía do coñecemento da mensaxe unha vez coñecido o texto cifrado, e polo tanto medir a equivocación da clave (en inglés, key equivocation), H C ( M ) {\displaystyle H_{C}(M)}, tamén denotada por H ( M | C ) {\displaystyle H(M|C)}, mediante a fórmula: H C ( M )
− ∑ E, M P ( E, M ) log P E ⁡ ( M )
− ∑ E P ( E ) ∑ M P E ( M ) log P E ⁡ ( M ) {\displaystyle H_{C}(M)
-\sum _{E, M}P(E, M)\log _{P_{E}}(M)
-\sum _{E}P(E)\sum _{M}P_{E}(M)\log _{P_{E}}(M)} A primeira igualdade é pola definición da entropía condicional e a segunda por aplicación do teorema de Bayes.
Exemplo
Supóñase unha variable X con catro estados: x 1, x 2, x 3, x 4 {\displaystyle x_{1}, x_{2}, x_{3}, x_{4}} todos equiprobables e polo tanto p ( x i )
1 / 4 {\displaystyle p(x_{i})
1/4}.
Existe ademais outra variable Y con tres estados; y 1, y 2, y 3 {\displaystyle y_{1}, y_{2}, y_{3}} con probabilidades p ( y 1 )
1 / 2 {\displaystyle p(y_{1})
1/2} e p ( y 2 )
p ( y 3 )
1 / 4 {\displaystyle p(y_{2})
p(y_{3})
1/4}.
Coñécense, ademais, as seguintes dependencias: Se Y
y 1 {\displaystyle Y
y_{1}} entón os posibles valores de x son x 1, x 2, x 3, x 4 {\displaystyle x_{1}, x_{2}, x_{3}, x_{4}} Se Y
y 2 {\displaystyle Y
y_{2}} entón os posibles valores de x son x 2, x 3 {\displaystyle x_{2}, x_{3}} Se Y
y 3 {\displaystyle Y
y_{3}} entón os posibles valores de x son x 3, x 4 {\displaystyle x_{3}, x_{4}} Aplicando as fórmulas tense: H ( X )
2 {\displaystyle H(X)
2} H ( Y )
1, 5 {\displaystyle H(Y)
1, 5} H ( X / Y )
1, 5 {\displaystyle H(X/Y)
1, 5} Neste caso o coñecemento da dependencia de X respecto de Y reduce a entropía de X de 2 a 1, 5. Entropía dun proceso estocástico
Un proceso estocástico { X i } {\displaystyle \{X_{i}\}} é unha secuencia indexada de variables aleatorias. En xeral, pode haber dependencias entre as variables aleatorias. Para estudar a probabilidade de certo conxunto de valores adóitase adoptar o seguinte convenio: P r [ ( X 1, X 2, .. ., X n )
( x 1, x 2, .. ., x n ) ]
p ( x 1, x 2, .. ., x n ) {\displaystyle Pr[(X_{1}, X_{2}, .. ., X_{n})
(x_{1}, x_{2}, .. ., x_{n})]
p(x_{1}, x_{2}, .. ., x_{n})} Sexa { X i } i
1, .. n {\displaystyle \{X_{i}\}_{i
1, .. n}} un proceso estocástico de n variables aleatorias, e sexa A n {\displaystyle A^{n}} o conxunto das posibles combinacións de valores de { X i } i
1, .. n {\displaystyle \{X_{i}\}_{i
1, .. n}}. Defínese a entropía do proceso estocástico, tamén chamada entropía do n-grama e denotado por H n {\displaystyle H_{n}}, como: H n
H ( X 1, .. ., X n )
∑ s ∈ A n − P ( ( X 1, .. ., X n )
s ) log ⁡ P ( ( X 1, .. ., X n )
s ) {\displaystyle H_{n}
H(X_{1}, .. ., X_{n})
\sum _{s\in A^{n}}-P((X_{1}, .. ., X_{n})
s)\log P((X_{1}, .. ., X_{n})
s)}
Cociente de entropía
O cociente de entropía dunha secuencia de n variables aleatorias (proceso estocástico) caracteriza a taxa de crecemento da entropía da secuencia co crecemento de n.
O cociente de entropía dun proceso estocástico { X i } {\displaystyle \{X_{i}\}} vén definida pola ecuación: H ( X )
lim n → ∞ 1 n H ( X 1, .. ., X n ) {\displaystyle H(X)
\lim _{n\to \infty }{\dfrac {1}{n}}H(X_{1}, .. ., X_{n})} sempre que devandito límite exista.