# Entropieschätzung

Das Themengebiet der Entropieschätzung befasst sich mit den unterschiedlichen Methoden für die statistische Schätzung der Shannon-Entropie auf der Basis von endlichen Stichproben.
Für die formale Berechnung der Shannon-Entropie ist gemäß Definition die Kenntnis der Wahrscheinlichkeiten der zugrunde liegenden Nachrichtenquelle notwendig. Jedoch sind in der Praxis diese Wahrscheinlichkeiten meistens unbekannt, und man ist darauf angewiesen, die Wahrscheinlichkeiten der Nachrichten aus einer vorgegebenen endlichen Stichprobe zu schätzen, um damit auf die Entropie der Gesamtheit zu schließen.
Aufgrund der naturgegebenen statistischen Schwankungen in endlichen Stichproben sind dabei systematische und unsystematische Abweichungen bei den Schätzungen zu erwarten. Bei dem gewöhnlichen Maximum-Likelihood-Schätzer für die Entropie werden die Wahrscheinlichkeiten $p_{i}$, $i=1,2,\ldots ,K$, in der Shannon-Entropie
       $H=-\sum _{i=1}^{K}p_{i}\ln p_{i}$,
durch die Maximum-Likelihood-Schätzer ${\hat {p}}_{i}$ ersetzt. Erscheint im Falle von insgesamt $N$ Beobachtungen das Ereignis $i$ mit einer absoluten Häufigkeit von $n_{i}$, so führt die Verwendung von ${\hat {p}}_{i}=n_{i}/N$ zu dem in der Praxis häufig verwendeten Maximum-Likelihood-Schätzer für die Entropie
       ${\hat {H}}=-\sum _{i=1}^{K}{\hat {p}}_{i}\ln {\hat {p}}_{i}.$
Dieser Schätzer ist aus statistischer Sicht besonders geeignet, wenn die Stichprobe sehr viel größer als die mögliche Anzahl der unterschiedlichen Ereignisse ist, d. h. $\textstyle N\gg K$ gegeben ist. Andernfalls führt der obige Schätzer oft zu einer systematischen Unterschätzung der Entropie. Dieser Fehler wird besonders dann merklich, wenn der Umfang $N$ der Stichprobe nicht sehr viel größer als die Anzahl $K$ der unterschiedlichen Nachrichten der Quelle ist. In der Praxis ist jedoch letzteres oft von besonderem Interesse.

## „Finite-Sample“-Korrekturen

Es gibt eine Reihe von Ansätzen in der Literatur, die sich damit befassen, den systematischen Fehler mit geeigneten Korrekturtermen sukzessive zu verringern. Dabei werden üblicherweise Taylor-Reihenentwicklung der Entropie vorgenommen. Für Korrekturen bis zur ersten Ordnung in $N^{-1}$ ergibt sich beispielsweise der Schätzer
       ${\hat {H}}_{M}={\hat {H}}+{\frac {K-1}{2N}}$
Der Korrekturterm wurde zuerst von Miller für die Untersuchung medizinischer Daten berücksichtigt. Weitere Anwendungen im Rahmen der Genforschung wurden beispielsweise später von Herzel vorgenommen. Die ersten Berechnungen von Korrekturtermen bis zur zweiten Ordnung wurden zuerst von Harris publiziert. Dabei stellt sich heraus, dass die Korrekturterme zweiter Ordnung nicht unabhängig von den zu schätzenden Wahrscheinlichkeiten sind. Zudem führt eine Substitution der Wahrscheinlichkeiten in diesen Termen durch die Maximum-Likelihood-Schätzer nicht zu Verbesserungen. Für praktische Zwecke ist das Ergebnis von Harris daher wenig geeignet.

## Korrekturen höherer Ordnung

Eine alternative Vorgehensweise, bei der ausschließlich beobachtbare Beiträge zu den Korrekturtermen höherer Ordnung beitragen, wurde zuerst von Peter Grassberger vorgeschlagen. Für die zu schätzenden Wahrscheinlichkeiten wird dabei die Bedingung $p_{i}\ll 1$ vorausgesetzt, wobei die absoluten Häufigkeiten $\textstyle n_{i}$ als unabhängige, Poisson-verteilte Zufallsvariable angesehen werden. Diese Annahmen sind insbesondere für die in der Praxis interessanten Beispiele meistens sehr gut erfüllt. Ausgangspunkt bei der Herleitung von Korrekturen höherer Ordnung ist dabei die Rényi-Entropie der Ordnung $\textstyle q>0$
       $H(q)={\frac {1}{1-q}}\ln \sum _{i=1}^{K}p_{i}^{q}$
Der formale Zusammenhang mit der Shannon-Entropie ergibt sich durch den Grenzübergang $q\to 1$, d. h. $H(q)\to H$. Es erscheint dann naheliegend, zunächst nach unverzerrten Schätzern für jeden der Summanden $p_{i}^{q}$ zu suchen. Für den Fall ganzzahliger Werte $q\geq 1$ existieren solche unverzerrte Schätzer, d. h.
       ${\hat {p^{q}}}={\frac {1}{N^{q}}}{\frac {n!}{(n-q)!}}\qquad \qquad n\geq q$
mit ${\hat {p^{q}}}=0$ für $\textstyle n<q$. Für eine formale Bildung des Grenzwertes $q\to 1$ ist eine analytische Fortsetzung für beliebige reelle Werte von $q>0$ notwendig. Von Grassberger wurde dazu die $\Gamma$-Funktion vorgeschlagen. Diese führt zwar nicht zu einem unverzerrten Schätzer für die Entropie, es ergibt sich jedoch ein asymptotisch unverzerrter Entropieschätzer,
       ${\hat {H}}_{\psi }=\sum _{i=1}^{K}{\frac {n_{i}}{N}}\left(\ln N-\psi (n_{i})-{\frac {(-1)^{n_{i}}}{n_{i}(n_{i}+1)}}\right),$
der für endliche Stichproben in der Praxis zu Verbesserungen führt. Die Funktion $\psi (x)$ bezeichnet dabei die sogenannte Digamma-Funktion. Für den interessanten Fall kleiner Wahrscheinlichkeiten $p_{i}\ll 1$ ist der systematisch Fehler dieses Schätzers kleiner als bei dem Schätzer mit den von Miller vorgeschlagenen Korrekturen.

## Systematische Korrekturen

Auf ähnlich Weise lässt sich eine parametrisierte Schar von allgemeinen Entropieschätzern angeben, welche die obigen Schätzer fortsetzen bzw. asymptotisch repräsentieren. Anstatt einer Poisson-Verteilung wird dabei eine Binomialverteilung für die absoluten Häufigkeiten unterstellt. Weitere Restriktionen an die Wahrscheinlichkeiten werden dabei nicht gemacht. Als Entropieschätzer erhält man damit
       ${\hat {H}}^{(\xi )}=\sum _{i=1}^{K}{\frac {n_{i}}{N}}\left(\psi (N)-\psi (n_{i})-(-1)^{n_{i}}\cdot \int _{0}^{{\frac {1}{\xi }}-1}{\frac {t^{n_{i}-1}}{1+t}}\mathrm {d} t\right)$,
wobei die reelle Variable $\xi >0$ unterschiedliche Entropieschätzer parametrisiert.
Beispiele
1. Im Fall $\xi =1$ verschwindet der Korrekturterm und man erhält den Entropieschätzer
       ${\hat {H}}^{(1)}=\sum _{i=1}^{K}{\frac {n_{i}}{N}}{\Big\psi (N)-\psi (n_{i}){\Big )}.$
Ein ähnlicher Schätzer wurde auch von Wolpert und Wolf im Rahmen der Bayes-Theorie diskutiert. Asymptotisch entspricht dieser Schätzer dem Miller-Schätzer.
2. Der Schätzer für $\xi =\exp \left(-{\tfrac {1}{2}}\right)\approx 0{,}6$ reproduziert näherungsweise den Schätzer ${\hat {H}}_{\psi }$. Numerische Analysen ergeben, dass der Unterschied zwischen ${\hat {H}}_{\psi }$ und ${\hat {H}}^{(0{,}6)}$ vernachlässigbar gering ist. Der systematische Fehler von ${\hat {H}}^{(0{,}6)}$ ist geringer als der systematische Fehler des Schätzers ${\hat {H}}_{\psi }$.
3. Der Fall $\xi =0{,}5$ entspricht asymptotisch einem weiteren von Grassberger hergeleiteten Entropieschätzer. Letzterer besitzt eine kleinere Verzerrung als der Miller-Schätzer und ${\hat {H}}_{\psi }$.

## Systematischer Fehler (Verzerrung)

Der Systematische Fehler eines Schätzers ist definiert als die erwartete Abweichung zwischen dem betrachteten Schätzer und der zu schätzenden Variablen. In dem hier vorliegenden Fall ergibt sich gemäß dieser Definition
    ${\text{Bias}}(\xi ;p_{1},\ldots ,p_{K})=E\left[{\hat {H}}^{(\xi )}-H\right]$
Dieser Ausdruck ist explizit abhängig von den Wahrscheinlichkeiten und dem Parameter $\xi$. Für jede Auswahl dieser Variablen ergibt sich ein charakteristischer Wert für den Schätzfehler, welcher sich wie folgt analytisch bestimmen lässt
    ${\text{Bias}}(\xi ;p_{1},\ldots ,p_{K})=-\sum _{i=1}^{K}p_{i}\cdot B_{1-{\frac {p_{i}}{\xi }}}(N,0)$
Die Funktion ${\text{B}}_{z}(a,b)$ auf der rechten Seite dieser Formel ist eine unvollständige Beta-Funktion und gehört zu der Klasse der sog. speziellen Funktionen. Für den unsystematischen Fehler lässt sich hingegen keine derartige Formel herleiten. Letzterer muss daher in der Regel numerisch bestimmt werden.