# Zufallsstichprobe

Eine Zufallsstichprobe (auch Wahrscheinlichkeitsauswahl, Zufallsauswahl, Random-Sample) ist eine Stichprobe aus der Grundgesamtheit, die mit Hilfe eines speziellen Auswahlverfahrens gezogen wird. Bei einem solchen Zufallsauswahlverfahren hat jedes Element der Grundgesamtheit eine angebbare Wahrscheinlichkeit (größer null), in die Stichprobe zu gelangen. Nur bei Zufallsstichproben sind, streng genommen, die Methoden der induktiven Statistik anwendbar. Zufallsstichproben spielen in Monte-Carlo-Methoden eine zentrale Rolle. Zufällige Stichprobenwiederholungen können mithilfe der Resampling-Methode generiert werden.

## Begriff der Zufallsstichprobe

Eine Stichprobe ist das Ergebnis einer Stichprobenziehung, das ist eine Entnahme von einem oder mehreren Einheiten aus einer Grundgesamtheit. Im einfachsten Fall der gleichzeitigen Entnahme mehrerer Einheiten aus einer endlichen Gesamtheit ist die Stichprobe eine Teilmenge einer Grundgesamtheit. Erfolgen mehrere Entnahmen jeweils einer Einheit, wobei die gezogene Einheit zurückgelegt wird, bevor die nächste Einheit gezogen wird, so können Einheiten der Grundgesamtheit mehrfach in die Stichprobe gelangen. In diesem Fall kann das Ergebnis einer Stichprobenziehung durch einen Vektor dargestellt werden, dessen Komponenten das Ergebnis der ersten Ziehung, zweiten Ziehung usw. angeben. Bei unendlichen Grundgesamtheiten ist diese Unterscheidung irrelevant, bei sehr großen Grundgesamtheiten ist sie vernachlässigbar.
Für eine Zufallsstichprobe werden zusätzliche Bedingungen gestellt:
* Die Elemente werden zufällig aus der Grundgesamtheit gezogen und
* die Wahrscheinlichkeit, mit der ein Element aus der Grundgesamtheit gezogen wird, ist angebbar.
Des Weiteren unterscheidet man zwischen einer uneingeschränkten und einer einfachen Zufallsstichprobe:

### uneingeschränkte Zufallsstichprobe

   * Jedes Element der Grundgesamtheit hat die gleiche Wahrscheinlichkeit, in die Stichprobe zu gelangen.

### Einfache Zufallsstichprobe

   * Jedes Element der Grundgesamtheit hat die gleiche Wahrscheinlichkeit, in die Stichprobe zu gelangen, und
   * die Ziehungen aus der Grundgesamtheit erfolgen unabhängig voneinander.
Eine uneingeschränkte Zufallsstichprobe erhält man z. B. bei einem Ziehen ohne Zurücklegen und eine einfache Zufallsstichprobe z. B. bei einem Ziehen mit Zurücklegen.

### Beispiele
#### Literary-Digest-Desaster

Das Literary-Digest-Desaster von 1936 zeigt auf, was passieren kann, wenn keine Zufallsstichprobe aus der Grundgesamtheit gezogen wird. Eine verzerrte Stichprobe führte zu einer vollständig falschen Wahlprognose.

#### Wahlbefragung

Eine Befragung von Wählern, nachdem sie aus der Wahlkabine gekommen sind, bzgl. ihres Wahlverhaltens ist eine uneingeschränkte Zufallsstichprobe (wenn kein Befragter die Antwort verweigert und wenn Briefwahl ausgeschlossen ist) bzgl. der Wähler. Sie ist jedoch keine (uneingeschränkte) Zufallsstichprobe bzgl. der Wahlberechtigten.

#### Taschenkontrolle

Der Einzelhandel beklagt immer wieder, dass durch Diebstahl von Waren durch eigene Mitarbeiter große Schäden verursacht werden. Deswegen führen größere Supermärkte unter anderem eine Taschenkontrolle durch, wenn Mitarbeiter den Supermarkt verlassen. Da eine vollständige Taschenkontrolle aller Angestellten zu aufwändig wäre (und dies vermutlich auch als Arbeitszeit bezahlt werden müsste), gehen die Angestellten beim Verlassen des Supermarktes durch den Personalausgang an einer Lampe vorbei. Sie zeigt computergesteuert entweder ein grünes Licht (Angestellter wird nicht kontrolliert) oder ein rotes Licht (Angestellter wird kontrolliert). Diese Auswahl ist dann eine einfache Zufallsauswahl.

### Zufallsstichproben in der mathematischen Statistik

In der mathematischen Statistik sind Zufallsstichproben die Grundlage für den Rückschluss von der Stichprobe auf Eigenschaften der Grundgesamtheit. Die Stichprobenwerte $x_{1},\dotsc ,x_{n}$ werden dann als Realisierungen der Zufallsvariablen $X_{1},\dotsc ,X_{n}$ betrachtet. Diese Zufallsvariablen werden als Stichprobenvariablen bezeichnet und geben an, mit welcher Wahrscheinlichkeit bei der $i$-ten Ziehung mit einem bestimmten Auswahlverfahren ein bestimmtes Element der Grundgesamtheit gezogen werden kann.

#### Stochastisch unabhängig und identisch verteilt

Wurde eine einfache Zufallsstichprobe gezogen, so kann man zeigen, dass die Stichprobenvariablen $X_{i}$ stochastisch unabhängig und identisch verteilt sind (Abkürzung i.i.d., aus dem engl. independent and identically distributed). D. h., der Verteilungstyp und die Verteilungsparameter aller Stichprobenvariablen sind gleich der Verteilung in der Grundgesamtheit (identically distributed), und aufgrund der Unabhängigkeit der Ziehungen sind die Stichprobenvariablen auch unabhängig voneinander (independent).
Bei vielen Problemen in der induktiven Statistik wird vorausgesetzt, dass die Stichprobenvariablen i.i.d. sind. Anderenfalls sind die Stichprobenwerte die Komponenten eines Vektors $(x_{1},\ldots ,x_{n})$, der die Realisation eines Zufallsvektors $(X_{1},\ldots ,X_{n})$ ist, dessen mehrdimensionale Wahrscheinlichkeitsverteilung durch das jeweilige Stichprobendesign bestimmt ist.

#### Geordnete Stichprobe

Die geordneten Stichprobenwerte entstehen, wenn die Werte $(x_{1},\dots ,x_{n})$ einer Stichprobe einen Größenvergleich erlauben und der Größe nach angeordnet werden. Meistens erfolgt die Anordnung nichtfallend, so dass $x_{[1]}\leq x_{[2]}\leq \dots \leq x_{[n]}$ gilt. Man nennt den Vektor $(x_{1},\dots ,x_{n})$ oft kurz Stichprobe und den Vektor $(x_{[1]},\dots ,x_{[n]})$ dann geordnete Stichprobe. Beispielsweise führt die Stichprobe $(x_{1},\dots ,x_{5})=(1,3,2,4,2)$ zur geordneten Stichprobe $(x_{[1]},\dots ,x_{[5]})=(1,2,2,3,4)$. Es sind verschiedenen Notationen für die aufsteigend geordneten Stichprobenwerte üblich, z. B. auch $x_{(1)},x_{(2)},\dots ,x_{(n)}$ oder $x_{1:n},x_{2:n},\dots ,x_{n:n}$.
Es gibt eine entsprechende Verallgemeinerung für einen Vektor unabhängig und identisch verteilter reeller Zufallsvariablen $(X_{1},\dots ,X_{n})$. Die $i$-te Komponente der geordneten Stichprobe $(X_{[1]},\dots ,X_{[n]})$ heißt $i$-te Ordnungsstatistik oder $i$-te Ranggröße. Die geordnete Stichprobe heißt auch Positionsstichprobe oder Variationsreihe. Die $i$-te Ordnungsstatistik heißt auch Positionsstichprobenfunktion $i$-ten Rangs. Die geordnete Stichprobe $(X_{[1]},\dots ,X_{[n]})$ spielt eine zentrale Rolle in der nichtparametrischen Statistik, da sie eine suffiziente und vollständige Statistik ist.

### Abhängige und unabhängige Stichproben

Bei Analysen mit mehr als einer Stichprobe muss zwischen abhängigen und unabhängigen Stichproben unterschieden werden. Statt von einer abhängigen Stichprobe spricht man auch von verbundenen Stichproben oder gepaarten Stichproben.
Abhängige Stichproben treten meist bei wiederholten Messungen an dem gleichen Untersuchungsobjekt auf. Zum Beispiel besteht die erste Stichprobe aus Personen vor der Behandlung mit einem bestimmten Medikament, und die zweite Stichprobe aus denselben Personen nach der Behandlung, d. h., die Elemente von zwei (oder mehr) Stichproben können einander jeweils paarweise zugeordnet werden.
Bei unabhängigen Stichproben besteht kein Zusammenhang zwischen den Elementen der Stichproben. Dies ist beispielsweise der Fall, wenn die Elemente der Stichproben jeweils aus unterschiedlicher Population kommen. Die erste Stichprobe besteht beispielsweise aus Frauen, und die zweite Stichprobe aus Männern, oder wenn Personen nach dem Zufallsprinzip in zwei oder mehrere Gruppen aufgeteilt werden.
Formal bedeutet dies für die Stichprobenvariablen $X_{ij}$ (mit $i$ das $i$te Untersuchungsobjekt und $j$ die $j$te Messung):
* bei unabhängigen Stichproben: Alle Stichprobenvariablen $X_{ij}$ sind unabhängig voneinander.
* bei abhängigen Stichproben: Die Stichprobenvariablen der ersten Stichprobe $X_{11},\dotsc ,X_{n1}$ sind unabhängig voneinander, jedoch gibt es eine Abhängigkeit zwischen den Stichprobenvariablen $X_{i1},\dotsc ,X_{ip}$, da sie am gleichen Untersuchungsobjekt $i$ erhoben werden.

## Einstufige Zufallsstichproben

Eine reine (auch: einfache) oder uneingeschränkte Zufallsstichprobe kann mittels eines Urnenmodells beschrieben werden. Dazu wird ein fiktives Gefäß mit Kugeln gefüllt, welche anschließend zufällig gezogen werden: Ziehen mit Zurücklegen ergibt eine einfache Zufallsstichprobe, Ziehen ohne Zurücklegen ergibt eine uneingeschränkte Zufallsstichprobe. Durch ein Urnenmodell lassen sich so verschiedene Zufallsexperimente, etwa eine Lottoziehung, simulieren.

### Stichprobenumfang

Der Stichprobenumfang (auch Stichprobenlänge oder Stichprobengröße genannt) ist die Anzahl der Einheiten in einer Stichprobe. Der effektive Stichprobenumfang oder die effektive Stichprobenlänge ist die Anzahl verschiedener Einheiten der Grundgesamtheiten in der Stichprobe. Im Falle einer einfachen Zufallsstichprobe ist es in der Regel so, dass die statistischen Kenngrößen umso besser werden, desto größer der Stichprobenumfang ist (siehe z. B. die Tabelle in diesem Abschnitt). Daher kann der Stichprobenumfang häufig so geplant werden, dass bestimmte Genauigkeitsanforderungen erfüllt sind.
Wenn die Ziehungen aus der Grundgesamtheit jedoch nicht unabhängig voneinander erfolgen können (z. B. bei Zeitreihen bzw. bei stochastischen Prozessen), kann es passieren, dass die Erhöhung des Stichprobenumfangs zur Verschlechterung der statistischen Kenngrößen (z. B. der Varianz) führt.
Der Stichprobenumfang wird häufig auch durch Normen bzw. Erfahrungswerte festgelegt. Durch eine geeignete Wahl des Stichprobenumfangs und die Anwendung von Methoden zur Verringerung systematischer Fehler können statistisch belastbare Ergebnisse erzielt werden.

### Notwendiger Stichprobenumfang

Der notwendige Stichprobenumfang ist die Anzahl der Stichprobenwerte, z. B. der für eine Prüfung benötigten Proben einer Grundgesamtheit, die notwendig ist, um statistische Kenngrößen mit einer vorgegebenen Genauigkeit mittels Schätzung zu ermitteln. Die notwendige Stichprobengröße ist für Methoden des Maschinellen Lernens durch die Stichprobenkomplexität gegeben.
Wenn $\theta$ der unbekannte Parameter in der Grundgesamtheit ist, dann wird eine Schätzfunktion $T_{n}=T(X_{1},\dotsc ,X_{n})$ in Abhängigkeit von den Stichprobenvariablen $X_{1},\dotsc ,X_{n}$ konstruiert. Der Erwartungswert der Zufallsvariablen $T_{n}$ ist meist $\operatorname {E} (T_{n})=\theta$. Es soll der Stichprobenumfang bestimmt werden, der notwendig ist, damit die Genauigkeitsanforderung
    $P(\theta -e\leq T_{n}\leq \theta +e)=1-\alpha$
erfüllt ist. Dabei ist $T_{n}$ ein Punktschätzer (oder eine Punktschätzfunktion) des unbekannten Parameters $\theta$, $e$ ist der vorgegebene tolerierte absolute Fehler und $1-\alpha$ die vorgegebene Wahrscheinlichkeit dafür, dass die Schätzfunktion $T_{n}$ eine Realisierung im zentralen Schwankungsintervall $[\theta -e,\theta +e]$ annimmt, also $P(|T_{n}-\theta |\leq e)=1-\alpha$ gilt.
Der absolute Fehler ist häufig gleich $e=c_{1-\alpha /2}\sigma _{T_{n}}$, wobei $c_{1-\alpha /2}$ ein Quantil der Wahrscheinlichkeitsverteilung von $T_{n}$ ist und $\sigma _{T_{n}}={\sqrt {\operatorname {Var} (T_{n})}}$ die Standardabweichung der Schätzfunktion $T_{n}$ ist, die häufig proportional zu $1/{\sqrt {n}}$ ist. Es ist also
    $P\left(\theta -c_{1-\alpha /2}\sigma _{T_{n}}\leq T_{n}\leq \theta +c_{1-\alpha /2}\sigma _{T_{n}}\right)=1-\alpha$.
Die folgende Tabelle gibt für den unbekannten Mittelwert $\mu$ bzw. den unbekannten Anteilswert $\pi$ eine Abschätzung des notwendigen Stichprobenumfanges an. In allen Fällen ist $T_{n}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}$ die Schätzfunktion für $\theta$.
| Unbekannter Parameter $\theta$ | Bedingung | e | e | Abschätzung des notwendigen Stichprobenumfangs |
| Unbekannter Parameter $\theta$ | Bedingung | $c_{1-\alpha /2}$ | $\sigma _{T_{n}}$ | Abschätzung des notwendigen Stichprobenumfangs |
| $\mu$ | $X_{i}\sim N(\mu ;\sigma )$ und $\sigma$ bekannt | $z_{1-\alpha /2}$ | ${\frac {\sigma }{\sqrt {n}}}$ | $n\geq {\frac {z_{1-\alpha /2}^{2}\sigma ^{2}}{e^{2}}}$ |
| $\mu$ | $X_{i}\sim N(\mu ;\sigma )$ und $\sigma$ unbekannt | $t_{n-1;1-\alpha /2}$ | ${\frac {s}{\sqrt {n}}}$ | $n\geq {\frac {t_{n-1;1-\alpha /2}^{2}s^{2}}{e^{2}}}$ |
| $\mu$ | $X_{i}\sim N(\mu ;\sigma )$ und $n>30$ | $z_{1-\alpha /2}$ | ${\frac {s}{\sqrt {n}}}$ | $n\geq {\frac {z_{1-\alpha /2}^{2}s^{2}}{e^{2}}}$ |
| $\pi$ | $X_{i}\sim \operatorname {Ber} (\pi )$ und $n\pi (1-\pi )\geq 9$ | $z_{1-\alpha /2}$ | ${\sqrt {\frac {\pi (1-\pi )}{n}}}\leq {\frac {1}{\sqrt {4n}}}$ | $n\geq {\frac {z_{1-\alpha /2}^{2}}{4e^{2}}}$ |
In der Tabelle bezeichnen $N(\mu ;\sigma )$ eine Normalverteilung, $\operatorname {Ber} (\pi )$ eine Bernoulli-Verteilung, $z_{p}$ das p-Quantil einer Standardnormalverteilung und $t_{n-1;p}$ das p-Quantil einer t-Verteilung mit $n-1$ Freiheitsgraden. Die vorletzte Zeile beruht auf einer asymptotisch (für $n\to \infty$) begründeten Approximation der Verteilung von $T_{n}$ durch eine Normalverteilung. Die letzte Zeile der Tabelle beruht auf einer asymptotisch begründeten Approximation der Binomialverteilung durch eine Normalverteilung und der Oberschranke $1/(4n)$ für die Varianz $\pi (1-\pi )/(4n)$. Zu beachten ist, dass in der zweiten und dritten Zeile vor der Stichprobenziehung die Größe $s^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}$ unbekannt ist und z. B. aus einer Stichprobe vor der eigentlichen Stichprobe, einer sogenannten Vorstichprobe, bestimmt werden muss.

### Beispiel (Wahl)

Eine Partei hat in einer Umfrage kurz vor der Wahl 6 % erreicht. Welchen Umfang muss eine Wählerbefragung am Wahltag mit $1-\alpha =95\,\%$ Sicherheit haben, damit der wahre Anteilswert mit einer Genauigkeit von $e=1\,\%$ ermittelt werden kann?
    $n\geq {\frac {1{,}96^{2}}{4\cdot 0{,}01^{2}}}=9604$ (wobei 1,96 der entsprechende Fraktilwert der Normalverteilung ist)
bzw. etwas genauer
    $n\geq {\frac {1{,}96^{2}\cdot 0{,}06\cdot 0{,}94}{0{,}01^{2}}}\approx 2167$.
D. h., bei der etwas genaueren Abschätzung des Stichprobenumfanges für den Anteilswert ergibt sich, dass immer noch 2167 Wähler befragt werden müssen, um mit einer Genauigkeit von 1 % das Wahlergebnis zu erhalten. Die Grafik rechts zeigt, welche Stichprobenumfänge nötig sind für einen bestimmten geschätzten Anteilswert und eine gegebene Sicherheit.

### Beispiel (Werkstoffprüfung)

In der Werkstoffprüfung ist ein Stichprobenumfang von 10 pro 1000 produzierten Teilen durchaus üblich. Er ist u. a. von der Sicherheitsrelevanz des Bauteils oder des Werkstoffes abhängig. Bei den zerstörenden Prüfungen wie zum Beispiel beim Zugversuch wird versucht, den Prüfaufwand und damit die Stichprobe möglichst klein zu halten. Bei der zerstörungsfreien Prüfung – z. B. bei Bildverarbeitungs­systemen für die Vollständigkeitsprüfung – wird häufig eine 100-%-Kontrolle durchgeführt, um Fehler in der Produktion möglichst schnell zu erkennen.

## Mehrstufige Zufallsauswahl (auch komplexe Zufallsauswahl)

Insbesondere sind folgende Auswahlverfahren von Bedeutung, wobei die letzten beiden als Zweistufige Auswahlverfahren bezeichnet werden:
* Geschichtete Zufallsstichprobe (stratified sample): Die Elemente werden nach einem bestimmten Merkmal in Gruppen (Untermengen) eingeordnet. Die Gruppeneinteilung hat zum Ziel möglichst homogene Gruppen zu bilden; in sich homogen bezogen auf das zu untersuchende Merkmal. Innerhalb jeder dieser Gruppen wird dann eine Zufallsstichprobe gezogen. Als Auswahlverfahren kommen sowohl die reine Zufallsstichprobe als auch ein gewichtetes Verfahren in Frage.
* Klumpenstichprobe (cluster sample): Im Gegensatz zu den Gruppen in der geschichteten Stichprobe werden hier Gruppen gebildet, die möglichst heterogen sind (wobei jedoch sich die Gruppen als ganzes alle möglichst ähneln sollten, z. B. Schulklassen einer Schule). Zuerst wird eine (relativ kleine) Zufallsstichprobe unter den Gruppen gezogen. Danach werden alle in den gezogenen Gruppen enthaltenen Elemente in die Stichprobe aufgenommen. Ein klassisches Beispiel ist die Befragung ganzer Häuserblocks oder von Schulklassen. Zuerst werden die zu befragenden Schulklassen per Zufallsauswahl bestimmt. Dann werden alle in den Schulklassen enthaltenen Schüler befragt. Bei der Klumpenstichprobe tritt der sogenannte Klumpeneffekt auf. Er ist umso größer, je homogener die Elemente innerhalb der Gruppen und heterogener die Gruppen untereinander sind.
* Gestufte Zufallsstichprobe (staged sample): Sie wird häufig aus Gründen der Kostensenkung und Zeitersparnis der Schichtung vorgezogen. Ebenfalls empfiehlt sich die Stufung, wenn eine Auflistung aller Fälle (Untersuchungsgegenstände, Merkmale etc.) der Grundgesamtheit nicht existiert und sich deshalb eine einfache Zufallsstichprobe nicht durchführen lässt (z. B. eine Untersuchung anhand von Texten. Da noch nicht alle Texte elektronisch erfasst bzw. verfügbar sind, entstehen durch das Aufsuchen der jeweiligen Archive hohe Kosten. Durch eine Stufung kann dies vermieden werden). Im Wesentlichen orientiert sich das Vorgehen der Stufung an der Schichtung, indem man:
   * Stufungskriterien (Merkmale) bestimmt,
   * die Grundgesamtheit nach diesen Merkmalen in einander ausschließende Teilgesamtheiten (Primäreinheiten) aufteilt,
   * nun eine zufällige Auswahl der Teilgesamtheiten trifft und sich auf eine bestimmte Anzahl von Primäreinheiten begrenzt, die man untersucht. Die restlichen Teilgesamtheiten werden ignoriert.
   * Aus den zufällig ausgewählten Primäreinheiten ermittelt man nun die Zufallsstichprobe der Merkmalsträger (Objekte, Individuen, Fälle). Ein Institut will bspw. 500 Personen nach ihrem Konsumverhalten befragen. In Schritt 2 wurde die Grundgesamtheit, z. B. anhand geographischer Merkmale, in Ost-, Nord-, Süd- und Westdeutschland aufgeteilt. In Schritt 3 wurde festgelegt, dass das Konsumverhalten in ost- und süddeutschen Supermärkten (Sekundäreinheiten) im Mittelpunkt der Untersuchung steht, so dass in jeder der beiden Regionen 250 Leute (Tertiäreinheiten) befragt werden.
   * Die Teilgesamtheiten (der beiden untersuchten Regionen) werden nun zu einer Gesamtstichprobe zusammengefügt.
* Random-Route-Verfahren
Anwendungsmodelle
* ADM-Design als Kombination von Schichtung und Stufung

## Probleme der Zufallsziehung

In der praktischen Forschung (v. a. im Bereich der Sozialwissenschaften) kann nur sehr selten eine „echte“ Zufallsstichprobe ausgewählt werden. Dies hat mehrere Gründe:
* Grundgesamtheiten werden statistisch als Menge im mathematischen Sinn aufgefasst. Dies bedeutet, dass eindeutig definiert ist, welche Merkmalsträger zur Grundgesamtheit gehören und welche nicht, was eine zeitliche, räumliche und auf das Merkmal bezogene eindeutige Abgrenzbarkeit verlangt. Dies gelingt oft nicht, da die Grundgesamtheit gar nicht bekannt ist (z. B. sind nicht alle Personen, die momentan eine Depression in Deutschland haben, bekannt) oder diese sich zeitlich ändert (z. B. durch Geburten und Todesfälle).
* Aufgrund ethisch und datenschutzrechtlicher Bedenken kann nicht auf eine Liste der gesamten Population (z. B. alle Personen in Deutschland oder einer bestimmten Stadt) zugegriffen und Personen daraus ausgewählt werden.
* Nicht alle aus einem Register gezogenen Personen sind bereit, an einer Untersuchung (z. B. Telefonbefragung) teilzunehmen. Zusätzlich ist davon auszugehen, dass teilnehmende Personen sich von nicht teilnehmenden Personen in bestimmten Merkmalen (sozialer Status, Bildungsniveau etc.) unterscheiden.
In der Praxis wird deshalb oft auf eine Ad-hoc-Stichprobe zurückgegriffen, d. h., es werden diejenigen Personen erhoben, die sich freiwillig bereit erklären, an einer Untersuchung teilzunehmen. Deshalb ist zu überprüfen, ob die Erhebungsgrundgesamtheit (frame population; Grundgesamtheit, die faktisch erhoben wird) der angestrebten Grundgesamtheit (target population, Grundgesamtheit, für welche die Aussagen der Untersuchung gelten sollen) entspricht.