# Stochastischer Prozess
## Einführung

Ein stochastischer Prozess (auch Zufallsprozess) ist die mathematische Beschreibung von zeitlich geordneten, zufälligen Vorgängen. Die Theorie der stochastischen Prozesse stellt eine wesentliche Erweiterung der Wahrscheinlichkeitstheorie dar und bildet die Grundlage für die stochastische Analysis.

### Brownsche Brücke 1

Gegeben ist ein Zeitintervall $[t_{1},t_{2}]\subset \mathbb {R}$. Die Werte zum Zeitpunkt $t_{1}\in \mathbb {R}$ und $t_{2}\in \mathbb {R}$ sind bekannt. Die Brownsche Brücke interpoliert die Werte zufällig.

### Brownsche Brücke 2

Zeitintervall $[t_{1},t_{2}]:=[0,1]\subset \mathbb {R}$

### Brownsche Brücke 3 - Aufgabe

* Erstellen Sie in Libreoffice zwei Spalten (x-, y-Koordinaten), die von einem Ausgangspunkt einen stochastischen Weg durch das Koordinatensystem läuft!
* Erweitern Sie den Weg, dass der Weg stochastisch zwei Punkte in der Ebene miteinander verbindet!

## Geschichte

Obwohl einfache stochastische Prozesse schon vor langer Zeit studiert wurden, wurde die heute gültige formale Theorie erst Anfang des 20. Jahrhunderts entwickelt, vor allem durch Paul Lévy und Andrei Kolmogorow.

## Definition - stochastischer Prozess

Sei $(\Omega ,{\mathcal {S}}_{_{\Omega }},P)$ ein Wahrscheinlichkeitsraum, $(Z,{\mathcal {S}}_{_{Z}})$ ein mit einer σ-Algebra ${\mathcal {S}}_{_{Z}}$ versehener Raum und $T$ eine Indexmenge, zumeist $T\in \{\mathbb {N} _{0},\mathbb {R} _{+}\}$, die in Anwendungen häufig die Menge der betrachteten Zeitpunkte darstellt. Ein stochastischer Prozess $X$ ist dann eine Familie von Zufallsvariablen $X_{t}\colon \Omega \to Z,\;t\in T$, sodass $X_{t}\colon \omega \mapsto X_{t}(\omega )$ für alle $t\in T$ eine ${\mathcal {S}}_{_{\Omega }}$-${\mathcal {S}}_{_{Z}}$-messbare Abbildung ist.

### Bemerkung - elementare Sigma-Algebra

Zumeist werden für $(Z,{\mathcal {S}}_{_{Z}})$ die reellen Zahlen $Z:=\mathbb {R}$ mit der Borelschen $\sigma$-Algebra ${\mathcal {S}}_{_{Z}}:={\mathcal {B}}(\mathbb {R} )$ verwendet. Dabei ist ${\mathcal {B}}(\mathbb {R} )$ die kleinste $\sigma$-Algebra, die alle offenen Mengen $\mathbb {R}$ bzgl. des Betrags $|\cdot |$ als tologieerzeugende Norm enthält.

### Bemerkung - allgemeine Borelsche Sigma-Algebra

Ist allgemeiner ein beliebiger topologischer Raum als Zustandsraum $(Z,{\mathcal {T}})$ gegeben, dann wählt man als zu dem System ${\mathcal {T}}$ von offenen Mengen die Borelsche $\sigma$-Algebra ${\mathcal {B}}(Z)$ mit ${\mathcal {S}}_{_{Z}}:={\mathcal {B}}(Z):=\sigma ({\mathcal {T}})$. Dabei ist
    ${\mathcal {B}}(Z):=\sigma ({\mathcal {T}})$,
und $\sigma (\cdot )$ der σ-Operator auf Mengensystemen in $\wp (Z)$, der einem Mengensystem ${\mathcal {T}}$, die kleinste $\sigma$-Algebra $\sigma ({\mathcal {T}})$ zuordnet, die alle offenen Mengen aus ${\mathcal {T}}$ enthält.

### Erweiterung Topologie zur Sigma-Algebra

Mit dem Erweiterung von ${\mathcal {T}}$ zu $B(Z):=\sigma ({\mathcal {T}})$ enthält mit
* ${\mathcal {A}}$ ist stabil bezüglich der Komplementbildung. Ist also $B\in {\mathcal {A}}$, so ist auch $B^{\mathsf {c}}=\Omega \setminus B$ in ${\mathcal {A}}$ enthalten
* damit enthält die Borelsche $\sigma$-Algebra auch alle abgeschlossenen Mengen.

### Zustandsraum

Die Menge $Z$ wird auch der Zustandsraum des Prozesses genannt, der enthält alle Werte, die der Prozess annehmen kann.

### Beispiel - Zustandsraum

Im Kontext von Nachhaltigkeit könnte der Zustandsraum $Z:=\mathbb {R} _{o}^{+}\times \mathbb {R} _{o}^{+}$ z.B. mit $(z_{1},z_{2})\in Z$ die $CO_{2}$-Emissionen $z_{1}$ und die Kilometerleistung eines Fahrzeuges $z_{2}$ bezeichnen.

### Zustandsraum als Funktionenraum

In einem allgemeineren Fall des Funktionenraumes $X_{t}(\omega )\in {\mathcal {C}}([a,b],\mathbb {R} )$ ab. $X_{t}(\omega )$ gibt dann z.B. an, wie zu einem Versuchsreihe $\omega \in \Omega$ zum Zeitpunkt $t\in T$ die Schadstoffemission eines Fahrzeuges im Drehzahlbereich zwischen $a$ und $b$ war. Wenn sich eine Motor im Laufe der Zeit verschlechtert, gilt z.B. $X_{t}(\omega )<X_{t+1}(\omega )$

### Notation - Zustandsraum als Funktionenraum

Die Bedingung $X_{t}(\omega )<X_{t+1}(\omega )$ vergleicht Funktionen miteinander. Dabei ist zu berücksichtigen, dass ein Funktionenraum ${\mathcal {C}}([a,b],\mathbb {R} )$ nur eine partielle Ordnung besitzt. Mit
* $f_{t}:=X_{t}(\omega )\in {\mathcal {C}}([a,b],\mathbb {R} )$
* $f_{t+1}:=X_{t+1}(\omega )\in {\mathcal {C}}([a,b],\mathbb {R} )$
Kann es z.B. für zwei unterschiedliche Drehzahlen $x_{1},x_{2}\in [a,b]$ der Fall sein, dass $f_{t}(x_{1})<f_{t+1}(x_{1})$ und $f_{t}(x_{2})>f_{t+1}(x_{2})$ gilt.

### Aufgabe - Zustandsraum als Funktionenraum

Sei $(\Omega ,{\mathcal {S}}_{_{\Omega }},P)$ ein Wahrscheinlichkeitsraum, $(Z,{\mathcal {S}}_{_{Z}})$ ein Zustandsraum mit $Z:={\mathcal {C}}([a,b],\mathbb {R} )$ und der Borelschen σ-Algebra auf bzgl. der von der Integralnorm erzeugten Topologie.
* $f_{t_{1}}:=X_{t}(\omega )\in {\mathcal {C}}([a,b],\mathbb {R} )$
* $f_{t_{2}}:=X_{t+1}(\omega )\in {\mathcal {C}}([a,b],\mathbb {R} )$
Wie kann man eine Verbesserung zwischen den Zeitpunkten $t_{1}$ und $t_{2}$ bzgl. der Integralnorm auf $Z:={\mathcal {C}}([a,b],\mathbb {R} )$ messen?

### Existenz stochastischer Prozesse

Die Frage nach der Existenz von stochastischen Prozessen mit bestimmten Eigenschaften wird mit dem Satz von Daniell-Kolmogorow und dem Satz von Ionescu-Tulcea (benannt nach Cassius Ionescu-Tulcea) weitgehend gelöst.

## Einteilung

Folgend sind einige Kriterien aufgeführt, nach denen stochastische Prozesse klassifiziert werden. Eine genauere Beschreibung findet sich in der Liste stochastischer Prozesse.
Die grundlegendste Einteilung stochastischer Prozesse in verschiedene Klassen erfolgt über die Indexmenge $T$ und die Wertemenge $Z$:

### Diskrete und stetige Indexmenge

* Ist $T$ abzählbar (etwa $T=\mathbb {N} _{0}$), so heißt der Prozess ein zeitdiskreter stochastischer Prozess oder etwas ungenau diskreter stochastischer Prozess
* Ansonsten heißt der Prozess ein zeitstetiger stochastischer Prozess.

### Diskrete und stetige Wertemenge

* Ist $Z$ endlich oder abzählbar, spricht man von wertediskreten Prozessen.
* Ist $Z=\mathbb {R}$, so spricht man von einem reellwertigen Prozess.

### Mehrdimensionale Indexmenge

* Dann nennt man den stochastischen Prozess häufig Zufallsfeld, zufälliges Feld oder engl. random field. Häufig ist $T=\mathbb {R} ^{2}$ oder $T=\mathbb {R} ^{3}$, insbesondere für Modelle der Geostatistik.

### Momente bei reellwertigen Zufallsvariablen

Betrachtet man stochastische Prozesse mit reellwertigen Zufallsvariablen $X_{t}:\Omega \to \mathbb {R}$ kann man klassifizieren, ob der Erwartungswert und die Varianz existieren oder spezielle Werte annehmen.
* Ein reellwertiger stochastischer Prozess heißt integrierbar, wenn $\operatorname {E} (|X_{t}|)<\infty$ für alle $t\in T$ gilt.
* Ein reellwertiger stochastischer Prozess heißt quadratintegrierbar, wenn $\operatorname {E} (X_{t}^{2})<\infty$ für alle $t\in T$ gilt.
* Ein reellwertiger stochastischer Prozess heißt zentriert, wenn $\operatorname {E} (X_{t})=0$ für alle $t\in T$ gilt.

### Momente von Zufallsvariablen in Funktionenräumen

Betrachtet man stochastische Prozesse mit Zufallsvariablen $X_{t}:\Omega \to V$, die einen Funktionenraum als topologischen Vektorraum abbilden, kann man diese ebenfalls klassifizieren, ob der Erwartungsfunktionen und die Varianzfunktionen existieren.
* Ein reellwertiger stochastischer Prozess heißt integrierbar, wenn $\operatorname {E} (|X_{t}|)\in V$ für alle $t\in T$ gilt.
* Ein reellwertiger stochastischer Prozess heißt quadratintegrierbar, wenn $\operatorname {E} (X_{t}^{2})\in V$ für alle $t\in T$ gilt.
* Ein reellwertiger stochastischer Prozess heißt zentriert, wenn $\operatorname {E} (X_{t})=0_{V}\in V$ für alle $t\in T$ gilt, wobei $0_{V}\in V$ der Nullvektor in $V$ ist.

### Bedingung an Momente von Zufallsvariablen in Funktionenräumen

Die Endlichkeit des Erwartungswertes $E(|X|)=e=<\infty$ wird bei Funktionenräumen dadurch ersetzt, dass das Moment eine wohldefinierte Funktion aus dem Funktionenraum liefert. Diese Eigenschaft ermöglicht ferner, dass wiederum wohldefinierte Operation in dem topologischen Vektorraum mit $E(|X|)=e\in V$ durchgeführt werden können.

### Stochastische Abhängigkeiten

Des Weiteren werden stochastische Prozesse noch mittels der Struktur ihrer stochastischen Abhängigkeiten klassifiziert, diese werden meist über den bedingten Erwartungswert definiert. Zu diesen Klassen gehören:
* Markow-Prozesse
* Martingale

#### Markow-Prozesse

Bei Markow-Prozessen ist Wahrscheinlichkeit, einen bestimmten Zustand anzunehmen nur davon abhängig, in welchem Zustand sich der Prozess davor befindet, aber nicht von der gesamten Vergangenheit des Prozesses. Markow-Prozesse haben somit ein „kurzes Gedächtnis“.

#### Martingale

Martingale sowie Sub- und Supermartingale modellieren ein faires Spiel. Hat man zu einem Zeitpunkt bereits einen gewissen Betrag gewonnen, so ist der Erwartungswert für künftige Gewinne genau dieser bereits gewonnene Betrag.

### Weitere Eigenschaften: Pfade und Zuwächse

Des Weiteren kann man Prozesse wie folgt klassifizieren:
* Man kann die Eigenschaften der Pfade untersuchen und die Prozesse dementsprechend unterteilen: Prozesse mit stetigen Pfaden, Prozesse mit beschränkten Pfaden etc. Ein Beispiel für einen stochastischen Prozess mit fast sicher stetigen Pfaden ist der Wiener-Prozess.
* Man betrachtet die sogenannten Zuwächse des Prozesses, also Terme der Art $X_{t_{1}}-X_{t_{0}}$ für Indizes $t_{1},t_{0}\in T$. Je nach geforderter Eigenschaft der Zuwächse erhält man dann Prozesse mit stationären Zuwächsen, Prozesse mit unabhängigen Zuwächsen oder auch Prozesse mit normalverteilten Zuwächsen. So sind beispielsweise die Lévy-Prozesse genau die stochastischen Prozesse mit unabhängigen, stationären Zuwächsen.

## Aufgaben

* Erläutern Sie den Zusammenhang von stochastischen Prozessen zur Maßtheorie!
* Welche Unterschiede und Gemeinsamkeiten bestehen zwischen einer Funktionenfolge $(f_{n})_{n\in \mathbb {N} }$ und einem stochastischen Prozess?
* Analysieren Sie Nachhaltigkeitsaspekte im Kontext der geplanten Obsoleszenz und betrachten Sie den Defekt einer Gerätes und dessen Ersetzung als stochastischen Prozess!
* Betrachten Sie den Ameisenalgorithmus als stochastischen Prozess, der über Pheromone eine Zufallslauf von der Vergangenheit abhängig macht.

## Pfade

Für jedes $\omega \in \Omega$ erhält man eine Abbildung $X(\cdot ,\omega )\colon T\rightarrow Z,\,t\mapsto X(t,\omega )=X_{t}(\omega )$. Diese Abbildungen nennt man die Pfade des Prozesses und wird auch mit $X_{\bullet }(\omega )$ notiert. Häufig spricht man statt von den Pfaden auch von den Trajektorien oder den Realisierungen des stochastischen Prozesses.

### Stetigkeit der Pfade

Ist speziell $T=\mathbb {R} _{+}$ und $Z\subseteq \mathbb {R} ^{n}$ bzw. allgemeinerer ein topologischer Vektorraum), so kann man von Stetigkeitseigenschaften der Pfade sprechen. Stetigkeit ist dabei darüber definiert, dass die Urbilder offener Mengen wieder offen sind.

### Beispiel - stetige Pfade

Der Wiener-Prozess hat stetige Pfade, von denen im Bild zu den Beispielen unten zwei zu sehen sind.

### Bemerkung - Pfad

Ein Pfad ist somit ein zufälliger Verlauf $(X_{t}(\omega ))_{t\in T}$ zum einem (Versuchs-)Ergebnis $\omega \in \Omega$ im Raum der Funktionen von $T\to Z$.

### Veranschaulichung - Pfade in einem Funktionenraum

Die folgende Animation zeigt einen Pfad in einem Funktionenraum, der in diesem Fall als Konvexkombination auf einer Zeitmenge $[0,1]\subset T$ als Interpolation von zwei Funktionen dargestellt wird. $X_{t}(\omega )$ entsprechen dabei den rot markierten Funktionen zum Zeitpunkt $t\in T$
Geogebra: Interaktives Applet - Download: Geogebra-File

### Rechtsseitige, linksseitige Stetigkeit

Man nennt einen zeitstetigen stochastischen Prozess stetig, rechtsseitig stetig, linksseitig stetig bzw. càdlàg, wenn alle Pfade des Prozesses die entsprechende Eigenschaft haben.

### Beispiel - rechtsseitig stetige Pfade

Der Poisson-Prozess ist ein Beispiel für einen zeitstetigen, wertdiskreten càdlàg-Prozess; er hat also rechtsseitig stetige Pfade, bei denen an jeder Stelle der linksseitige Limes existiert.

## Stochastische Prozesse versus Zeitreihen

Neben der Theorie der stochastischen Prozesse gibt es auch die mathematische Disziplin der Zeitreihenanalyse, die weitgehend unabhängig davon operiert. Definitionsgemäß sind stochastische Prozesse und Zeitreihen ein und dasselbe, dennoch weisen die Gebiete Unterschiede auf

### Zeitreihenanalyse als Teilgebiet der Statistik

Die Zeitreihenanalyse versteht sich als Teilgebiet der Statistik und versucht, spezielle Modelle (wie etwa ARMA-Modelle) an zeitlichch geordnete Daten anzupassen. Man versucht also aus Daten auf eine in der Regel unbekannte Wahrscheinlichkeitsverteilung zu schließen.

### Stochastische Prozesse als Teilgebiet der Statistik

Bei den stochastischen Prozessen werden in der Stochastik und Wahrscheinlichkeitstheorie behandelt und man untersucht die spezielle Struktur der Zufallsfunktionen (z.B. bezüglich Stetigkeit, Differenzierbarkeit, Variation oder Messbarkeit bezüglich gewisser Filtrierungen).

## Beispiele - Stochastische Prozesse

Ein Standard-Wiener-Prozess auf dem Zeitintervall [0,3], außerdem sind der Erwartungswert und die Standardabweichung eingezeichnet.

### Beispiel 1 - Random Walk

Ein einfaches Beispiel für einen zeitdiskreten Punktprozess ist der symmetrische Random Walk, hier veranschaulicht durch ein Glücksspiel: Ein Spieler beginnt zum Zeitpunkt $t=0$ mit einem Startkapital von 10 Euro ein Spiel, bei dem er nacheinander immer wieder eine Münze wirft. Bei „Kopf“ gewinnt er einen Euro, bei „Zahl“ verliert er einen. Die Zufallsvariablen $X_{t},\;t\in \mathbb {N} _{0},$ für den Kontostand nach $t$ Spielen definieren einen stochastischen Prozess (mit deterministischer Startverteilung $X_{0}=10$). Genauer betrachtet handelt es sich bei $X$ um einen Lévy-Prozess und um ein Martingal.

### Beispiel 2 - Gaußprozess

Eine vielseitig verwendete Klasse stochastischer Prozesse sind Gauß-Prozesse, die viele natürliche Systeme beschreiben können und als Maschinenlernverfahren Anwendung finden.

### Bespiel 3 - Wiener-Prozess

Ein bedeutender stochastischer Prozess aus der Klasse der Gaußprozesse ist der Wiener-Prozess (auch „Brownsche Bewegung“ genannt). Hierbei sind
* die einzelnen Zustände normalverteilt mit linear anwachsender Varianz.
* die Zuwächse sind normalverteilte und stochastisch unabhängig.
Der Wiener-Prozess findet Anwendung in der stochastischen Integration, der Finanzmathematik und der Physik.

### Weitere Beispiele 4

* Bernoulli-Prozess,
* Weißes Rauschen.
* Markow-Kette,
* Brownsche Brücke,
* Gebrochene Brownsche Bewegung,
* Ornstein-Uhlenbeck-Prozess, Poisson-Prozess.