# Korrespondenzproblem (Bildverarbeitung)

Das Korrespondenzproblem betrifft als Basis für die Berechnung des optischen Flusses (optical flow) und des Stereosehens (stereo matching) ein fundamentales Problem der Bildverarbeitung.

## Grundlagen

Sowohl in der Stereoskopie als auch beim Berechnen des optischen Flusses werden in zwei digitalen Bildern diejenigen Punkte (Pixel) gesucht, welche jeweils die Projektion desselben Elements derselben Szene darstellen. Solche Bildpunkte, die vom selben Objektpunkt einer räumlichen Szene stammen, werden als korrespondierende Bildpunkte bezeichnet. Das Auffinden korrespondierender Bildpunkte in Stereobildern wird als Korrespondenzproblem bezeichnet. Das Ergebnis ist üblicherweise eine Disparitätenkarte (disparity map), worin für jeden Pixel des einen Bildes ein Verschiebungsvektor zum korrespondierenden Pixel des anderen Bildes ermittelt wird. Zu diesem Zweck muss eine eindeutige Korrespondenz zwischen den Punkten der einzelnen Bilder hergestellt werden. Da die Zuordnung der Bildpunkte zum einen stark mehrdeutig sein kann und zum anderen nicht immer möglich ist, wird nach der Hadamard’schen Definition das Korrespondenzproblem auch als „schlecht gestelltes“ Problem bezeichnet. Zusätzlich wird die Lösung des Korrespondenzproblems durch perspektive Verzerrungen, Rauschprozesse sowie Beleuchtungs- und Kontrastunterschiede zwischen den Bildern erschwert.

### Okklusionen

Eine der bedeutendsten Fehlerursachen in der stereoskopischen Korrespondenzbestimmung stellen Bereiche in einer betrachteten Szene dar, die nur aus einer Kameraperspektive zu sehen sind. Zu den Bildbereichen, in die diese Regionen der Szene abgebildet werden, existieren keine Korrespondenzpartner im anderen Stereobild. Diese Bildbereiche werden als Okklusionen (Verdeckungen) bezeichnet. Werden Okklusionen bei der Korrespondenzbestimmung nicht geeignet berücksichtigt, so kommt es je nach Ansatz zu mehr oder weniger starken Fehlkorrespondenzen und damit zu einer fehlerbehafteten Tiefenrekonstruktion. Okklusionen stellen daher ein schwerwiegendes Problem in der Stereoskopie dar.

### Blendenproblem

Bei einer Stereogeometrie mit parallelen optischen Achsen ist die Verschiebung korrespondierender Bildpunkte in einem Stereobildpaar immer parallel zur Stereobasis gerichtet. Bei einer genauen Kenntnis der Kamerageometrie kann aufgrund dieser Tatsache die Richtung der Disparität im Vorfeld ermittelt und somit die Suche nach korrespondierenden Bildpunkten erheblich erleichtert werden. Problematisch sind jedoch Bildregionen, in denen keine Strukturen oder Intensitätsänderungen in Richtung der Stereobasis auftreten. In diesem Fall kann eine Verschiebung korrespondierender Bildpunkte nicht festgestellt werden. Da die Detektion der Verschiebung in der Stereoskopie meist durch einen lokalen Operator erfolgt, wobei der übrige Teil der Szene ausgeblendet wird, wird dieses Problem auch als ein Spezialfall des sogenannten Blendenproblems betrachtet, dem in der Bewegungsanalyse (optischer Fluss) eine besondere Bedeutung zukommt.

### Einschränkungen in der Stereoskopie

Bedingt durch seine spezielle Natur kann das Korrespondenzproblem, ebenso wie viele andere schlecht gestellte Probleme, nur unter Ausnutzung geeigneten Vorwissens eindeutig gelöst werden. Mit Hilfe dieses Vorwissens wird der Lösungsraum entsprechend eingeschränkt und das Problem in ein „gut gestelltes“ Problem umgewandelt. Die Einschränkungen des Lösungsraums beziehen sich zum einen auf den Abbildungsprozess und die Geometrie der verwendeten Kameras (Epipolar- und Eindeutigkeitseinschränkung) und zum anderen auf postulierte Eigenschaften der beobachteten Szene (Kontinuitäts-, Ordnungs- und Gradienteneinschränkung).

## Algorithmen

Die Zuordnung von korrespondierenden Bildelementen kann in der digitalen Bildverarbeitung durch verschiedene Algorithmen und mathematische Verfahren erfolgen. Die einzelnen Verfahren unterscheiden sich hinsichtlich ihrer Fehleranfälligkeit und des erforderlichen Berechnungsaufwandes teilweise erheblich.

### Lokale Verfahren

Bei den lokalen Verfahren erfolgt die Zuordnung einzelner Bildbereiche der Stereobilder anhand der Grauwerte bzw. der lokalen Umgebung eines Pixel (Grauwertmatrix). Üblicherweise wird die Übereinstimmung der Bildbereiche über die Berechnung eines Ähnlichkeitsmaßes wie z. B. einer lokalen Kreuzkorrelation bestimmt. Die Disparität ergibt sich im einfachsten Fall durch die Verschiebung der Bildregionen zwischen linkem und rechtem Bild, die sich durch das größte Maß an Übereinstimmung auszeichnen. Einige dieser Verfahren selektieren durch einen sogenannten Interest-Operator vor der Korrespondenzbestimmung zunächst aus jedem Bild Gebiete mit besonderen Eigenschaften, die anschließend miteinander verrechnet werden.

### Merkmalsbasierte Verfahren

Die meisten der existierenden stereoskopischen Ansätze können in die Kategorie der merkmalsbasierten Verfahren eingeordnet werden. Bei dieser Technik werden zunächst Merkmale aus den Bilddaten extrahiert, die das Bild auf einer abstrakteren Ebene beschreiben. Anschließend wird in einem weiteren Schritt eine Korrespondenzbestimmung auf der Ebene der Merkmale durchgeführt. Häufig verwendete Merkmale sind hierbei Kanten, Linien- oder Eckenpunkte oder auch Kanten- bzw. Liniensegmente. Große Bedeutung kommt bei diesen Verfahren den differenzierenden Filtern zu, die Grauwertänderungen wie Kanten oder Linien aus den Bildsignalen herausfiltern.

### Phasenbasierte Verfahren

Die Grundlage für die sogenannten phasenbasierten Methoden zur Disparitätsmessung liefert der Verschiebungssatz der Fouriertransformation. In der Stereobildverarbeitung ist jedoch im Allgemeinen nicht mit einer ausschließlich globalen Verschiebung zwischen den Bildern zu rechnen, da unterschiedlich weit vom Kamerasystem entfernte Objekte unterschiedliche Disparitätswerte in den Stereobildern aufweisen. Folglich müssen die Verschiebungen korrespondierender Bildbereiche in dem Stereobildpaar durch lokale Operatoren ermittelt werden, so dass eine Phasenkorrelation generell nur in Verbindung mit einer auf kleinere Bildbereiche begrenzte Fouriertransformation sinnvoll ist. Die größte Bedeutung innerhalb der phasenbasierten Verfahren kommt den sogenannten Phasendifferenzmethoden zu. Die Phaseninformation ergibt sich bei diesen Techniken aus der Antwort von komplexen Filterpaaren, mit denen die Eingangsbilder gefiltert werden. Eine wesentliche Voraussetzung für dieses Verfahren ist, dass die Phase der Filterantworten näherungsweise eine lineare Funktion des Ortes ist. Diese Eigenschaft kann dann erreicht werden, wenn die Filterübertragungsfunktion keinen Gleichanteil aufweist und für negative Frequenzen verschwindet. Diese Eigenschaft wird als Quadraturverhalten bezeichnet. Da die Phaseninformation invariant bezüglich der Amplitude der Filterantworten ist, sind phasenbasierte Verfahren darüber hinaus relativ robust bezüglich interokulären Beleuchtungs- und Kontrastdifferenzen. Durch die Mehrdeutigkeit bei der Phasenberechnung können jedoch nur Disparitätswerte bis zur halben Modulationswellenlänge des verwendeten Filters gemessen werden. Wie viele andere Ansätze reagieren auch phasenbasierte Verfahren sehr empfindlich auf Okklusionen.

### Auflösung der Mehrdeutigkeiten

Nach der Eindeutigkeitseinschränkung darf jedem Bildpunkt nur eine Disparität und damit nur maximal einem Ort im betrachteten Raum zugeordnet werden (dies schließt übrigens semitransparente Oberflächen aus). Bei allen lokalen und merkmalsbasierten Verfahren können jedoch Mehrdeutigkeiten nicht ausgeschlossen werden (die ähnlichsten Bereiche in den Stereobildern müssen nicht zwangsläufig zusammengehören). Zur Lösung dieses Problems kommen, je nach Ansatz unterschiedliche Methoden zum Einsatz: Bei den sogenannten Regularisierungsmethoden werden unter Berücksichtigung der Einschränkungen (siehe Grundlagen) Kosten- oder Energiefunktionen formuliert, in denen anschließend das globale Minimum gesucht wird. Einen anderen Ansatz stellen die sogenannten Relaxationsverfahren dar. Bei den meisten Ansätzen, die dieses Verfahren in der Stereoskopie anwenden, werden zunächst Merkmale oder Bildregionen mit besonderen Eigenschaften aus den Bilddaten extrahiert. Den Bildkoordinaten, an denen die erwähnten Elemente auftreten, werden anschließend sogenannte Knoten zugeordnet. Jeder dieser Knoten wird weiterhin mit einem Satz von Variablen versehen, die jeweils eine Korrespondenz des betreffenden Knotens mit unterschiedlichen Elementen im anderen Bild repräsentieren. Diese Variablen werden je nach Ansatz als Wahrscheinlichkeit oder als Neuronenaktivität (neuronale Netze) interpretiert. Zu Beginn des eigentlichen Relaxationsprozesses werden die Variablen in Abhängigkeit der Ähnlichkeit der entsprechenden Merkmale oder Pixelwerte initialisiert. Anschließend werden die Variablenwerte in einem dynamischen Prozess iterativ aktualisiert, wobei Verletzungen der Einschränkungen hemmend bzw. reduzierend und Berücksichtigung der Einschränkungen verstärkend wirken. Eine eindeutige Disparitätenkarte liegt vor, wenn ein stationärer Zustand erreicht ist. Über eine geeignete Kopplung können auf diese Weise auch durch Okklusionen verursachte Falschzuweisungen unterdrückt werden.

## Anwendungen
### Optischer Fluss

Das Korrespondenzproblem stellt sich auch bei der Berechnung des optischen Flusses, welches eine Abschätzung der Bewegungen von Gegenständen in einem Bild darstellt („approximation to image motion defined as the projection of velocities of 3D surface points onto the image plane of a visual sensor“).
Die kontinuierliche Ermittlung des optischen Flusses in optischen Abbildungen kann zur Verfolgung von bewegten Objekten und zur automatisierten Nachführung der entsprechenden Entfernungseinstellung eingesetzt werden.

### Autonomes Fahren

Mit Hilfe von Stereokameras die im Normalfall angeordnet sind, lassen sich zunächst Disparitätenkarten erstellen und können anschließend Tiefenbilder in der Sichtrichtung bestimmt werden, was eine Grundlage des vollautomatischen Fahrens darstellt.

### Reduktion der Schärfentiefe

Die Korrespondenzanalyse kann zur rechnerischen Reduktion der Schärfentiefe eingesetzt werden.

### 3D-Rekonstruktion

Stereobilder sind ferner weit verbreitet, um die bei der Abbildung verloren gegangenen Tiefeninformation mit Hilfe einer 3D-Rekonstruktion wieder herzustellen. Dies ist unter anderem in der Robotik ein wichtiges Anwendungsgebiet wie bei der Erkundung unseres Nachbarplaneten Mars mit Landefahrzeugen:
* NASA Mission Mars Exploration Rover (MER)
* NASA Mission Mars Science Laboratory (kurz MSL)
* NASA Mission Mars 2020.
Nach dem gleichen Prinzip arbeitet man in der Fernerkundung mit Satelliten um ein 3D-Modell der Erde zu erstellen oder andere Planeten zu erforschen.
Ein Vorteil von Kameras als Messmittel ist, dass sie berührungslos arbeiten. Daher kommen bei der Archäologie gerne Stereokameras zum Einsatz zur Erzeugung eines 3D-Modells.
* Stereobildpaar eines Mikrofossils kleiner als 1 mm groß.
* 3D-Rekonstruktion des Mikrofossils.