title: DeepGeoMap
title: a deep learning convolutional neural network architecture for geological hyperspectral classification and mapping
titleType: Subtitle
Creators: name: Dämpfling, Helge Leoard Carl
Publisher: name: Universität Potsdam
Year: 2021
Subjects: subject: 550 Geowissenschaften

description: In recent years, deep learning improved the way remote sensing data is processed. The classification of hyperspectral data is no exception. 2D or 3D convolutional neural networks have outperformed classical algorithms on hyperspectral image classification in many cases. However, geological hyperspectral image classification includes several challenges, often including spatially more complex objects than found in other disciplines of hyperspectral imaging that have more spatially similar objects (e.g., as in industrial applications, aerial urban- or farming land cover types). In geological hyperspectral image classification, classical algorithms that focus on the spectral domain still often show higher accuracy, more sensible results, or flexibility due to spatial information independence. In the framework of this thesis, inspired by classical machine learning algorithms that focus on the spectral domain like the binary feature fitting- (BFF) and the EnGeoMap algorithm, the author of this thesis proposes, develops, tests, and discusses a novel, spectrally focused, spatial information independent, deep multi-layer convolutional neural network, named 'DeepGeoMap’, for hyperspectral geological data classification. More specifically, the architecture of DeepGeoMap uses a sequential series of different 1D convolutional neural networks layers and fully connected dense layers and utilizes rectified linear unit and softmax activation, 1D max and 1D global average pooling layers, additional dropout to prevent overfitting, and a categorical cross-entropy loss function with Adam gradient descent optimization. DeepGeoMap was realized using Python 3.7 and the machine and deep learning interface TensorFlow with graphical processing unit (GPU) acceleration. This 1D spectrally focused architecture allows DeepGeoMap models to be trained with hyperspectral laboratory image data of geochemically validated samples (e.g., ground truth samples for aerial or mine face images) and then use this laboratory trained model to classify other or larger scenes, similar to classical algorithms that use a spectral library of validated samples for image classification. The classification capabilities of DeepGeoMap have been tested using two geological hyperspectral image data sets. Both are geochemically validated hyperspectral data sets one based on iron ore and the other based on copper ore samples. The copper ore laboratory data set was used to train a DeepGeoMap model for the classification and analysis of a larger mine face scene within the Republic of Cyprus, where the samples originated from. Additionally, a benchmark satellite-based dataset, the Indian Pines data set, was used for training and testing. The classification accuracy of DeepGeoMap was compared to classical algorithms and other convolutional neural networks. It was shown that DeepGeoMap could achieve higher accuracies and outperform these classical algorithms and other neural networks in the geological hyperspectral image classification test cases. The spectral focus of DeepGeoMap was found to be the most considerable advantage compared to spectral-spatial classifiers like 2D or 3D neural networks. This enables DeepGeoMap models to train data independently of different spatial entities, shapes, and/or resolutions.
description: In den letzten Jahren hat Deep Learning die Verarbeitung von Fernerkundungsdaten verbessert. Die Klassifizierung hyperspektraler Daten ist keine Ausnahme. 2D- oder 3D-Convolutional Neural Networks haben in vielen Fällen klassische Algorithmen zur hyperspektralen Bildklassifizierung übertroffen. Die Klassifikation geologischer hyperspektraler Bilder beinhaltet jedoch mehrere Herausforderungen, die oft räumlich komplexere Objekte umfassen als in anderen Disziplinen der hyperspektralen Bildanalyse, die in der Regel räumlich ähnlichere Objekte aufweisen (z. B. in industriellen Anwendungen, städtischen oder landwirtschaftlichen Luftaufnahmen). Bei der geologischen hyperspektralen Bildklassifizierung zeigen klassische Algorithmen, die sich auf den Spektralbereich konzentrieren, oft noch eine höhere Klassifizierungsgenauigkeit, sinnvollere Ergebnisse oder Flexibilität aufgrund räumlicher Informationsunabhängigkeit. Im Rahmen dieser Arbeit, inspiriert von klassischen maschinellen Lernalgorithmen, die sich auf den spektralen Bereich konzentrieren, wie dem Binary Feature Fitting- (BFF) und dem EnGeoMap-Algorithmus, schlägt der Autor dieser Arbeit ein neuartiges, spektral fokussiertes, räumlich unabhängiges, tiefes mehrschichtiges neuronales Faltungsnetzwerk (Deep Convolutional Neural Network) mit dem Namen "DeepGeoMap" für die hyperspektrale geologische Datenklassifizierung vor. Genauer gesagt verwendet die Architektur von DeepGeoMap eine sequenzielle Reihe verschiedener „1D-Convolutional-Layer“ und „1D-Dense-Layer“ und verwendet ReLU und Softmax-Aktivierung, "1D-Max- und 1D-Global-Average-Pooling-Layer“, ein zusätzliches "Dropout-Layer", um ein „Overfitting“ zu verhindern, und eine kategoriale Kreuzentropieverlustfunktion mit Adam-Gradientenabstiegsoptimierung. DeepGeoMap wurde mit Python 3.7 und der Machine- und Deep-Learning-Schnittstelle TensorFlow mit Grafikartenbeschleunigung (GPU) realisiert. Diese spektral fokussierte 1D-Architektur ermöglicht das Trainieren von DeepGeoMap-Modellen mit hyperspektralen Laborbilddaten geochemisch validierter Proben (nach dem Vorbild klassischer Algorithmen, die eine Spektralbibliothek validierter Proben zur Bildklassifizierung verwenden). Die Klassifizierungsfähigkeiten von DeepGeoMap wurden mit zwei geologischen hyperspektralen Bilddatensätzen getestet. Bei beiden handelt es sich um geochemisch validierte hyperspektrale Datensätze, von denen einer auf Eisenerz und der andere auf Kupfererzproben basiert. Der Kupfererz-Labordatensatz wurde verwendet, um ein DeepGeoMap-Modell für die Klassifizierung und Analyse einer größeren Tagebauwandszene in der Republik Zypern, aus der die Proben stammten, zu trainieren. Darüber hinaus wurde ein satellitenbasierter Benchmark-Datensatz, der Indian Pines-Datensatz, für Training und Tests verwendet. Die Klassifikationsgenauigkeit von DeepGeoMap wurde mit klassischen Algorithmen und anderen neuronalen Faltungsnetzen verglichen. Es wurde gezeigt, dass DeepGeoMap höhere Genauigkeiten erreichen und diese klassischen Algorithmen und andere neuronale Netze in den Testfällen der geologischen hyperspektralen Bildklassifizierung übertreffen kann. Der spektrale Fokus von DeepGeoMap erwies sich als der größte Vorteil gegenüber spektral-räumlichen Klassifikatoren wie 2D- oder 3D-Convolutional Neural Networks. Dadurch können DeepGeoMap-Modelle Daten unabhängig von unterschiedlichen räumlichen Einheiten, Formen und/oder Auflösungen trainieren.