Deep image representation learning for knowledge discovery from earth observation data archives
Creators: name: Sümbül, Gencer
Publisher: name: Technische Universität Berlin
Year: 2023
Subjects: subject: 000 Informatik, Informationswissenschaft, allgemeine Werke::000 Informatik, Wissen, Systeme::004 Datenverarbeitung; Informatik
subject: deep learning
subject: image representation learning
subject: remote sensing
subject: large-scale knowledge discovery

description: Advances in remote sensing (RS) technology have increased the availability of images regularly acquired by satelliteborne and airborne sensors, while free data policies support researchers to have access to massive Earth observation data archives. To automatically extract knowledge from these archives on a large-scale, deep learning (DL) based RS image representation learning (IRL) has attracted great attention. However, existing methods have limitations on: i) accurate characterization of high-level semantic content and spectral information present in RS images; ii) modelling RS image similarities by exploiting multi-label training images; iii) time efficient and scalable information extraction; iv) effective IRL under noisy training labels; and v) joint use of multiple learning tasks for describing the complex content of RS images. This thesis aims to develop advanced DL-based IRL methods to tackle these limitations, while a particular attention is devoted to image scene classification and content-based image retrieval (CBIR) problems due to their importance for large-scale knowledge discovery. In detail, we propose five DL-based IRL methods throughout the thesis. First, a multi-label classification approach is introduced to accurately describe complex spatial and spectral content of high-spatial resolution RS images, where several spectral bands are associated with varying spatial resolutions. Second, we propose an image triplet sampling method for IRL through the characterization of RS image similarities, which forms the foundation for CBIR. Among multi-label training images, this method selects a small set of the most representative and informative image triplets that lead to a decrease in computational complexity and an increase in learning speed without a significant loss in performance. Third, an approach devoted to simultaneous RS image compression and indexing is introduced for scalable CBIR. This approach characterizes hash codes of RS images on learning based compression domain; and thus prevent the requirement of decoding images prior to CBIR that can save a significant amount of time. Fourth, we propose an approach for IRL when training data includes noisy labels. By integrating generative reasoning into discriminative reasoning, our approach models the complementary characteristics of discriminative and generative reasoning, and thus prevents the interference of noisy labels during training. Fifth, a multitask learning approach is introduced to achieve IRL when multiple learning tasks are jointly utilized. Due to its loss functions and sequential optimization algorithm, this approach preserves the plasticity for each task and the stability in between learning consecutive tasks. For benchmarking the proposed methods, we introduce a large-scale multi-modal multi-label benchmark RS image archive (denoted as BigEarthNet). It includes 590,326 pairs of Sentinel-1 and Sentinel-2 image patches acquired over 10 European countries. We make BigEarthNet, its pre-trained DL models and the codes of all the methods publicly available as open source contributions of the thesis.
description: Fortschritte in den Technologien der Fernerkundung (FK) haben zu einer erhöhten Verfügbarkeit von Bildmaterial, das von satelliten- und flugzeuggestützten Sensoren erfasst wird, geführt; gleichzeitig ermöglicht die kostenlose Freigabe von Datensätzen Forschern den Zugang zu umfangreichen Archiven mit Erdbeobachtungsdaten. Hierdurch ergibt sich ein Potential für tiefes Lernen (TF) basierte Repräsentationslernen (RL) Studien zur automatischen Wissensentdeckung aus diesen Archiven. Bestehende Methoden haben jedoch Einschränkungen in Bezug auf: i) die genaue Charakterisierung des semantischen Inhalts und der spektralen Informationen der FK-Bilder; ii) die korrekte Nutzung von FK-Bildern mit mehreren Labels während des Trainings; iii) die zeiteffiziente und skalierbare Informationsgewinnung; iv) effektives RL unter fehlerhaften Trainingslabels; und v) die kombinierte Nutzung mehrerer Lerntasks zur Beschreibung der Bildinhalte. Diese Arbeit zielt darauf ab, TF-basierte RL-Methoden zu entwickeln, um diese Defizite zu beheben, wobei ein besonderes Augenmerk auf die Klassifizierung von Bildszenen und inhaltsbasierte Bildabfragen (IB) gelegt wird. Der erste Beitrag dieser Arbeit besteht in der Entwicklung eines Multi-Label-Klassifikationsansatzes zur genauen Beschreibung des komplexen räumlichen und spektralen Inhalts hochaufgelöster FK-Bilder. Als zweiten Beitrag schlagen wir eine Bild-Tripel-Sampling-Methode für RL vor. Diese basiert auf der Charakterisierung von Bildähnlichkeiten, die grundlegend für IB sind. Unter den Trainingsbildern wählt die Methode eine kleine Anzahl verschiedener Anker sowie relevante, harte und diversifizierte Positiv- und Negativbilder aus, die zu kleineren Berechnungskomplexität ohne signifikanten Performanceverlust führen. Im dritten Beitrag wird ein Ansatz zur gleichzeitigen FK-Bildkompression und Indizierung für skalierbares IB vorgestellt. Unser Ansatz charakterisiert Hash-Codes von FK-Bildern auf einer lernbasierten Kompressionsdomäne und erspart somit die Dekodierung von Bildern vor der IB, was zu einer erheblichen Zeitersparnis führen kann. Als vierten Beitrag schlagen wir einen Ansatz für RL vor, für den Fall, dass die Trainingsdaten fehlerhafte Labels enthalten. Durch die Kombination von generativen und diskriminativen Modellierungen nutzt unser Ansatz ihre komplementären Eigenschaften, um die Störung durch fehlerhafte Labels während des Trainings zu verhindern. Im fünften Beitrag wird ein Multitask-Lernansatz eingeführt, bei dem mehrere Lerntasks kombiniert verwendet werden. Aufgrund seiner Verlustfunktionen und seines sequentiellen Optimierungsalgorithmus bewahrt dieser Ansatz die Plastizität für jeden einzelnen Lerntask und die Stabilität zwischen aufeinanderfolgenden Lerntasks. Für das Benchmarking der vorgeschlagenen Methoden besteht der letzte Beitrag dieser Arbeit in der Erstellung von BigEarthNet, dem ersten groß angelegten multimodalen Multi-Label-Benchmark-Archiv in FK. Wir stellen BigEarthNet, seine vortrainierten TF-Modelle und die Codes aller Methoden als Open-Source-Beiträge der Dissertation öffentlich zur Verfügung.