title: Sparse representations in machine learning and remote sensing
title: Τεχνικές αραιών αναπαραστάσεων και εφαρμογή τους σε προβλήματα μηχανικής μάθησης και τηλεπισκόπησης

Creators: name: Καραλας Κωνσταντινος
Publisher: name: Technical University of Crete
Year: 2015

description: Land cover maps are critical for environmental monitoring and urban development among others. Unfortunately, in order to produce such maps significant labor intensive effort is required by human annotators through field-studies. Interestingly, on the other hand, high resolution imaging systems onboard airborne and spaceborne platforms are able to capture rich information in parts of the electromagnetic spectrum that the human eye cannot discern. This remote sensing imagery can be used to overcome the issues associated with field-studies, providing global and up-to-date land cover maps. Typically, during the mapping procedure, each remotely sensed pixel is classified into a single class, leading to very coarse representations. In the past few years, the development of the powerful framework of multi-label learning, where instances may be associated with multiple labels simultaneously, has been successfully applied in various computer vision scenarios. Part of the success is also attributed to the development of hand-crafted features which can dramatically boost the performance under specific conditions, however, these features are very specialized and lack universality.

This thesis introduces a radically novel approach for inferring the complex relationships between multispectral satellite imagery and spectral profiles of different surface materials, exploiting the proliferation of remote sensing imagery, through the introduction of the multi-label classification framework. The adoption of this scheme provides a real-world answer to the scale incompatibility problem between remote sensing imagery and ground-based measurements, since they naturally come in different spatial resolutions. Furthermore, instead of relying on specialized features, we propose the application of deep feature learning with stacked sparse autoencoders, in order to automatically extract meaningful features identifying the underlying explanatory patterns hidden in low level satellite data.

To validate the merits of the proposed approach, we consider real contemporary data from the European Environment Agency for generating the ground-truth, and multispectral images from the Moderate-resolution Imaging Spectroradiometer sensor for feature extraction. We present results using several state-of-the-art multi-label learning classifiers and evaluate their predictive performance under different challenging scenarios, including cases where training is localized in a specific area and time, while testing takes place on a different location or time instance. Experimental results suggest that the proposed framework can achieve excellent prediction accuracy, even from a limited number of diverse training examples, whereas the application of feature learning leads to more representative features that can significantly boost the performance of multi-label classification problems.
description: Οι χάρτες κάλυψης της γης είναι αποφασιστικής σημασίας για την παρακολούθηση του περιβάλλοντος και της αστικής ανάπτυξης μεταξύ άλλων. Δυστυχώς, για να παραχθούν τέτοιοι χάρτες απαιτείται σημαντική και εντατική ανθρωποπροσπάθεια για τον κατάλληλο σχολιασμό τους μέσα από μελέτες. Κατά έναν ενδιαφέροντα τρόπο, από την άλλη πλευρά, υψηλής ανάλυσης απεικονιστικά συστήματα που βρίσκονται πάνω σε εναέριες και διαστημικές πλατφόρμες, αντλούν πλούσια πληροφορία από μέρη του ηλεκτρομαγνητικού φάσματος που το ανθρώπινο μάτι δε μπορεί να διακρίνει. Αυτές οι τηλεπισκοπικές εικόνες μπορούν να χρησιμοποιηθούν για να ξεπεραστούν τα θέματα που σχετίζονται με τις μελέτες, παρέχοντας παγκόσμιους και ενημερωμένους χάρτες κάλυψης γης. Συνήθως, κατά τη διαδικασία χαρτογράφησης, κάθε τηλεπισκοπικό εικονοστοιχείο ταξινομείται σε μία κλάση, οδηγώντας σε πολύ αδρές αναπαραστάσεις. Τα τελευταία χρόνια, η ανάπτυξη του ισχυρού πλαισίου της εκμάθησης πολλαπλών ετικετών, όπου τα δείγματα μπορούν να συσχετιστούν με πολλές ετικέτες ταυτόχρονα, έχει εφαρμοστεί με επιτυχία σε διάφορα σενάρια υπολογιστικής όρασης. Μέρος της επιτυχίας αυτής αποδίδεται και στην ανάπτυξη χειροποίητων χαρακτηριστικών τα οποία μπορούν να δώσουν δραματική ώθηση στην απόδοση κάτω από συγκεκριμένες συνθήκες, παρόλο που αυτά τα χαρακτηριστικά είναι πολύ εξειδικευμένα και στερούνται καθολικότητας.

Η παρούσα διπλωματική εργασία θέτει στόχο την εισαγωγή μιας ριζικά νέας προσέγγισης για να συνάγει τους σύνθετους δεσμούς μεταξύ των επίκτητων δορυφορικών εικόνων και των φασματικών υπογραφών από διαφορετικά είδη υλικών που βρίσκονται στην επιφάνεια της γης, αξιοποιώντας την ολοένα μεγαλύτερη διαθεσιμότητα τηλεπισκοπικών εικόνων μέσα από την εισαγωγή της ταξινόμησης που συνδέεται με παραπάνω από μία ετικέτες. Η υιοθέτηση αυτού του σχήματος παρέχει μία γνήσια απάντηση στο πρόβλημα ασυμβατότητας της κλίμακας μεταξύ των τηλεπισκοπικών εικόνων και των χερσαίων μετρήσεων, αφού εκ φύσεως διατίθενται σε διαφορετικές χωρικές αναλύσεις. Επιπλέον, αντί να στηριζόμαστε στα εξειδικευμένα χαρακτηριστικά, προτείνουμε την εφαρμογή της βαθιάς μάθησης χαρακτηριστικών με στοιβαγμένους αραιούς αυτοκωδικοποιητές, έτσι ώστε να εξάγουμε αυτόματα χαρακτηριστικά μεστού περιεχομένου ικανά να αναγνωρίσουν τους διευκρινιστικούς παράγοντες που υποκρύπτονται σε χαμηλού επιπέδου δορυφορικά δεδομένα.

Για την επικύρωση των πλεονεκτημάτων της προσέγγισής μας, θεωρούμε αληθινά και σύγχρονα δεδομένα από τον Ευρωπαϊκό Οργανισμό Περιβάλλοντος για τη δημιουργία του πίνακα αληθείας, και πολυφασματικές εικόνες από τον Μέτριας-ανάλυσης Οπτικό Φασματοφωτομετρικό αισθητήρα για την εξαγωγή των χαρακτηριστικών. Παρουσιάζουμε αποτελέσματα χρησιμοποιώντας μερικούς ταξινομητές μάθησης πολλαπλών ετικετών τελευταίας τεχνολογίας, των οποίων η προβλεπτική ικανότητα αξιολογείται σε διάφορες απαιτητικές συνθήκες, συμπεριλαμβανομένων περιπτώσεων όπου η εκπαίδευση εντοπίζεται σε συγκεκριμένο τόπο και χρόνο, ενώ η εξέταση λαμβάνει χώρα σε διαφορετική τοποθεσία ή χρονική στιγμή. Τα πειραματικά αποτελέσματα αποδεικνύουν πως το προτεινόμενο πλαίσιο μπορεί να επιτύχει μια άριστη ακρίβεια πρόβλεψης, ακόμη και με έναν περιορισμένο αριθμό διαφορετικών δειγμάτων εκπαίδευσης, ενώ η εφαρμογή της εκμάθησης χαρακτηριστικών οδηγεί σε πιο αντιπροσωπευτικά χαρακτηριστικά που μπορούν να δώσουν σημαντική ώθηση στην απόδοση σε προβλήματα πολλαπλών ετικετών.