Hiperspektral görüntü analizinde ileri spektral ve uzamsal yöntemler
Advanced spectral and spatial methods for hyperspectral image analysis
Yazar: İBRAHİM ONUR SIĞIRCI
Danışman: DOÇ. DR. GÖKHAN BİLGİN
Yıldız Teknik Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı / Bilgisayar Mühendisliği Bilim Dalı
Derece: Doktora, 2022
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Görüntü bölütleme = Image segmentation ; Görüntü sınıflandırma = Image classification ; Kovaryans matrisleri = Covariance matrices ; Oylama = Voting ; Uzamsal düşünme = Spatial thinking

Özet:
Uzaktan algılama görüntüleme sistemlerinin gelişmesi ile birlikte hiperspektral görüntüleme daha yaygın kullanılır hale gelmiştir. Hiperspektral görüntüleme, yüksek frekanslarda sık ve dar aralıklarla yüzlerce bant elde edilmesini sağlayan bir teknolojidir. Hiperspektral görüntüleme teknolojisinin gelişmesi ve içerdiği zengin bilgi sayesinde yer bilimleri, tarım, arkeoloji, çevre, gıda, tıp, ilaç ve savunma gibi birçok disiplinde yer bulmuştur. Hiperspektral görüntülemenin gelişmesine paralel olarak elde edilen görüntülerin analiz edilmesine ihtiyaç duyulmuştur. Bu kapsamda, görüntü işleme ve makine öğrenmesi gibi alanlarda hiperspektral görüntülerin analizi konularında çalışmalara başlanmıştır. Sınıflandırma ve bölütleme bu analizlerin başında gelmektedir. 
Hiperspektral görüntüler yüksek miktarda spektral bant içerdiğinden, sınıflandırma için gerekli verileri doğal olarak barındırmaktadır; ancak spektral bilgiler ileri düzeyde analizler yapabilmek için yeterli olmamaktadır. Ayrıca, pikselin temsil ettiği bölgelerde farklı nesnelerin olması ve güneş ışığının farklı açılarda yansıması analizleri zorlaştırmaktadır. Bunlara ek olarak, etiketli verilerin az olması ve yüksek spektral bilgi sınıflandırıcının öğrenmesini güçleştirmektedir. Bu problemlerin üstesinden gelebilmek için uzamsal bilgilerin sınıflandırma sistemlerine dahil edilmesi ihtiyacı doğmuştur.
Bu tez çalışmasında; hiperspektral görüntülerin doğasından kaynaklanan sorunları dikkate alarak, spektral ve uzamsal bilginin ileri teknikler yardımıyla piksellerin sınıflandırılmasında kullanılması amaçlanmaktadır. Tez kapsamında; uzamsal bilginin elde edilmesinin,  sınıflandırma sistemine dahil edilme şeklinin sınıflandırma başarımına olan etkileri incelenmektedir. 
Uzamsal bilginin elde edilmesinde, bölütleme algoritmaları ve komşuluk bilgisi yaklaşımları kullanılmıştır. Bulanık c-ortalamalar ve süperpiksel yaklaşımları bölütleme için kullanılmıştır. Bulunduğu bölgeye yüksek adaptasyon sağlayan süperpiksellerin üç bantlı görüntülere uygun tasarlanmış olmasından ötürü HyperSLIC algoritması bölütlemenin başarımını artırmak için tez kapsamında önerilmiştir. HyperSLIC, SLIC süperpiksel algoritmasının değiştirilmiş bir versiyonudur. Bu değişiklikler hiperspektral görüntülerin yapısına uygun şekilde yapılmıştır.
Tez kapsamında uzamsal bilgiye adapte olabilecek sınıflandırıcılar değerlendirilmiştir. Bu amaçla aşırı öğrenme makineleri, iki boyutlu evrişimli sinir ağları ve doğal dil işlemede kullanılan BERT-tabanlı modeller değerlendirilmiştir. Aşırı öğrenme makineleri ve türevleri, hiperspektral görüntü sınıflandırmada sıklıkla kullanılan destek vektör makinelerine alternatif olarak kullanılmıştır. İki-boyutlu evrişimsel sinir ağlarının eğitimi için gerek olan iki-boyutlu veriler, yerel kovaryans matrisleri yardımıyla elde edilmiştir.  Segment bilgisi BERT-tabanlı modellere girdi olarak verilmiştir. Literatürde, uzamsal bilginin sınıflandırıcı sonrası küresel çoğulcu oylama yaklaşımı uygulanmıştır. Bu tez kapsamında ise küresel çoğulcu oylama yöntemine alternatif olarak yerel çoğulcu oylama yöntemi önerilmiştir.
Önerilen sistemler ve yapılan tüm deneysel çalışmalar neticesinde, uzamsal bilgi kullanımının sınıflandırmaya anlamlı katkılar yaptığı gözlemlenmiştir. Kullanılan sınıflandırma yaklaşımları ile başarımdan kaybetmeden zamandan tasarruf sağlanmıştır. Hiperspektral görüntülerin doğasında yer alan zorluklar büyük ölçüde giderilerek yüksek başarımlı sonuçlar alınmıştır. Tüm çalışmalar, literatürde kullanılan etiketlenmiş hiperspektral sahneler üzerinde test edilmiştir.  Elde edilen sonuçlar,  güncel yöntemlerle kıyaslanmış, tablolar aracılığıyla gösterilmiştir. Ayrıca elde edilen sınıflandırma haritaları sonuçlarla birlikte sunularak yorumlanmıştır.

Abstract:
Hyperspectral imaging has grown in popularity as remote sensing imaging devices have advanced. It is a technology that allows obtaining hundreds of bands with frequent and narrow intervals at high frequencies. Hyperspectral imaging technology has found a place in many fields, including earth sciences, agriculture, archeology, the environment, food, medicine, and the military, thanks to its advancement and rich information. There was a need to examine the images obtained in tandem with the development of hyperspectral imaging. In this context, research on hyperspectral image analysis has begun in fields such as image processing and machine learning. These studies prioritize classification and segmentation.
Hyperspectral images naturally contain the data needed for classification because they contain large amounts of spectral bands. Advanced analysis, however, requires more than just spectral data. Furthermore, the existence of various objects in the regions represented by the pixel and the reflection of sunlight at different angles complicate the analysis. Moreover, the classifier is challenging to learn due to the small amount of labeled data and rich spectral information. It has become essential to incorporate spatial information into classification systems to solve these issues.
The aim of this thesis study, which analyzes the challenges that arise from the nature of hyperspectral images, is to use spectral and spatial information in pixel-wise classification with the help of advanced methodologies. This thesis looks into the effects of obtaining spatial information and incorporating it into a classification system on classification performance.
We applied segmentation algorithms and neighborhood information approaches to obtain spatial information. The segmentation maps are obtained using fuzzy c-means and superpixel methods. Because the superpixels, which give great adaptation to the region, are built from three-band images, the HyperSLIC method is proposed in the thesis to improve segmentation performance. The HyperSLIC superpixel algorithm is a customized version of the SLIC superpixel method. These modifications are made to adapt to the structure of hyperspectral images.
Classifiers that can adapt to spatial information have been evaluated within the scope of the thesis. Extreme learning machines, two-dimensional convolutional neural networks, and BERT-based natural language processing models are investigated for this goal. Extreme learning machines, and their versions have been utilized as an alternative to support vector machines frequently used in hyperspectral image classification. The 2-dimensional data required for training 2-dimensional convolutional neural networks were obtained using local covariance matrices. Segment information is provided as input to BERT-based models. In the literature, the global majority voting approach has been applied in the postprocessing usage of spatial data. The local majority voting method has been proposed as an alternative to the global majority voting method in the scope of this thesis.
It has been observed that the use of spatial information contributes significantly to classification as a consequence of the proposed systems and all experimental studies. The classification approaches utilized saved time without loss of performance. The problems associated with hyperspectral images have been reduced significantly, and beneficial results have been produced. All experiments have been conducted using labeled hyperspectral scenes from the literature. The obtained results were compared to state-of-the-art methods and are presented in tables. Furthermore, the obtained classification maps have been shown alongside the results and interpreted.