Çapraz sınıflandırma: Teorik çerçeve ve uygulamalar
Cross classification: Theoretical framework and applications
Yazar: BEKİR ŞEN
Danışman: YRD. DOÇ. DR. YAKUP SABRİ ÖZKAZANÇ
Hacettepe Üniversitesi / Fen Bilimleri Enstitüsü / Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
Derece: Doktora, 2016
Konu: Elektrik ve Elektronik Mühendisliği = Electrical and Electronics Engineering

Özet:
Örüntü tanımanın amacı karmaşık karar verme işlemlerine açıklık getirmek ve bunları hesaplamalı olarak gerçekleyebilmektir. Bunu yapabilmek için örüntü tanıma algoritmaları hangi sınıfa ait olduğu bulunmak istenen verinin özniteliklerini, veri kümesinde daha önceden kayıtlı özniteliklerle karşılaştırmakta ve karar vermektedir. Pratikte birçok probleme çözüm olan bu yaklaşım, veri kümesinde kayıtlı olan özniteliklerle ölçülen özniteliklerin farklı uzayların elemanları olduğu durumda kullanılamamaktadır. Veri kümesinde kayıtlı olan öznitelikler ile ölçülebilen özniteliklerin farklı olduğu durumlardaki sınıflandırma problemi 'çapraz sınıflandırma' olarak nitelendirilmiştir. Çapraz sınıflandırma, örüntü tanıma algoritmalarında kullanılacak öznitelikleri doğrudan ölçemediğimiz veya belirleyemediğimiz durumlarda sınıflandırma ve tanıma yapabilmeyi hedefleyen yeni bir yaklaşımdır. 
Bu çalışma, istatistiksel uzaklık ölçütlerinin incelenmesi, doğrusal minimum ortalama karesel hata (DMOKH) kestiricisi tabanlı çapraz sınıflandırma, çapraz sınıflandırmada gürültülü öznitelik modellemesi ve Kanonik Korelasyon Analizi (KKA) tabanlı çapraz sınıflandırma yönteminin oluşturulması temel başlıklarını içermektedir. 
Uzaklık ölçütleri istatiksel örüntü tanıma ve sınıflandırma problemlerinin temel araçlarından birisidir. Birçok alanda kullanılan uzaklık ölçütleri, iki objenin birbirlerinden ne kadar ayrık olduğunu ifade etmek için kullanılır. Bhattacharyya Uzaklık ölçütü de sınıfların ayrıştırılabilirliğini belirtmekte sıklıkla kullanılan istatiksel bir uzaklık ölçütüdür. Bu çalışmada, sınıfların ayrıştırılabilirliği ile ilgili sınır değerleri belirleyebilme özelliğinden dolayı çapraz sınıflandırma yaklaşımlarının incelenmesinde Bhattacharyya Uzaklık ölçütü kullanılmıştır.
DMOKH yöntemi çapraz sınıflandırmada kullanılabilecek en temel yöntemlerden biridir. Bu çalışmada DMOKH kestirici tanımlanmış ve çapraz sınıflandırma problemine uygulanmıştır. Ölçülemeyen özniteliklerin doğrudan kestirilmesi esasına dayanan bu yöntemin başarımı ayrıntılı olarak incelenmiştir.
Gürültülü öznitelik modeli, kestirim sonucunda ortaya çıkan hatanın, ölçülemeyen öznitelikler üzerinde gürültü olarak modellenmesi temeline dayanmaktadır. Bu model, kestirim sonrasında sınıflandırma performanslarının analitik olarak incelenmesine imkan sağlamaktadır. Bhattacharyya Uzaklık (BU) ile sınıflandırma performansı arasındaki bağıntı gürültülü öznitelik modeliyle ayrıntılı olarak incelenmiştir.
KKA metodolojisinin çapraz sınıflandırma için nasıl kullanılabileceği incelenmiş ve bir yöntem önerilmiştir. Bu yöntemin öznitelik seçiminde sağladığı avantajlar sunulmuştur. 
DMOKH kestiricisi kullanılarak yapılabilecek çapraz sınıflandırma ile KKA tabanlı çapraz sınıflandırma yönteminin ilişkisi incelenmiş ve KKA tabanlı çapraz sınıflandırmanın eldeki tüm öznitelikler kullanıldığı durumda DMOKH yöntemiyle aynı performans değerini sağladığı gösterilmiştir.
Çalışmada sentetik ve gerçek veri kümeleri kullanılarak farklı çapraz tanıma problemleri ile uygulamalar çalışılmıştır. Önerilen yöntemler, eskizler üzerinden yüz tanıma problemine uygulanmış, sonuçlar literatürdeki diğer yöntemler ile karşılaştırmalı olarak gösterilmiştir. Ayrıca, farklı mesafelerden elde edilmiş farklı çözünürlükteki yüz imgeleri üzerinde de önerilen çapraz sınıflandırma yöntemi ile yüz tanıma uygulaması yapılmış ve sonuçlar tartışılmıştır.

Abstract:
Pattern identification algorithms can be exploited for single-class or multi-class identification problems. In conventional applications, identification algorithms are based on functions of measured features. However in some cases, we already have an identification algorithm but the measured features are different from the expected features. In such cases, we can first estimate the needed features from the measured ones and then use the identification algorithm with the estimated features. This work proposes a framework for such Cross Classification problems.
This study can be grouped under four different headings. These can be summarized as follows; 1-distance measures, 2-Linear Minimum Mean Square Error (LMMSE) estimator based cross classification, 3-noisy feature modelling for cross classification and 4-Canonical Correlation Analysis base cross classification method. 
Distance measure is one of the main instruments of statistical pattern recognition and classification problems. It is used to measure the separation of the two objects. Bhattacharyya Distance is one of the statistical distance measures used for class separability problems. This distance measure is utilised in this study for investigation of different cross classification approaches, because of its usability in limit values for classification.
LMMSE based method is one of the most basic methods used for the cross-classification. An LMMSE predictor based on the direct prediction of unmeasurable features principle is defined in this study and it is applied to the cross classification problems.  The performance of this approach is investigated in detail.
The noisy feature model is based on modelling of the prediction errors as noise on unmeasurable features. This model enables the analytic study of the classification performances after prediction. The correlation between Bhattacharyya Distance and classification performance is analysed using noisy feature model.
The utilisation of CCA methodology for cross classification is investigated and a method is proposed in this work. Moreover, the advantages of this method for feature selection and reduction is presented.
The relation between LMMSE based and CCA based cross classification is studied. The CCA based classification is presented to perform similar to LMMSE method when all features are employed.
In this study we have also shown the applications of different cross-classification problems using synthetic and real data sets. The proposed methods are applied to face recognition from sketches problem and the results are presented with comparisons to other methods in literature. In addition, the presented cross classification method is used for the face recognition from facial pictures captured from different distances problem and the results are discussed.