Διακριτική Ανάλυση Εδραίων Διανυσμάτων Ελάχιστης Διακύμανσης Κλάσης:
Creators: name: Πιτέλης, Νικόλαος Γεωργίου
Publisher: name: Aristotle University of Thessaloniki
Year: 2011
Subjects: Μείωση Διαστάσεων
Εξαγωγή Χαρακτηριστικών
Διακριτική Ανάλυση
Dimensionality Reduction
Feature Extraction
Discriminant Analysis

description: Στην παρούσα εργασία παρουσιάζεται μία νέα μέθοδος μείωσης διαστάσεων και εξαγωγής χαρακτηριστικών. Κίνητρο για την ανάπτυξη μίας τέτοιας μεθόδου αποτελεί η λύση των προβλημάτων που δημιουργεί ο μεγάλος αριθμός διαστάσεων των δεδομένων. Μειώνοντας τις διαστάσεις των δεδομένων που επεξεργαζόμαστε έχουμε οφέλη τόσο στην υπολογιστική πολυπλοκότητα κα τους απαιτούμενους υπολογιστικούς πόρους, όσο και στην αποτελεσματικότητα κι αποδοτικότητα των αλγορίθμων ταξινόμησης. Η μέθοδος αυτή την οποία ονομάζουμε Διακριτική Ανάλυση Εδραίων Διανυσμάτων Ελάχιστης Διακύμανσης Κλάσης, βασίζεται στην εφαρμογή των Μηχανών Εδραίων Διανυσμάτων Ελάχιστης Διακύμανσης Κλάσης, στο πλαίσιο μίας επαναληπτικής διαδικασίας η οποία εξάγει διακριτική πληροφορία, μετασχηματίζοντας τα δεδομένα σε διαδοχικά κάθετους υποχώρους. Στις Μηχανές Εδραίων Διανυσμάτων Ελάχιστης Διακύμανσης Κλάσης το κλασικό πρόβλημα που επιλύεται από τις Μηχανές Εδραίων Διανυσμάτων τροποποιείται κατά τέτοιο τρόπο έτσι ώστε να ελαχιστοποιείται η εντός των κλάσεων διακύμανση, το άθροισμα δηλαδή των πινάκων διασποράς εντός των κλάσεων. Βασική επιδίωξη της προτεινόμενης μεθόδου είναι η μείωση των διαστάσεων των δεδομένων προς εκπαίδευση, αξιοποιώντας την πληροφορία για την κατανομή των δεδομένων στο χώρο που μας προσφέρει το υπερεπίπεδο διαχωρισμού που προκύπτει από την ταξινόμησή τους με Μηχανές Εδραίων Διανυσμάτων Ελάχιστης Διακύμανσης Κλάσης.
description: In this Thesis a new method on dimensionality reduction and feature extraction is introduced. The motivation to develop such a method is the still open challenge to deal with high-dimensional data. The possibility of processing with lower-dimensional provides us with benefits in computational complexity and computational resources demand, as well as in efficiency and performance of classification algorithms. The method named Minimum Class Variance Support Vectors Discriminant Analysis, MVSVDA, is based on applying Minimum Class Variance Support Vector Machines, MCVSVM, in the framework of an iterative procedure. This procedure has an output of discriminant properties of the data, transforming them into pairwise perpendicular subspaces. In MCVSVM, the original problem of SVM is modified in such a way that the within-class variance, that is the summation of the within-class scatter matrices, is minimized. Main goal of this method is the dimensionality reduction of the training data, taking advantage of the information contained in the MCVSVM separating hyperplane about the distribution of the data in the space. This information is represented by the normal vector of the resulting hyperplane. One way to take advantage of it, is to apply MCVSVM on the initial data, project them onto the separating hyperplane and apply again MCVSVM, on the transformed data. Since the successive subspaces are pairwise perpendicular, the resulting information of every iteration will be new. The normal vectors of the successive hyperplanes contain this information and they can be used as projection vectors for the feature extraction and the dimensionality reduction of the training and test set.