Μάθηση Υποχώρων με Περιορισμούς Συμμετρίας:
Creators: name: Παπαχρήστου, Κωνσταντίνος Πέτρου
Publisher: name: Aristotle University of Thessaloniki
Year: 2011
Subjects: Μάθηση Υποχώρων
Ανάλυση Πρωτευουσών Συνιστωσών
Γραμμική Διακριτική Ανάλυση
Διακριτική Ανάλυση βασισμένη Περιορισμοί Συμμετρίας
Subspace Learning
Principal Component Analysis
Linear Discriminant Analysis
Clustering based Discriminant Analysis
Symmetry Constraints

description: Οι μέθοδοι Μάθησης Υποχώρων (Subspace Learning) είναι ένα από τα πλέον χρήσιμα εργαλεία σε προβλήματα ταξινόμησης προτύπων (pattern classification). Τα πιο κύρια χαρακτηριστικά τους είναι ότι καταφέρνουν σημαντική μείωση των διαστάσεων (dimendionality reduction) χωρίς σημαντική απώλεια πληροφορίας, μειώνουν τις απαιτήσεις σε μνήμη και κάνουν ταχύτερο το στάδιο της κατηγοριοποίησης, δημιουργούν χρήσιμες οπτικές αναπαραστάσεις των δειγμάτων με αποτέλεσμα την εξαγωγή χρήσιμων συμπερασμάτων σχετικά με την δομή των δειγμάτων. Μια από τις πιο γνωστές μεθόδους είναι η Ανάλυση Πρωτευουσών Συνιστωσών (Principal Component Analysis), η οποία είναι μια μέθοδος μάθησης χωρίς επίβλεψη και είναι χρήσιμη διότι δημιουργεί μια καλή αναπαράσταση των δειγμάτων σε χώρο πολύ μικρότερης διάστασης. Μια άλλη γνωστή μέθοδος είναι η Γραμμική Διακριτική Ανάλυση (Linear Discriminant Analysis), η οποία είναι μια μέθοδος μάθησης με επίβλεψη, καθώς χρησιμοποιεί πληροφορία κλάσεων με στόχο να διαχωρίσει όσο καλύτερα γίνεται δείγματα διαφορετικών κλάσεων. Μια παρόμοια μέθοδος, είναι η Διακριτική Ανάλυση βασισμένη σε Ομαδοποίηση (Clustering based Discriminant Analysis), η οποία δε θεωρεί απαραίτητο οι κλάσεις να είναι συμπαγείς αλλά ότι μπορεί να αποτελούνται από υποκλάσεις. Από την άλλη μεριά, έχουν προταθεί μέθοδοι που χρησιμοποιούν την έννοια της συμμετρίας για να παράξουν αποδοτικότερες και πιο γρήγορες λύσεις. Στόχος της παρούσας διπλωματικής εργασίας, είναι να χρησιμοποιηθεί αυτή η πληροφορία που εμφανίζεται σε πολλά προβλήματα, στη Μάθηση Υποχώρων με τις παραπάνω τρεις μεθόδους. Αποδεικνύουμε ότι αυτό είναι εφικτό, με τροποποίηση των αντικειμενικών τους συναρτήσεων (objective functions) εισάγοντας περιορισμούς συμμετρίας (symmetry constraints). Αυτό έχει ως αποτέλεσμα, την παραγωγή διανυσμάτων προβολής (projection vectors), τα οποία εκτός από τις κλασικές ιδιότητες που έχουν για την κάθε μέθοδο, έχουν το χαρακτηριστικό ότι είναι συμμετρικά. Η εφαρμογή τους σε τεχνητά δεδομένα αποδεικνύει ότι πετυχαίνουν μεγαλύτερο βαθμό γενίκευσης σε σύγκριση με τις κλασικές μεθόδους. Αυτό επιβεβαιώνεται και από μια σειρά πειραμάτων σε πραγματικά δεδομένα, χρησιμοποιώντας βάσεις δεδομένων για αναγνώριση εκφράσεων προσώπου, αναγνώριση προσώπου και κατηγοριοποίηση αντικειμένων.
description: Subspace Learning methods are one of the most useful tools in pattern classification problems. The most prominent features are ideal, for dimensionality reduction without significant loss of information, reducing memory requirements and making the classification process faster, creating useful visual representations of the samples leading to useful conclusions about the structure of the samples. One of the most popular methods is Principal Component Analysis, which is a unsupervised learning method and is useful because it creates a good representation of the samples in a much lower dimensional space. Another known method is Linear Discriminant Analysis, which is a supervised learning method, because it uses class information in order to properly separate samples from different classes. A similar method is Clustering based Discriminant Analysis, which does not consider it necessary for classes to be compact but these can consist of subclasses. On the other hand, methods have been proposed which use the property of symmetry to produce more efficient and quicker solutions. The aim of this thesis is to use this information, which appears in many problems, on the above three Subspace Learning methods. We prove that this is possible, by modifying their objective functions introducing symmetry constraints. As a result, the production of projection vectors, which apart from the classical properties of each method have the characteristic of being symmetric. Their application to artificial data demonstrates that these methods achieve greater generalization than classical methods. This is confirmed by a series of experiments on real data, using image databases for facial expression recognition, face recognition and object categorization.