Τεχνικές στατιστικής μάθησης με χρήση υποκλάσεων στην κατηγοριοποίηση δεδομένων:
Creators: name: Παπαδοπούλου, Ουρανία Κωνσταντίνου
Publisher: name: Aristotle University of Thessaloniki
Year: 2009
Subjects: Εξαγωγή χαρακτηριστικών
Γραμμική διακριτική ανάλυση
Στατιστική μάθηση με χρήση υποκλάσεων
Αναγνώριση προτύπων
Κατηγοριοποίηση δεδομένων
Feature extraction
Linear discriminant analysis
Statistical learning using subclasses
Pattern recognition
Classification

description: Τα τελευταία χρόνια, έχουν προταθεί πολλοί αλγόριθμοι Διακριτικής Ανάλυσης (Discriminant Analysis - DA), για την ανάλυση δεδομένων μεγάλης διάστασης και την εξαγωγή χαρακτηριστικών τα οποία μπορούν να χρησιμοποιηθούν για καλύτερη αναπαράσταση ή κατηγοριοποίηση. Κάθε ένας από τους αλγορίθμους αυτούς, αποδίδει καλύτερα όταν τα δεδομένα ακολουθούν συγκεκριμένη κατανομή πυκνότητας πιθανότητας (αυτή που μοντελοποιεί καλύτερα το πρόβλημα). Δυστυχώς, στα περισσότερα προβλήματα η μορφή της συνάρτησης πυκνότητας πιθανότητας σε κάθε κλάση δεν είναι γνωστή εκ των προτέρων, και η επιλογή του αλγορίθμου Διακριτικής Ανάλυσης που ταιριάζει καλύτερα στα δεδομένα γίνεται έπειτα από μια διαδικασία δοκιμής και σφάλματος. Ιδανικά, κάποιος θα ήθελε να υπάρχει κάποιος γενικός αλγόριθμος DA, που θα μπορούσε να χρησιμοποιηθεί στα περισσότερα είδη κατανομών. Αυτό μπορεί να επιτευχθεί μετασχηματίζοντας την κατανομή της κάθε κλάσης ως μίξη Γκαουσιανών κατανομών. Ο κύριος στόχος της παρούσας διπλωματικής εργασίας είναι η εξέταση της χρήσης υποκλάσεων στην Διακριτική Ανάλυση μέσω της υλοποίησης και πειραματικής αξιολόγησης αλγορίθμων μείωσης διάστασης σε πραγματικά δεδομένα. Προτείνουμε μια νέα τεχνική μείωσης της διάστασης των δεδομένων, που βασίζεται στη χρήση υποκλάσεων και Γραμμικής Διακριτικής Ανάλυσης. Η προτεινόμενη μέθοδος, βελτιώνει μια υπάρχουσα τεχνική, χρησιμοποιώντας τον εντός των υποκλάσεων πίνακα διασποράς. Το πρόβλημα που πρέπει να λυθεί, είναι να βρεθεί ο πιο κατάλληλος διαχωρισμός της κάθε κλάσης σε ένα σύνολο από υποκλάσεις. Ο προτεινόμενος αλγόριθμος καθώς και οι ανταγωνιστικοί του αξιολογούνται σε διάφορες βάσεις δεδομένων με τεχνητά και πραγματικά δεδομένα. Οι αλγόριθμοι που εξετάστηκαν είναι οι ακόλουθοι: Γραμμική Διακριτική Ανάλυση (Linear Discriminant Analysis - LDA), Ανάλυση Διακριτικής Ικανότητας με Υποκλάσεις (Subclass Discriminant Analysis - SDA) και η προτεινόμενη Ανάλυση Διακριτικής Ικανότητας με Υποκλάσεις και χρήση του εντός των υποκλάσεων πίνακα διασποράς $\Σ_W$ (Within scatter matrix Subclass Discriminant Analysis - WSDA). Τα πειραματικά αποτελέσματα δείχνουν ότι η προτεινόμενη μέθοδος, έχει πολύ καλή επίδοση και ξεπερνάει τις περισσότερες φορές τις ανταγωνιστικές τεχνικές.
description: The last years, many Discriminant Analysis (DA) algorithms have been proposed for the study of high-dimensional data in a large variety of problems. Each of these algorithms is tuned to a specific type of data distribution (that which best models the problem at hand). Each one of them, works better when the data follow specific pdf distribution (that which best models the problem at hand). Unfortunately, in most problems the form of each class pdf is a priori unknown, and the selection of the DA algorithm that best fits our data is done over trial-and-error. Ideally, one would like to have a single DA algorithm, which can be used for most distribution types. This can be achieved by approximating the underlying distribution of each class with a mixture of Gaussians. The main goal of present work, is the implementation and the experimental evaluation of three algorithms of dimension reduction, so they are used in real data. We propose a technique of dimension reduction of data, that is based in subclass use and Linear Discriminant Analysis. The proposed method, improves a existing technique, using the within subclass scatter matrix. The problem to be solve, is to find the most convenient division of each class into a set of subclasses are derived. Comparisons in databases, use these algorithms: Linear Discriminant Analysis (LDA), Subclass Discriminant Analysis (SDA), Within scatter matrix Subclass Discriminant Analysis (WSDA). The experimental results show that the proposed method, has very good record and exceeds most times the competitive techniques.