Μοντέλο Πιθανομονάδας (Probit)

Στη στατιστική, ένα probit μοντέλο - Μοντέλο Πιθανομονάδας - είναι ένα είδος παλινδρόμησης όπου η εξαρτημένη μεταβλητή μπορεί να πάρει μόνο δύο τιμές, για παράδειγμα μεταβλητή με αναφορά στο είδος σχέσης: κάποιος μπορεί να είναι παντρεμένος ή ανύπαντρος. Η λέξη είναι σύμμειξη λέξεων: Προέρχεται από τις λέξεις Πιθανότητα + μονάδα. Ο σκοπός του μοντέλου είναι να εκτιμήσει τη πιθανότητα μία παρατήρηση με ιδιαίτερα χαρακτηριστικά να εμπίπτει σε μια συγκεκριμένη κατηγορία. Επιπλέον, η ταξινόμηση των παρατηρήσεων με βάση τις προβλεπόμενες πιθανότητες είναι ένας τύπος δυαδικής ταξινόμησης μοντέλου.

Ένα Μοντέλο Πιθανομονάδας είναι μία δημοφιλής περιγραφή μοντέλου για διατακτικές, ιεραρχικές μεταβλητές  ή για δυαδικές μεταβλητές. Αντιμετωπίζει τα ίδια προβλήματα όπως και η λογιστική παλινδρόμηση, χρησιμοποιώντας παρόμοιες τεχνικές. Το Μοντέλο Πιθανομονάδας χρησιμοποιεί πιο συχνά το πρότυπο υπολογισμού μέγιστης πιθανότητας, και η διαδικασία εκτίμησης ονομάζεται παλινδρόμηση Πιθανομονάδας.

Μοντέλα Πιθανομονάδας καθιερώθηκαν από τον Τσέστερ Μπλις το 1934. Μια γρήγορη μέθοδος για τον υπολογισμό εκτίμηση μέγιστης πιθανότητας προτάθηκε από τον Ρόναλντ Φίσερ ως παράρτημα στο έργο του Μπλις, το 1935.

Εννοιολογικό πλαίσιο 
Ας υποθέσουμε ότι μια μεταβλητή απόκρισης Y είναι δυαδική. Αυτή μπορεί να έχει μόνο δύο πιθανά αποτελέσματα που θα δηλωθούν ως 1 και 0. Για παράδειγμα, το Y μπορεί να εκπροσωπεί: 

 Την παρουσία / απουσία μιας συγκεκριμένης κατάστασης
 Την επιτυχία / αποτυχία κάποια συσκευής
 Την απάντηση ναι / όχι σε μια έρευνα, κλπ.

Έχουμε επίσης ένα διάνυσμα των προβλεπτικών παραγόντων  X, που θεωρούμαι ότι επηρεάζουν την έκβαση Y. Συγκεκριμένα, υποθέτουμε ότι το μοντέλο παίρνει τη μορφή: 

 Όπου Pr δηλώνει πιθανότητα, και
 Φ είναι η Αθροιστική Συνάρτηση Κατανομής (CDF) από την τυποποιημένη κανονική κατανομή.
 Οι παράμετροι β έχουν συνήθως εκτιμηθεί με τη χρήση της μέγιστης πιθανότητας.

Είναι δυνατόν το Μοντέλα Πιθανομονάδας να χρησιμοποιηθούν ως λανθάνον μοντέλα μεταβλητής. Ας υποθέσουμε ότι υπάρχει μια βοηθητική τυχαία μεταβλητή: 

Όπου ε ~ Ν(0, 1).

Στη συνέχεια, η Y μπορεί να θεωρηθεί ως ένας δείκτης για το αν αυτή η λανθάνουσα μεταβλητή είναι θετική:
 

Η χρήση της τυποποιημένης κανονικής κατανομής προκαλεί απώλεια της γενικότητας, σε σύγκριση με τη χρήση μίας αυθαίρετης μέσης τιμής και αυθαίρετης τυπικής απόκλισης. Η προσθήκη μίας σταθεράς στον μέσον όρον μπορεί να αντισταθμιστεί με την αφαίρεση της ίδιας σταθεράς από το σημείο τομής, και πολλαπλασιάζοντας την τυπική απόκλιση με την ίδια σταθερά, μπορεί να αντισταθμιστεί από τον πολλαπλασιασμό των βαρών με την ίδια σταθερά.

Για να δείτε ότι και τα δύο μοντέλα είναι ισοδύναμα, σημειώστε ότι:

Μοντέλο εκτίμησης

Μέγιστη πιθανότητα εκτίμησης 
Ας υποθέσουμε ότι το σύνολο δεδομένων  περιέχει n ανεξάρτητες στατιστικές μονάδες που αντιστοιχούν στο μοντέλο αυτό. Στη συνέχεια, η κοινή λογαριθμική-πιθανότητα συνάρτησης είναι: 

Ο εκτιμητής  που μεγιστοποιεί αυτή τη συνάρτηση θα είναι συνεπής, ασυμπτωτικά κανονική και αποτελεσματική, με την προϋπόθεση ότι E[XX] υπάρχει και δεν είναι μοναδική. Μπορεί να αποδειχθεί ότι αυτή η κοινή λογαριθμική-πιθανότητα συνάρτηση είναι γενικά κοίλη στο β, και ως εκ τούτου τυποποιημένοι αριθμητικοί αλγόριθμοι για βελτιστοποίηση θα συγκλίνουν γρήγορα στο μοναδικό μέγιστο. Ασυμπτωτική κατανομή για  δίνεται από: 

όπου

και 

και είναι η Συνάρτηση Πυκνότητας Πιθανότητας (PDF) από την τυποποιημένη κανονική κατανομή.
 Μέθοδος Ελάχιστων Χ τετραγώνων Berkson 
Αυτή η μέθοδος μπορεί να εφαρμοστεί μόνο όταν υπάρχουν πολλές παρατηρήσεις στη μεταβλητή απόκρισης  έχοντας την ίδια τιμή του διανύσματος των παραγόντων πρόβλεψης , μια τέτοια κατάσταση μπορεί να αναφέρεται ως "πολλές παρατηρήσεις ανά κύτταρο", ως παράδειγμα. Πιο συγκεκριμένα, το μοντέλο μπορεί να διατυπωθεί ως εξής: Ας υποθέσουμε ότι ανάμεσα σε n παρατηρήσεις  υπάρχουν μόνο T διακεκριμένες τιμές των παραγόντων πρόβλεψης, και που μπορεί να συμβολίζεται ως

 Αν  είναι ο αριθμός των παρατηρήσεων με  και 
  ο αριθμός αυτών των παρατηρήσεων με . 

Υποθέτουμε ότι πράγματι υπάρχουν "πολλές" παρατηρήσεις για κάθε "κελί": για κάθε .

Δηλώνουν
 
 

Στη συνέχεια, η  Μέθοδος Ελάχιστων Χ τετραγώνων Berkson είναι μια γενικευμένη ελάχιστων τετραγώνων εκτίμηση σε μια παλινδρόμηση  στις  με βάρη 

 

Μπορεί να αποδειχθεί ότι αυτός ο εκτιμητής είναι συνεπής, καθώς n→∞ και T σταθερά, ασυμπτωτικά κανονικός και αποτελεσματικός. Το πλεονέκτημα είναι η παρουσία μίας κλειστής μορφή φόρμουλας για τον εκτιμητή. Ωστόσο, έχει νόημα μόνο για να πραγματοποιήσει αυτή την ανάλυση, όταν οι επιμέρους παρατηρήσεις δεν είναι διαθέσιμες, αλλά μόνο οι συγκεντρωτικές μετρήσεις τους: ,  και  -- για παράδειγμα, στην ανάλυση της ψήφου συμπεριφοράς.

 Δειγματοληψία Gibbs 
Η δειγματοληψία Γκιμπς από ένα μοντέλο παλινδρόμησης Πιθανομονάδας είναι δυνατόν, επειδή τα μοντέλα παλινδρόμησης χρησιμοποιούν από πριν Κανονικές Διανομές Βαρών, και αυτή η διανομή είναι συζευγμένη με την κανονική κατανομή των σφαλμάτων, και ως εκ τούτου, και οι λανθάνουσες μεταβλητές Y*. Το μοντέλο μπορεί να περιγραφεί ως: 

Από αυτό, μπορούμε να προσδιορίσουμε τις πλήρες υπό συνθήκη πυκνότητες που απαιτούνται:

Το αποτέλεσμα για το β' δίνεται στο άρθρο σχετικά με τη Γραμμική Μπαγιεσιανή Παλινδρόμηση, παρόλο που ορίζεται με διαφορετικό συμβολισμό.

Η μόνη κατεργαριά είναι οι τελευταίες δύο εξισώσεις. Η σημειογραφία είναι το Άιβερσον υποστήριγμα , μερικές φορές γραφόμενο ως:  ή παρόμοια. Αυτό δείχνει ότι η κατανομή πρέπει να περικοπεί μέσα σε ένα δοσμένο εύρος, και οι διαστάσεις να μειωθούν κατάλληλα. Στη συγκεκριμένη περίπτωση, μια περικομμένη κανονική κατανομή προκύπτει. Δειγματοληψία από αυτή την κατανομή εξαρτάται από το πόσο έχει περικοπεί. Αν ένα μεγάλο μέρος της αρχικής μάζας κατανομής παραμένει, η δειγματοληψία μπορεί να γίνει εύκολα με την απόρριψη δειγματοληψίας—απλά, διαλέγεις δείγμα από μια σειρά από μη-περικομμένες κατανομές, και την απορρίπτεις αν βγαίνει έξω από τους περιορισμούς που θέτει η περικοπή. Αν η δειγματοληψία είναι μόνο από ένα μικρό κλάσμα της αρχικής μάζας-κατανομής, τότε αυτό θα είναι ανεπαρκές και θα πρέπει να χρησιμοποιηθούν διαφορετικοί αλγόριθμοι δειγματοληψίας. Γενικά η δειγματοληψία από την περικομμένη κανονική κατανομή μπορεί να επιτευχθεί χρησιμοποιώντας προσεγγίσεις στην κανονική CDF και στην Συνάρτηση Πιθανομονάδας. Η R έχει τη συνάρτησηrtnorm()για τη δημιουργία περικομμένων κανονικής κατανομής δειγμάτων.

Αξιολόγηση μοντέλου 
Η καταλληλότητα ενός εκτιμώμενου δυαδικού μοντέλου μπορεί να αξιολογηθεί με τη μέτρηση του αριθμού των αληθινών παρατηρήσεων που ισούται με 1, καθώς και ο αριθμός των αληθινών παρατηρήσεων που ισούται με το μηδέν, και πόσες από αυτές τις παρατηρήσεις τις προέβλεψε σωστά.

Δείτε επίσης 

 Γενικευμένα γραμμικά μοντέλα
 Περιορισμένη εξαρτημένη μεταβλητή
 λογαριθμομοναδιαίο μοντέλο ( Logit )
 Multinomial Πιθανομονάδας
 Πολυμεταβλητά Πιθανομονάδας μοντέλα
 Διατακτικά Πιθανομοναδιαία και Διατακτικά λογαριθμομοναδιαία μοντέλα ( Logit )
 Διαχωρισμός (στατιστικά στοιχεία)
 Μοντέλο Tobit

Αναφορές

Περαιτέρω ανάγνωση

Εξωτερικοί σύνδεσμοι 

  από τον Μαρκ Θωμά