Μοντέλο Πιθανομονάδας (Probit)

Στη στατιστική, ένα probit μοντέλο - Μοντέλο Πιθανομονάδας - είναι ένα είδος παλινδρόμησης όπου η εξαρτημένη μεταβλητή μπορεί να πάρει μόνο δύο τιμές, για παράδειγμα μεταβλητή με αναφορά στο είδος σχέσης: κάποιος μπορεί να είναι παντρεμένος ή ανύπαντρος. Η λέξη είναι σύμμειξη λέξεων: Προέρχεται από τις λέξεις Πιθανότητα + μονάδα. Ο σκοπός του μοντέλου είναι να εκτιμήσει τη πιθανότητα μία παρατήρηση με ιδιαίτερα χαρακτηριστικά να εμπίπτει σε μια συγκεκριμένη κατηγορία. Επιπλέον, η ταξινόμηση των παρατηρήσεων με βάση τις προβλεπόμενες πιθανότητες είναι ένας τύπος δυαδικής ταξινόμησης μοντέλου.
Ένα Μοντέλο Πιθανομονάδας είναι μία δημοφιλής περιγραφή μοντέλου για διατακτικές, ιεραρχικές μεταβλητές  ή για δυαδικές μεταβλητές. Αντιμετωπίζει τα ίδια προβλήματα όπως και η λογιστική παλινδρόμηση, χρησιμοποιώντας παρόμοιες τεχνικές. Το Μοντέλο Πιθανομονάδας χρησιμοποιεί πιο συχνά το πρότυπο υπολογισμού μέγιστης πιθανότητας, και η διαδικασία εκτίμησης ονομάζεται παλινδρόμηση Πιθανομονάδας.
Μοντέλα Πιθανομονάδας καθιερώθηκαν από τον Τσέστερ Μπλις το 1934. Μια γρήγορη μέθοδος για τον υπολογισμό εκτίμηση μέγιστης πιθανότητας προτάθηκε από τον Ρόναλντ Φίσερ ως παράρτημα στο έργο του Μπλις, το 1935.

Μέγιστη πιθανότητα εκτίμησης

Ας υποθέσουμε ότι το σύνολο δεδομένων  περιέχει n ανεξάρτητες στατιστικές μονάδες που αντιστοιχούν στο μοντέλο αυτό. Στη συνέχεια, η κοινή λογαριθμική-πιθανότητα συνάρτησης είναι: 
Ο εκτιμητής  που μεγιστοποιεί αυτή τη συνάρτηση θα είναι συνεπής, ασυμπτωτικά κανονική και αποτελεσματική, με την προϋπόθεση ότι E[XX'] υπάρχει και δεν είναι μοναδική. Μπορεί να αποδειχθεί ότι αυτή η κοινή λογαριθμική-πιθανότητα συνάρτηση είναι γενικά κοίλη στο β, και ως εκ τούτου τυποποιημένοι αριθμητικοί αλγόριθμοι για βελτιστοποίηση θα συγκλίνουν γρήγορα στο μοναδικό μέγιστο. Ασυμπτωτική κατανομή για  δίνεται από: 
όπου 

και 
και είναι η Συνάρτηση Πυκνότητας Πιθανότητας (PDF) από την τυποποιημένη κανονική κατανομή.

Δειγματοληψία Gibbs

Η δειγματοληψία Γκιμπς  από ένα μοντέλο παλινδρόμησης Πιθανομονάδας είναι δυνατόν, επειδή τα μοντέλα παλινδρόμησης χρησιμοποιούν από πριν Κανονικές Διανομές Βαρών, και αυτή η διανομή είναι συζευγμένη με την κανονική κατανομή των σφαλμάτων, και ως εκ τούτου, και οι λανθάνουσες μεταβλητές Y*. Το μοντέλο μπορεί να περιγραφεί ως: 
Από αυτό, μπορούμε να προσδιορίσουμε τις πλήρες υπό συνθήκη πυκνότητες που απαιτούνται:
Το αποτέλεσμα για το β δίνεται στο άρθρο σχετικά με τη Γραμμική Μπαγιεσιανή Παλινδρόμηση, παρόλο που ορίζεται με διαφορετικό συμβολισμό.
Η μόνη κατεργαριά είναι οι τελευταίες δύο εξισώσεις. Η σημειογραφία είναι το Άιβερσον υποστήριγμα , μερικές φορές γραφόμενο ως:  ή παρόμοια. Αυτό δείχνει ότι η κατανομή πρέπει να περικοπεί μέσα σε ένα δοσμένο εύρος, και οι διαστάσεις να μειωθούν κατάλληλα. Στη συγκεκριμένη περίπτωση, μια περικομμένη κανονική κατανομή προκύπτει. Δειγματοληψία από αυτή την κατανομή εξαρτάται από το πόσο έχει περικοπεί. Αν ένα μεγάλο μέρος της αρχικής μάζας κατανομής παραμένει, η δειγματοληψία μπορεί να γίνει εύκολα με την απόρριψη δειγματοληψίας—απλά, διαλέγεις δείγμα από μια σειρά από μη-περικομμένες κατανομές, και την απορρίπτεις αν βγαίνει έξω από τους περιορισμούς που θέτει η περικοπή. Αν η δειγματοληψία είναι μόνο από ένα μικρό κλάσμα της αρχικής μάζας-κατανομής, τότε αυτό θα είναι ανεπαρκές και θα πρέπει να χρησιμοποιηθούν διαφορετικοί αλγόριθμοι δειγματοληψίας. Γενικά η δειγματοληψία από την περικομμένη κανονική κατανομή μπορεί να επιτευχθεί χρησιμοποιώντας προσεγγίσεις στην κανονική CDF και στην Συνάρτηση Πιθανομονάδας. Η R έχει τη συνάρτησηrtnorm()για τη δημιουργία περικομμένων κανονικής κατανομής δειγμάτων.

Αξιολόγηση μοντέλου 

Η καταλληλότητα ενός εκτιμώμενου δυαδικού μοντέλου μπορεί να αξιολογηθεί με τη μέτρηση του αριθμού των αληθινών παρατηρήσεων που ισούται με 1, καθώς και ο αριθμός των αληθινών παρατηρήσεων που ισούται με το μηδέν, και πόσες από αυτές τις παρατηρήσεις τις προέβλεψε σωστά.