Παλινδρόμηση Πουασόν

Στη στατιστική, η **παλινδρόμηση Πουασόν** είναι μια μορφή γενικευμένου γραμμικού μοντέλου ανάλυσης παλινδρόμησης που χρησιμοποιείται για τη μοντελοποίηση δεδομένων καταμέτρησης και πινάκων ενδεχομένων. Η παλινδρόμηση Πουασόν υποθέτει ότι η μεταβλητή απόκρισης Y έχει κατανομή Πουασόν και υποθέτει ότι ο λογάριθμος της αναμενόμενης τιμής της μπορεί να μοντελοποιηθεί από έναν γραμμικό συνδυασμό άγνωστων παραμέτρων. Ένα μοντέλο παλινδρόμησης Πουασόν είναι μερικές φορές γνωστό ως λογαριθμογραμμικό μοντέλο, ειδικά όταν χρησιμοποιείται για τη μοντελοποίηση πινάκων ενδεχομένων.

Η αρνητική διωνυμική παλινδρόμηση είναι μια δημοφιλής γενίκευση της παλινδρόμησης Πουασόν, επειδή χαλαρώνει την εξαιρετικά περιοριστική υπόθεση ότι η διακύμανση είναι ίση με τη μέση τιμή που κάνει το μοντέλο Πουασόν. Το παραδοσιακό μοντέλο αρνητικής διωνυμικής παλινδρόμησης βασίζεται στην κατανομή μείγματος Πουασόν-γάμμα. Αυτό το μοντέλο είναι δημοφιλές επειδή μοντελοποιεί την ετερογένεια Πουασόν με κατανομή γάμμα.

Τα μοντέλα παλινδρόμησης Πουασόν είναι γενικευμένα γραμμικά μοντέλα με το λογάριθμο ως (κανονική) συνάρτηση σύνδεσης και τη συνάρτηση κατανομής Πουασόν ως την υποτιθέμενη κατανομή πιθανότητας της απόκρισης.

## Μοντέλα παλινδρόμησης

Αν \mathbf{x} \in \mathbb{R}^n είναι ένα διάνυσμα ανεξάρτητων μεταβλητών, τότε το μοντέλο έχει τη μορφή

: \log (\operatorname{E}(Y\mid\mathbf{x}))=\alpha + \mathbf{\beta}' \mathbf{x},

όπου \alpha \in \mathbb{R} and \mathbf{\beta} \in \mathbb{R}^n. Μερικές φορές αυτό γράφεται συμπαγέστερα ως

:\log (\operatorname{E}(Y\mid\mathbf{x}))=\boldsymbol{\theta}' \mathbf{x},\,

όπου \mathbf{x} είναι τώρα ένα (*n*&nbsp;+&nbsp;1)-διάστατο διάνυσμα που αποτελείται από *n* ανεξάρτητες μεταβλητές συνδεδεμένες με τον αριθμό ένα. Εδώ το \theta είναι απλά το \beta συνδεδεμένο με το \alpha.

Έτσι, όταν δίνεται ένα μοντέλο παλινδρόμησης Πουασόν \theta και ένα διάνυσμα εισόδου \mathbf{x}, ο προβλεπόμενος μέσος όρος της σχετικής κατανομής Πουασόν δίνεται ως εξής

:\operatorname{E}(Y\mid\mathbf{x})=e^{\boldsymbol{\theta}' \mathbf{x}}.\,

Εάν Y_i είναι ανεξάρτητες παρατηρήσεις με αντίστοιχες τιμές \mathbf{x}_i των μεταβλητών πρόβλεψης, τότε η \theta μπορεί να εκτιμηθεί με μέγιστη πιθανοφάνεια.  Οι εκτιμήσεις μέγιστης πιθανοφάνειας δεν έχουν έκφραση κλειστής μορφής και πρέπει να βρεθούν με αριθμητικές μεθόδους.  Η επιφάνεια πιθανότητας για την παλινδρόμηση Πουασόν μέγιστης πιθανοφάνειας είναι πάντα κοίλη, καθιστώντας τις μεθόδους Νεύτων-Ράφσον ή άλλες μεθόδους βασισμένες στην κλίση κατάλληλες τεχνικές εκτίμησης.

## Ερμηνεία των συντελεστών

Ας υποθέσουμε ότι έχουμε ένα μοντέλο με έναν μόνο προγνωστικό παράγοντα, δηλαδή n=1:

Ας υποθέσουμε ότι υπολογίζουμε τις προβλεπόμενες τιμές στο σημείο (Y_2, x_2) και (Y_1, x_1):

: \log (\operatorname{E}(Y_2 \mid x_2)) = \alpha + \beta x_2

: \log (\operatorname{E}(Y_1 \mid x_1)) = \alpha + \beta x_1

Αφαιρώντας το πρώτο από το δεύτερο:

: \log (\operatorname{E}(Y_2 \mid x_2)) - \log (\operatorname{E}(Y_1 \mid x_1)) = \beta (x_2-x_1)

Ας υποθέσουμε τώρα ότι x_2=x_1+1. Λαμβάνουμε:

: \log (\operatorname{E}(Y_2 \mid x_2)) - \log (\operatorname{E}(Y_1 \mid x_1)) = \beta

Έτσι, ο συντελεστής του μοντέλου πρέπει να ερμηνεύεται ως η αύξηση του λογαρίθμου του αριθμού της μεταβλητής αποτελέσματος όταν η ανεξάρτητη μεταβλητή αυξάνεται κατά 1.

Εφαρμόζοντας τους κανόνες των λογαρίθμων:

:  \log\left(\dfrac{\operatorname{E}(Y_2 \mid x_2)}{\operatorname{E}(Y_1 \mid x_1)}\right) = \beta

:  \dfrac{\operatorname{E}(Y_2 \mid x_2)}{\operatorname{E}(Y_1 \mid x_1)} = e^{\beta}

:  \operatorname{E}(Y_2 \mid x_2) = e^{\beta} \operatorname{E}(Y_1 \mid x_1)

Δηλαδή, όταν η ανεξάρτητη μεταβλητή αυξάνεται κατά 1, η μεταβλητή αποτελέσματος πολλαπλασιάζεται με τον εκθετικό συντελεστή.

Ο εκθετικοποιημένος συντελεστής ονομάζεται επίσης *λόγος επίπτωσης*.

### Μέσο μερικό αποτέλεσμα

Συχνά, το αντικείμενο ενδιαφέροντος είναι η μέση μερική επίδραση ή η μέση οριακή επίδραση  \frac{\partial E(Y|x)}{\partial x}, η οποία ερμηνεύεται ως η μεταβολή στο αποτέλεσμα Y για μια μοναδιαία μεταβολή στην ανεξάρτητη μεταβλητή x.  Η μέση μερική επίδραση στο μοντέλο Πουασόν για ένα συνεχές x μπορεί να αποδειχθεί ότι είναι:

: \frac{\partial E(Y|x)}{\partial x} = \exp(\theta ' \mathbb{x} )\beta

## Εκτίμηση παραμέτρων με βάση τη μέγιστη πιθανοφάνεια

Δεδομένου ενός συνόλου παραμέτρων *θ* και ενός διανύσματος εισόδου *x*, ο μέσος όρος της προβλεπόμενης κατανομής Πουασόν, όπως αναφέρθηκε παραπάνω, δίνεται από τη σχέση

:\lambda := \operatorname{E}(Y\mid x)=e^{\theta'x},\,

και συνεπώς, η συνάρτηση μάζας πιθανότητας της κατανομής Πουασόν δίνεται από τη σχέση

:p(y\mid x;\theta) = \frac{\lambda^y}{y!} e^{-\lambda} = \frac{e^{y  \theta' x} e^{-e^{\theta' x}}}{y!}

Ας υποθέσουμε τώρα ότι μας δίνεται ένα σύνολο δεδομένων που αποτελείται από *m* διανύσματα x_i \in \mathbb{R}^{n+1}, \, i = 1,\ldots,m, μαζί με ένα σύνολο *m* τιμών y_1,\ldots,y_m \in \mathbb{N}. Τότε, για ένα δεδομένο σύνολο παραμέτρων *θ*, η πιθανότητα επίτευξης αυτού του συγκεκριμένου συνόλου δεδομένων δίνεται από τη σχέση

:p(y_1,\ldots,y_m\mid x_1,\ldots,x_m;\theta) = \prod_{i=1}^m \frac{e^{y_i  \theta' x_i} e^{-e^{\theta' x_i}}}{y_i!}.

Με τη μέθοδο της μέγιστης πιθανοφάνειας, επιθυμούμε να βρούμε το σύνολο των παραμέτρων *θ* που καθιστά την πιθανότητα αυτή όσο το δυνατόν μεγαλύτερη. Για να γίνει αυτό, η εξίσωση ξαναγράφεται πρώτα ως συνάρτηση πιθανότητας ως προς *θ*:

:L(\theta\mid X,Y) = \prod_{i=1}^m \frac{e^{y_i \theta' x_i} e^{-e^{\theta' x_i}}}{y_i!}.

Ας σημειωθεί ότι η έκφραση στη δεξιά πλευρά δεν έχει αλλάξει στην πραγματικότητα. Ένας τύπος αυτής της μορφής είναι συνήθως δύσκολο να δουλέψει- αντ' αυτού, χρησιμοποιείται η *λογαριθμική πιθανότητα*:

:\ell(\theta\mid X,Y) = \log L(\theta\mid X,Y) = \sum_{i=1}^m \left( y_i \theta' x_i - e^{\theta' x_i} - \log(y_i!)\right). 

Ας σημειωθεί ότι οι παράμετροι θ εμφανίζονται μόνο στους δύο πρώτους όρους κάθε όρου του αθροίσματος. Επομένως, δεδομένου ότι μας ενδιαφέρει μόνο να βρούμε την καλύτερη τιμή για το *θ* μπορούμε να παραλείψουμε το *y**i* και να γράψουμε απλά

:\ell(\theta\mid X,Y) = \sum_{i=1}^m \left( y_i \theta' x_i - e^{\theta' x_i} \right). 

Για να βρούμε ένα μέγιστο, πρέπει να λύσουμε μια εξίσωση \frac{\partial \ell(\theta\mid X,Y)}{\partial \theta} = 0   η οποία δεν έχει λύση κλειστής μορφής. Ωστόσο, η αρνητική λογαριθμική πιθανοφάνεια, -\ell(\theta\mid X,Y), είναι μια κυρτή συνάρτηση, και έτσι οι συνήθεις τεχνικές κυρτής βελτιστοποίησης, όπως η κατάβαση κλίσης, μπορούν να εφαρμοστούν για να βρεθεί η βέλτιστη τιμή του *θ*.

## Παλινδρόμηση Πουασόν στην πράξη

Η παλινδρόμηση Πουασόν μπορεί να είναι κατάλληλη όταν η εξαρτημένη μεταβλητή είναι μια καταμέτρηση, λόγου χάριν γεγονότων όπως η άφιξη μιας τηλεφωνικής κλήσης σε ένα τηλεφωνικό κέντρο. Τα γεγονότα πρέπει να είναι ανεξάρτητα με την έννοια ότι η άφιξη μιας κλήσης δεν θα κάνει μια άλλη περισσότερο ή λιγότερο πιθανή, αλλά η πιθανότητα ανά μονάδα χρόνου των γεγονότων θεωρείται ότι σχετίζεται με συνδιακυμάνσεις όπως η ώρα της ημέρας.

### «Έκθεση» και αντιστάθμιση
Η παλινδρόμηση Πουασόν  μπορεί επίσης να είναι κατάλληλη για δεδομένα ρυθμού, όπου ο ρυθμός είναι μια καταμέτρηση γεγονότων διαιρεμένη με κάποιο μέτρο της *έκθεσης* της μονάδας αυτής (μια συγκεκριμένη μονάδα παρατήρησης)  Επί παραδείγματι, οι βιολόγοι μπορούν να μετρήσουν τον αριθμό από τα είδη δέντρων σε ένα δάσος: τα γεγονότα θα είναι οι παρατηρήσεις δέντρων, η έκθεση θα είναι η μονάδα επιφάνειας και ο ρυθμός θα είναι ο αριθμός των ειδών ανά μονάδα επιφάνειας. Οι δημογράφοι μπορούν να μοντελοποιήσουν τα ποσοστά θανάτων σε γεωγραφικές περιοχές ως τον αριθμό των θανάτων διαιρούμενο με τα ανθρωπο-έτη. Γενικότερα, τα ποσοστά συμβάντων μπορούν να υπολογιστούν ως συμβάντα ανά μονάδα χρόνου, γεγονός που επιτρέπει στο παράθυρο παρατήρησης να ποικίλλει για κάθε μονάδα. Σε αυτά τα παραδείγματα, η έκθεση είναι αντίστοιχα μονάδα περιοχής, ανθρωποέτη και μονάδα χρόνου. Στην παλινδρόμηση Πουασόν αυτό αντιμετωπίζεται ως **offset**. Εάν ο ρυθμός είναι μέτρηση/έκθεση, ο πολλαπλασιασμός και των δύο πλευρών της εξίσωσης με την έκθεση την μεταφέρει στη δεξιά πλευρά της εξίσωσης.  Όταν στη συνέχεια και οι δύο πλευρές της εξίσωσης λογαριθμούνται, το τελικό μοντέλο περιέχει log(exposure) ως όρο που προστίθεται στους συντελεστές παλινδρόμησης. Αυτή η καταγεγραμμένη μεταβλητή, log(exposure), ονομάζεται μεταβλητή αντιστάθμισης και εισέρχεται στη δεξιά πλευρά της εξίσωσης με μια εκτίμηση παραμέτρου (για log(exposure)) που περιορίζεται στο 1. 
:\log(\operatorname{E}(Y\mid x)) = \theta' x
το οποίο συνεπάγεται
:\log\left(\frac{\operatorname{E}(Y\mid x)}{\text{exposure}}\right) = \log(\operatorname{E}(Y\mid x)) - \log(\text{exposure}) = 
        \theta' x  - \log(\text{exposure}) 

Η μετατόπιση στην περίπτωση ενός GLM στο R μπορεί να επιτευχθεί με τη χρήση της συνάρτησης `offset()` : 


```r
glm(y ~ offset(log(exposure)) + x, family=poisson(link=log) )
```


### Υπερδιασπορά και μηδενικός πληθωρισμός

Ένα χαρακτηριστικό της κατανομής Πουασόν είναι ότι η μέση τιμή της είναι ίση με τη διακύμανσή της. Σε ορισμένες περιπτώσεις, διαπιστώνεται ότι η παρατηρούμενη διακύμανση είναι μεγαλύτερη από τη μέση τιμή- αυτό είναι γνωστό ως υπερδιασπορά και υποδηλώνει ότι το μοντέλο δεν είναι κατάλληλο. Ένας συνήθης λόγος είναι η παράλειψη σχετικών επεξηγηματικών μεταβλητών ή εξαρτημένων παρατηρήσεων. Υπό ορισμένες συνθήκες, το πρόβλημα της υπερδιασποράς μπορεί να επιλυθεί με τη χρήση οιονεί πιθανοφάνειας εκτίμησης ή αρνητικής διωνυμικής κατανομής αντί αυτής. 

Οι Ver Hoef και Boveng περιέγραψαν τη διαφορά μεταξύ του οιονεί-Πουασόν (που ονομάζεται επίσης υπερδιασπορά με οιονεί πιθανότητα) και του αρνητικού διωνυμικού (ισοδύναμο με το γάμμα-Πουασόν ως εξής:  Εάν *E*(*Y*) = *μ*, το μοντέλο οιονεί-Πουασόν υποθέτει var(*Y*) = *θμ* ενώ το γ- Πουασόν υποθέτει var(*Y*) = *μ*(1&nbsp;+&nbsp;*κμ*), όπου *θ* είναι η παράμετρος υπερδιασποράς οιονεί-Πουασόν και *κ* είναι η παράμετρος σχήματος της αρνητικής διωνυμικής κατανομής.  Και για τα δύο μοντέλα, οι παράμετροι εκτιμώνται χρησιμοποιώντας επαναληπτικά επανασταθμισμένα ελάχιστα τετράγωνα.  Για την οιονεί-Πουασόν, τα βάρη είναι *μ*/*θ*.  Για την αρνητική διωνυμική, τα βάρη είναι *μ*/(1&nbsp;+&nbsp;*κμ*).  Με μεγάλο *μ* και σημαντική extra-Πουασόν διακύμανση, τα αρνητικά διωνυμικά βάρη περιορίζονται σε&nbsp;1/*κ*.  Οι Ver Hoef και Boveng συζήτησαν ένα παράδειγμα όπου επέλεξαν μεταξύ των δύο με την απεικόνιση του μέσου τετραγώνου των καταλοίπων σε σχέση με τον μέσο όρο.

Ένα άλλο συνηθισμένο πρόβλημα με την παλινδρόμηση Πουασόν είναι η περίσσεια μηδενικών: αν υπάρχουν δύο διαδικασίες σε λειτουργία, μία που καθορίζει αν υπάρχουν μηδενικά γεγονότα ή οποιαδήποτε γεγονότα, και μία διαδικασία Πουασόν που καθορίζει πόσα γεγονότα υπάρχουν, θα υπάρχουν περισσότερα μηδενικά από όσα θα προέβλεπε η παλινδρόμηση Πουασόν. Ένα παράδειγμα θα ήταν η κατανομή των τσιγάρων που καπνίζονται σε μια ώρα από τα μέλη μιας ομάδας όπου ορισμένα άτομα είναι μη καπνιστές.

Άλλα γενικευμένα γραμμικά μοντέλα, όπως το αρνητικό διωνυμικό μοντέλο ή το μοντέλο με μηδενική διόγκωση, μπορεί να λειτουργήσουν καλύτερα σε αυτές τις περιπτώσεις.

Αντίθετα, η υποδιασπορά μπορεί να αποτελέσει πρόβλημα για την εκτίμηση των παραμέτρων.

## Επεκτάσεις

### Κανονικοποιημένη παλινδρόμηση Πουασόν

Κατά την εκτίμηση των παραμέτρων για την παλινδρόμηση Πουασόν, συνήθως προσπαθούμε να βρούμε τιμές για το *θ* που μεγιστοποιούν την πιθανότητα μιας έκφρασης της μορφής

:\sum_{i=1}^m \log(p(y_i;e^{\theta' x_i})),

όπου *m* είναι ο αριθμός των παραδειγμάτων στο σύνολο δεδομένων και p(y_i;e^{\theta' x_i}) είναι η συνάρτηση μάζας πιθανότητας της κατανομής Πουασόν με μέση τιμή e^{\theta' x_i}. Η κανονικοποίηση μπορεί να προστεθεί σε αυτό το πρόβλημα βελτιστοποίησης μεγιστοποιώντας αντί αυτού 

:\sum_{i=1}^m \log(p(y_i;e^{\theta' x_i})) - \lambda \left\|\theta\right\|_2^2,

για κάποια θετική σταθερά \lambda. Αυτή η τεχνική, παρόμοια με την παλινδρόμηση κορυφογραμμής, μπορεί να μειώσει την υπερπροσαρμογή.

## Εξωτερικοί σύνδεσμοι
*English - Greek Dictionary of Pure and Applied Mathematics Εθνικό Μετσόβιο Πολυτεχνείο
*Αγγλοελληνικό Λεξικό Μαθηματικής Ορολογίας - Πανεπιστήμιο Κύπρου
* Ευκλείδεια Γεωμετρία - Πανελλήνιο Σχολικό Δίκτυο
* Θεωρία ομάδων και Λι αλγεβρών -Εθνικό Αρχείο Διδακτορικών Διατριβών
* Θεωρία Αριθμών και Εφαρμογές
* Υπολογιστική Θεωρία Αριθμών
* Καμπυλότητες και γεωμετρία του Riemann σε διαφορίσιμες πολλαπλότητες Εθνικό Αρχείο Διδακτορικών Διατριβών
* Μέθοδοι μηχανικής μάθησης βασισμένες σε έλεγχο μονοτροπικότητας Εθνικό Αρχείο Διδακτορικών Διατριβών
*  Παράμετροι και Στατιστικά. Διωνυμική και Κανονική Κατανομή

## Δείτε επίσης
* Απαγορευτική αρχή του Πάουλι
* Κατανομή t-Student
* Κανονική κατανομή
* Αλγεβρική θεωρία αριθμών
* Διαφορική γεωμετρία
* Άρθουρ Στάνλεϋ Έντινγκτον
* Θεωρία αναπαραστάσεων
* Σουμπραμανιάν Τσαντρασεκάρ
* Ευκλείδειος χώρος
* Ένα προς ένα
* Σουμπραμανιάν Τσαντρασεκάρ
* Εφαρμοσμένα μαθηματικά
* Προβολικός χώρος
* Διακριτός μετασχηματισμός Φουριέ
* Θεμελιώδες θεώρημα αριθμητικής
* Αλγεβρική γεωμετρία
* Μιγαδικός αριθμός
* Άρθουρ Στάνλεϋ Έντινγκτον
* Τυπική απόκλιση

## Βιβλιογραφία
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 

## Παραπομπές

* 
* 
* 
* 
* 
* 
* 
* 
*  https://web.archive.org/web/20221220195918/https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7727271/pdf/nihms-1633436.pdf (15 pages)
*
*
*
*
* Ch. 1–6 of 2013 edition

## Πηγές
* 
* 
* 
* 
* 
* 
* 

Κατηγορία:Θεωρία ομάδων
Κατηγορία:Ποσοτική έρευνα
Κατηγορία:Στατιστικοί Έλεγχοι
Κατηγορία:Μέθοδοι επιστημονικής έρευνας
Κατηγορία:Εφαρμοσμένα μαθηματικά
Κατηγορία:Περιοχές των μαθηματικών
Κατηγορία:Επιστημονική μέθοδος
Κατηγορία:Στατιστικές μέθοδοι
Κατηγορία:Θεωρία αριθμών