Poisson-regressio

Poisson-regressio on yleistettyjen lineaaristen mallien erikoistapaus. Poisson-regressiota käytetään lukumääräaineistojen mallintamiseen. Kuten yleensäkin yleistettyjen lineaaristen mallien kohdalla, tässäkin tapauksessa oletetaan havaintojen riippumattomuus. (Pitkittäisaineistojen kohdalla riippuvuus huomioidaan käyttämällä marginaalimalleja, yleistettyjä lineaarisia sekamalleja tai transitiomalleja.)
Yleistettyjen lineaaristen mallien toinen oletus riippumattomuuden lisäksi on, että "Y"i:den jakauma kuuluu eksponentiaaliseen perheeseen. Yleistettyjen lineaaristen mallien tapauksessa jakauma kuuluu eksponentiaalisen perheeseen, jos jakauma voidaan kirjoittaa muodossa
 formula_1 ,jossa "Ф" on skaalaparametri, "θ" on kanooninen lokaatio ja " a()" , "b()" ovat jakaumaspesifejä funktioita.
Poisson-jakauma voidaan kirjoittaa muodossa
 formula_2
Nyt 
 formula_3.
Viimeisintä voidaan käyttää poisson-jakauman odotusarvon ja varianssin määrittämiseen. (Odotusarvo sekä varianssi ovat "µ"i.) Poisson-jakauma siis kuuluu eksponentiaaliseen perheeseen.
Systemaattiseksi osaksi yleistetyissä lineaarisissa malleissa sanotaan osaa 
 formula_4.
Linkkifunktio linkittää systemaattisen osan vasteen odotusarvoon
 formula_5.
Poisson-regressiossa linkkifunktio on "g"(µi) = log("µ"i). Tämän vuoksi estimoitua regressio-kerrointa "βi" voidaan tulkita poisson-regressiossa seuraavasti. (Olettaen, että interaktioita ei ole.) Verrattaessa kahta yksilöä, jotka poikkeavat vain tarkasteltavan muuttujan suhteen yhdellä yksiköllä, odotettu vasteen lukumäärä muuttuu exp("βi")-kertaiseksi.
Poisson-regressio ja altistus.
Monesti ollaan kiinnostuneita tapahtumien intensiteetistä, esimerkiksi liikennekuolemista miljoonaa asukasta kohden. Tällaisissa tapauksissa kirjoitetaan "µ"i = "m"i"λ"i. "λ"i on intensiteetti ja "m"i on altistuneiden tai altistuksen määrä useimmiten tiettynä aikana (esim. kuukaudessa) tai tietyssä paikassa (esim. Suomessa). Yleistetyissä lineaarisissa malleissa altistuksen logaritmista käytetään nimitystä offset. Intensiteetin logaritmi riippuu lineaarisesti prediktoreista
 formula_6 
Jos intensiteettiä ei tarvitse huomioida, niin offset prediktori log("m"i) asetetaan nollaksi eli "m"i ykköseksi.
Uskottavuusfunktio ja estimointi.
Kun käytetään edellisiä merkintöjä ("μ"i = "m"i"λ"i) ja merkitään "β"1"x"i1 + ... + "β"p"x"ip = xiβ, niin uskottavuus voidaan kirjoittaa muodossa
 formula_7
 formula_8
Suurimman uskottavuuden estimaatit saadaan, kun maksimoidaan uskottavuusfunktion logaritmi. Ratkaisu löytyy asettamalla osittaisderivaatat nolliksi. Kun oletetaan, että selittäjien matriisi X, ykkössarakkeella täydennettynä, on täysiasteinen, niin pätee, että mikäli uskottavuusyhtälöllä "∂"logL(β)/∂β = 0 on äärellinen ratkaisu, niin se on yksikäsitteinen suurimman uskottavuuden estimaatti.
Uskottavuusyhtälöt ovat
 formula_9
Uskottavuusyhtälöt ratkaistaan numeerisesti IWLS-menetelmällä. Samaa menetelmää käytetään myös logistisen regression tapauksessa. Jos β(0) on alkuarvo, niin seuraava arvo on β(1) = β(0) + δ(1), missä
 formula_10
 formula_11 
 formula_12
Suurilla otoksilla pätee likimäärin tulos
 formula_13,
missä W(β) on kuten W^((0)), mutta β^((0)):n paikalla on (tuntematon) oikea arvo β. Kovarianssimatriisi on Fisherin informaatiomatriisin käänteismatriisi. Fisherin informaatiomatriisi lasketaan derivoimalla uskottavuusfunktio kahdesti ja vaihtamalla etumerkki
 formula_14
Keskivirheet saadaan kun käyetetään matriisia 
 formula_15
Devianssi.
Devianssin avulla voidaan verrata tiettyä poisson-regressiomallia kyllästettyyn l. saturoituun malliin. Eli siis devianssin avulla voidaan sovittaa sopiva malli. Tässä tapauksessa kyllästetty malli on sellainen, että intensiteetit "λ_i" saavat arvonsa riippumatta selittäjien arvoista. On osoitettu, että "λ_i":n suurimman uskottavuuden estimaatti on 
 formula_16 
Kyllästetyn mallin ja Poisson-regressiomallin uskottavuudet ovat 
 formula_17
 formula_18
Merkitään 
 formula_19
Devianssiksi D saadaan tällöin (viimeinen yhtäsuuruus pätee, kun mallissa on vakio)
 formula_20 
Devianssi noudattaa likimäärin "χ^2(n-p-1)"-jakaumaa. Approksimaatio voi olla huono, jos odotetut frekvenssit ovat pieniä. Devianssia voidaan käyttää yhteensopivuustestinä hypoteeseille
 formula_21
Vastahypoteesina on, että odotusarvot "µ"i ovat mielivaltaisia.
Kun oletetaan, että tietty p:n selittäjän poisson-regressiomalli on oikea malli, voidaan testata kertoimien osajoukkoon liittyvää nollahypoteesia
 formula_22
Vastahypoteesina on, että ainakin jokin "β"j on erisuurta kuin nolla, j = q+1, ... , p.
Testi konstruoidaan maksimoimalla sekä p:n selittäjän (oletettu oikea) malli että suppeampi q:n selittäjän malli, joita merkitään "L"p ja "L"q. Kun "H"0 on tosi
 formula_23 likimäärin. "D"p ja "D"q ovat laajemman ja suppeamman mallin devianssit.
Tätä sanotaan myös uskottavuusosamäärän testiksi. Toisin sanoen uskottavuusosamäärän testiä voi kuvata niin, että sillä vertaillaan sisäkkäisiä malleja.
AIC ja BIC.
Kun uskottavuusosamäärän testillä vertaillaan sisäkkäisiä malleja, niin AIC:n (Akaiken informaatiokriteerin) ja BIC:n (Bayesilaisen informaatiokriteerin) avulla voidaan vertailla muita kilpailevia malleja. Jos mallin valinta tehtäisiin vain informaatiokriteerin perusteella, niin valittaisiin se malli, jolla on pienin AIC (tai BIC).
Jäännökset.
Jäännösten avulla voidaan tutkia, onko Poisson-malli oikea ja tarvitseeko selittäjille tehdä muunnoksia. Jäännöskuvioissa ei pitäisi näkyä mitään selkeää kuviota (esim. hevosenkenkää), jotta malli olisi jokseenkin kunnossa. Kun malli on sovitettu ja saatu : formula_24 , niin voidaan laskea standardoidut jäännökset 
 formula_25
Mikäli Poisson-malli on oikea, niin jäännösten pitäisi olla likimäärin riippumattomia, ja niiden odotusarvon pitäisi olla 0 ja keskihajonnan 1. Mallin sopivuutta voidaan testata laskemalla neliösumma formula_26, jota verrataan formula_27-jakaumaan. Jäännökset kannattaa piirtää sovitteen ja prediktoreiden suhteen.