Multinomiaalne logistiline regressioon

Multinomiaalne logistiline regressioon (ingl multinomial logistic regression) on klassifitseerimismeetod enam kui kahe võimaliku diskreetse tulemuse jaoks. See on binaarse logistilise regressiooni üldistus, kus olemasolevate andmete põhjal luuakse mudel selleks, et hinnata erinevatesse võimalikesse klassidesse kuulumise tõenäosust.

Multinoomjaotus 
Multinoomjaotus on binoomjaotuse üldistus, kus igas üksikus katses on enam kui kaks võimalikku katsetulemust. Olgu võimalikud katsetulemused  ning nende esinemise tõenäosused vastavalt , kusjuures  ja . Tõenäosus, et  sõltumatus katses sündmused  toimuvad vastavalt  korda, avaldub valemiga
 
Kuna , siis on ühe sündmuse toimumiste arv avaldatav teiste kaudu ning kasutusele saab võtta lühema vektori . Siis avaldub tõenäosusfunktsioon valemiga
 
Multinoomjaotuse liikmete  keskväärtus ja dispersioon avalduvad vastavalt  ja  iga  korral.

Multinomiaalne logit mudel 

Olgu võimalikud katsetulemused  ning seletavate tunnuste arv . Binaarse logit-mudeli korral hinnatakse uuritava sündmuse toimumise ja vastandsündmuse toimumise šansi logaritmi
 
Multinomiaalse mudeli korral vaadeldakse  logit-mudelit, kus igas mudelis hinnatakse sündmuse toimumise ehk mingile kindlale tasemele kuulumise ja baastasemele kuulumise šansi logaritmi.

Valides baastasemeks taseme , avaldub -ndale tasemele vastav logit-mudel järgmiselt
 
kus . Siinkohal tasub tähele panna, et parameetrid  sõltuvad tasemest  ning baastaseme  võib valida vabalt tasemete  hulgast. 

Olgu  kõikide võimalike populatsioonide arv nii et  on vaatluste arv -ndas populatsioonis ja , kus  on kõigi vaatluste arv. Suurus  tähistab siis iga -nda populatsiooni vaatluse tõenäosust kuuluda tasemele . Multinomiaalsest logit-funktsioonist saame siis
 
Avaldades eelnevast  ning võttes, et iga  korral , saame
 
kus  ja

Parameetrite hindamine suurima tõepära meetodil 

Olgu  multinoomjaotusest, mille võimalike tasemete arv on .
 
Kuna jagatises  ei ole hinnatavaid tõenäosusi , siis võib seda vaadelda konstandina ja suurima tõepära funktsioon on
 
Asendades  ja , saame
 
Suurima tõepära hinnangute leidmiseks on vaja eelnev funktsioon maksimeerida. Kuna logaritm on monotoonne funktsioon, siis piisab selleks leida log-tõepära funktsiooni maksimumkohad. Suurima tõepära funktsioonist naturaallogaritmi  võtmisel saame log-tõepära funktsiooni
 
Funktsiooni maksimeerimiseks  suhtes, piisab meil leida funktsiooni osatuletised  ning iga  jaoks nullkohad.

Viited 

Statistika
Regressioonanalüüs