Todennäköisyydet generoiva funktio

**Todennäköisyydet generoiva funktio** (lyhennetään joskus *tgf*) on todennäköisyyslaskennassa ja tilastotieteessä satunnaismuuttujan todennäköisyysjakaumasta määritelty funktio, jonka avulla voidaan laskea jakauman todennäköisyyksiä ja tekijämomentteja.

Todennäköisyydet generoiva funktio voidaan määritellä sekä diskreeteille- että jatkuville satunnaismuuttujille. Se on kuitenkin käytännöllisempi diskreeteille satunnaismuuttujille, jonka tuloksia esitellään tässä.

## Määritelmä
Todennäköisyydet generoiva funktio on odotusarvo 
:G(t)=E(t^X). 

### Diskreetti satunnaismuuttuja
Diskreetille satunnaismuuttujalle generoiva funktio on potenssisarja
:G(t)=\sum_{i=0}^\infty f(x_i)t^{x_i},
jonka eri asteisten potenssien kertoimet ovat pistetodennäköisyysfunktion arvoja eri satunnaismuuttujan X arvoille x_i. Muuttuja t on usein reaaliluku, mutta se voi olla myös kompleksiluku, sillä kaikki tarvittavat matemaattiset ominaisuudet periytyvät myös sille. Laittamalla muuttujan t arvoksi nolla, voidaan funktion derivaatoista poimia esille todennäköisyydet ja arvolla yksi, laskea niistä erilaisia summia.

Potenssisarja suppenee yleisesti reaaliluvuilla vain, jos -1. Siten arvo t=0 on sallittu arvo. Sen sijaan arvo t=1 ei välttämättä käy, sillä sarja ei silloin suppene yleisessä tapauksessa. Potenssisarjalla saattaa kuitenkin olla olemassa sarjan raja-arvo, kun ykköstä lähestytään vasemmalta päin. Jos näin on, niin raja-arvoa voidaan ilmaista miinus-merkillä
:\lim_{t \to 1-}G(t)=G(1-).
Todennäköisyyslaskennassa alueen voi laajentaa -1 \le t \le 1, sillä summassa olevien todennäköisyyksien summa on aina yksi. Monissa teksteissä G(1-) merkitään siksi G(1). Merkintää sovelletaan tässä myös derivaatoille.

### Jatkuva satunnaismuuttuja
Jatkuvalle satunnaismuuttujalle generoiva funktio määritetään
:G(t)=\int_{-\infty}^{+\infty}t^xf_X(x) \, dx . 

## Ominaisuuksia
### Funktion arvo: G(0)
Yleisessä tapauksessa, missä X = \{x_0,x_1,x_2,\dots\}, saadaan
:G(0)=\sum_{i=0}^\infty f(x_i)\cdot 0^{x_i}=0 . 

Erityistapauksessa, jossa Y = \{i|i=0,1,2,3 \dots\}=\{0,1,2,3,\dots\} ja niiden todennäköisyydet vastaavasti f(x_i)=f_i=p_i=P(X=i), tulee generoivasta funktiosta
:G(t)=\sum_{i=0}^\infty p_i\cdot t^{y_i}=p_0t^0+p_1t^1+p_2t^2+\dots, 
josta saadaan
:G(0)=\sum_{i=0}^\infty p_i\cdot 0^{y_i}=p_0 , 
kunhan \lim_{t \to 0}p_0\cdot t^{y_0}=\lim_{t \to 0}p_0\cdot t^{0}=p_0. 

### Funktion arvo: G(1-)
Yleisessä tapauksessa, missä X = \{x_0,x_1,x_2,\dots\}, saadaan
:G(1-)= \lim_{t \to 1-}G(t)= \lim_{t \to 1-} \left (\sum_{i=0}^\infty f(x_i)\cdot t^{x_i} \right )= \sum_{i=0}^\infty f(x_i)\cdot 1^{x_i} = \sum_{i=0}^\infty f(x_i)=1,
sillä satunnaismuuttujan kaikkien arvojen todennäköisyyksien summa on aina yksi.

### Riippumattomat satunnaismuuttujat
Jos muodostetaan uusi satunnaismuuttuja Y kahdesta riippumattomasta satunnaismuuttujasta X_1 ja X_2 merkitsemällä Y=X_1+X_2, voidaan uusi generoiva funktio muodostaa vanhojen avulla
:G_Y(t)=G_{X_1}(t)G_{X_2}(t). 

### Momentit generoiva funktio
Satunnaismuuttujan momentit generoiva funktio on odotusarvo
:M(t)=E[e^{tX}]. 
Momenttifunktio voidaan kirjoittaa todennäköisyydet generoivan funktion avulla
:M(t)=G(e^{t}). 

## Tekijämomentit
Sarjan derivointi suoritetaan jokaiselle sarjan termille yksittäin seuraavasti: 
:G(t)=E(t^X)=\sum_{i=1}^\infty f(x_i)t^{x_i}
:G'(t)=D\left (\sum_{i=1}^\infty f(x_i)t^{x_i} \right )=x_1f(x_1)t^{x_1-1} + x_2f(x_2)t^{x_2-1} + x_3f(x_3)t^{x_3-1}+\dots
:G*(t)=D^2\left (\sum_{i=1}^\infty f(x_i)t^{x_i} \right )=x_1(x_1-1)f(x_1)t^{x_1-2} + x_2(x_2-1)f(x_2)t^{x_2-2} + x_3(x_3-1)f(x_3)t^{x_3-2} + \dots</math>

Ensimmäisen derivoinnin tulokset voidaan kirjoittaa
:<math>G'(t)=\sum_{i=1}^\infty x_if(x_i)t^{x_i-1}</math>
ja sen arvo ykkösessä antaa
:<math>G'(1-)=\lim_{t \to 1-}G(t)=\sum_{i=1}^\infty x_if(x_i)1^{x_i-1}=\sum_{i=1}^\infty x_if(x_i)=E[X]</math> 
eli tuloksena on satunnaismuuttujan [[odotusarvo]]. Toisen derivoinnin tulokset voidaan kirjoittaa
:<math>G*(t)=G^{(2)}(t)=\sum_{i=1}^\infty x_i(x_i-1)f(x_i)t^{x_i-2}
ja sen arvo ykkösessä on
:G*(1-)=\lim_{t \to 1-}G^{(2)}(t)=\lim_{t \to 1-}\left (\sum_{i=1}^\infty x_i(x_i-1)f(x_i)t^{x_i-2}\right )</math>
::::<math>=\sum_{i=1}^\infty x_i(x_i-1)f(x_i)1^{x_i-2}=\sum_{i=1}^\infty x_i(x_i-1)f(x_i)=E[X(X-1)]</math>
eli satunnaismuuttujan toinen [[tekijämomentti]]. Odotusarvo voidaan tulkita siten ensimmäiseksi tekijämomentiksi.
Yleisesti, kun on otettu r:s derivaatta, saadaan 
:<math>G^{(r)}(1)=E[X^{(r)}]=E[X(X-1)(X-2)\dots(X-r+1)]</math> 
eli r:s tekijämomentti.

== Todennäköisyysarvot ==
Erityistapauksessa, jossa <math>Y = \{0,1,2,3,\dots\}</math> ja niiden todennäköisyydet vastaavasti <math>f(x_i)=p_i=P(Y=i)</math>, saadaan derivaatoista määritetty pistetodennäköisyydet <math>p_i</math>. Generoiva funktio on nyt
:<math>G(t)=\sum_{i=0}^\infty p_i\cdot t^{y_i}=p_0t^0+p_1t^1+p_2t^2+\dots</math> 
ja sen ensimmäinen derivaatta on
:<math>G'(t)=\sum_{i=1}^\infty y_ip_it^{y_i-1}=0\cdot p_0t^{-1}+ 1\cdot p_1t^0+ 2p_2t^1+3p_3t^2\dots=p_1t^0+2p_2t^1+3p_3t^2+\dots.</math>
Sijoittamalla siihen <math>t=0</math> saadaan
:<math>G'(0)=p_10^0+2p_20^1+3p_30^2+\dots=p_1,</math>
kun tilanteessa "<math>0^0</math>" huomataan <math>\lim_{t \to 0}t^0=1.</math> Toinen derivaatta antaa
:<math>G*(t)=\sum_{i=1}^\infty y_i({y_i-1})p_it^{y_i-2}= 1\cdot0\cdot p_1t^{-1}+ 2\cdot1 p_2t^0+3\cdot2 p_3t^1+4\cdot3 p_4t^3+\dots=2p_2t^0+6p_3t^1+12p_4t^2+\dots
ja sijoittamalla taas t=0 saadaan
:G*(0)=2p_20^0+6p_30^1+12p_40^2+\dots=2p_2 .</math>
Pienellä päättelyllä saadaan todennäköisyydet laskettua
:<math>p_k=\frac{G^{(k)}(0)}{k!}.</math> 
Tästä lausekkeesta voidaan ymmärtää funktion nimi: *todennäköisyydet generoiva funktio*.

== Esimerkki: noppa ==
Noppapeleissä käytetään arpakuutiota, jolla arvotaan kuusi lukua 1−6 ja jonka eri lukujen todennäköisyydet ovat yhtä todennäköisiä (eli noppa antaa luvun <math>i</math> todennäköisyydellä <math>P(X=i)=\tfrac{1}{6}</math>. Muodostetaan todennäköisyydet generoiva funktio
:<math>G(t)=\sum_{i=1}^\infty f(x_i)t^{x_i}=P(X=1)t^1+P(X=2)t^2+P(X=3)t^3+P(X=4)t^4+\dots ,</math>
jolla on ominaisuus
:<math>G(1)=\tfrac{1}{6}\cdot 1^1+\tfrac{1}{6}\cdot 1^2+\tfrac{1}{6}\cdot 1^3+\tfrac{1}{6}\cdot 1^4+ \dots=\tfrac{1}{6}+\tfrac{1}{6}+\tfrac{1}{6}+\tfrac{1}{6}+\tfrac{1}{6}+\tfrac{1}{6}+0+0+\dots=1</math>
eli todennäköisyyksien summa on yksi.

Koska todennäköisyydet ovat samat ja muualla nolla, on sarja itse asiassa summa:
:<math>G(t)=\tfrac{1}{6}t^1+\tfrac{1}{6}t^2+\tfrac{1}{6}t^3+\tfrac{1}{6}t^4+\tfrac{1}{6}t^5+\tfrac{1}{6}t^6</math>
:::<math>=\tfrac{1}{6}\left ( t^1+t^2+t^3+t^4+t^5+t^6\right ).</math>

=== Tekijämomentit ja varianssi ===
Derivaatta kohdassa yksi on
:<math>G'(t)=1\cdot P(X=1)+2P(X=2)t^1+3P(X=3)t^2+4P(X=4)t^3+\dots</math> 
ja
:<math>G'(1)=1\cdot P(X=1)+2P(X=2)+3P(X=3)+4P(X=4)+\dots</math>
:::<math>=1 \cdot\tfrac{1}{6}+2\cdot\tfrac{1}{6}+3\cdot\tfrac{1}{6}+4\cdot\tfrac{1}{6}+5\cdot\tfrac{1}{6}+6\cdot\tfrac{1}{6}+0+0+ \dots=\tfrac{7}{2}=E[X] .</math>  (odotusarvo)

Toinen derivaatta kohdassa yksi on
:<math>G*(t)=2\cdot1P(X=2)t^0+3\cdot2P(X=3)t^1+4\cdot3P(X=4)t^2+\dots 
ja
:G*(1)=2\cdot1\cdot\tfrac{1}{6}+3\cdot2\cdot\tfrac{1}{6}+4\cdot3\cdot\tfrac{1}{6}+\dots=\tfrac{35}{3}=E[X(X-1)] .</math>  (ensimmäinen tekijämomentti)

Huomaa, miten saadaan [[varianssi]] näistä kahdesta tuloksesta
:<math>G*(1)+G'(1)-(G'(1))^2=\tfrac{35}{3}+\tfrac{7}{2}-\left (\tfrac{7}{2}\right )^2=\tfrac{35}{12}=Var(X). 

## Lähteet

## Aiheesta muualla
* Cut the Knot's: Probability generating functions