Yhteisjakauma

**Yhteisjakauma** on todennäköisyyslaskennassa usean satunnaismuuttujan todennäköisyysjakauma. Yhteisjakaumaa voidaan kutsua myös *moniulotteiseksi todennäköisyysjakaumaksi*. Monet yhteisjakauman ominaisuudet perityvät yhden satunnaismuuttujan todennäköisyysjakaumasta, mutta satunnaismuuttujien keskinäiset riippuvuudet vaikuttavat sen ominaisuuksiin oleellisesti. Moniulotteisten todennäköisyysjakaumiin liittyviä käsitteitä ovat reunajakaumat, ehdolliset jakaumat ja näiden tunnusluvut, kuten esimerkiksi kovarianssi ja korrelaatio.

Yhden satunnaismuuttujan todennäköisyysjakaumat kuvaavat useimpia satunnaisilmiöitä vain rajoitetusti, sillä satunnaisilmiöihin liittyy tavallisesti useita satunnaisia tekijöitä ja satunnaismuuttujien väliset riippuvuudet ovat silloin mielenkiinnon kohteina. Näitä on selvintä tarkastella yhteisjakauman avulla. Yhteisjakauman perusominaisuuksia voi tutkia jo kahden satunnaismuuttujan yhteisjakamalla.

## Kaksiulotteinen yhteisjakauma
Kahdesta satunnaismuuttujasta X ja Y muodostetaan järjestetty pari (X,Y) määrittelee kaksiulotteisen satunnaismuuttujan (myös satunnaisvektori ). Satunnaismuuttujat voivat olla esimerkiksi diskreettejä, jatkuvia tai näiden tyyppien sekamuotoinen yhdistelmä. Järjestetty pari voi lisäksi olla näiden tyyppien yhdistelmä. Yksinkertaisuuden vuoksi tässä ei esitetä sekamuotoisien satunnaismuuttujien merkintöjä, vaan ne ovat joko diskreettisia tai jatkuvia satunnaismuuttujien pareja.

### Todennäköisyysfunktio
Todennäköisyysfunktio, joka on joko diskreettien satunnaismuuttujien pistetodennäköisyysfunktio tai jatkuvien satunnaismuuttujien tiheysfunktio, on kummassakin tapauksessa reaalilukufunktio
:f_{XY}:\mathbb{R}^2 \rightarrow \mathbb{R},
jolla on seuraavat alla esitetyt ominaisuudet.
#### Diskreettien satunnaismuuttujien pistetodennäköisyysfunktiolle
::f_{XY}(x,y) \ge 0 kaikille x,y \in \mathbb{R}
::P(X=x \text{ ja } Y=y)=f_{XY}(x,y) 
::\sum_x \sum_y f_{XY}(x,y) =1

#### Jatkuvien satunnaismuuttujien tiheysfunktiolle
::f_{XY}(x,y) \ge 0 kaikille x,y \in \mathbb{R}
::P(a\le X \le b \text{ ja }c \le Y \le d)=\int_a^b \int_c^d f_{XY}(x,y) dy dx 
::\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f_{XY}(x,y) dy dx = 1

### Tapahtuma
Diskreetissä tapauksessa tapahtuma on sellainen järjestetty pari (a,b), jonka pistetodennäköisyysfunktion arvo ei ole nolla
:P(X=a \text{ ja } Y=b)=f_{XY}(a,b) > 0. 

Jatkuvassa tapauksessa tapahtuma koostuu sellaista alueista A:=\{(X,Y)|a\le X \le b \text{ ja } c \le Y \le d \}, joissa tiheysfunktio, ja sen seurauksena myös todennäköisyysfunktio, ei ole koko ajan nolla
:P(A)=P(a\le X \le b \text{ ja }c \le Y \le d)=\int_a^b \int_c^d f_{XY}(x,y) dy dx > 0. 

### Kertymäfunktio
Kertymäfunktio voidaan muodostaa monilla eri tavoilla. Yleisin tapa on luoda tapahtumia, johon kerätään kaikkien satunnaismuuttujien arvot tiettyyn ylärajaan asti. Kaksiulotteisessa jakaumassa se tarkoittaa tapahtumaa
:A=A(a,b):=\{(X,Y)|X \le a \text{ ja } Y \le b \}.
Kaksiulotteista kertymäfunktiota voidaan merkitä
:F_{XY}(a,b)=F_{XY}(A)=F_{XY}(A(a,b))=P(X \le a \text{ ja } Y \le b)
ja sillä tarkoitetaan diskreetissä tilanteessa
:F_{XY}(a,b)=\sum_{x \le a} \sum_{y \le b} f_{XY}(x,y) 
ja jatkuvassa tilanteessa
:F_{XY}(a,b)=\int_{-\infty}^a \int_{-\infty}^b f_{XY}(x,y) dy dx . 

Jatkuvassa tapauksessa, mikäli kertymäfunktio on derivoituva, saadaan osittaisderivoimalla kummankin satunnaismuuttujan suhteen
:\frac{\partial^2 F_{XY}(x,y)}{\partial x \partial y}=f_{XY}(x,y). 
Derivaattafunktio on yhteisjakauman tiheysfunktio.

### Reunajakaumat

Yhteisjakauman ulottuvuuksia voidaan rajoittaa kiinnittämällä yksi tai useampia satunnaismuuttujia vakioiksi, ja laskemalla syntyvän alempiulotteisen jakauman todennäköisyys tai kertymäfunktiot. Näitä jakaumia kutsutaan yleisellä nimellä reunajakauma, joka on peräisin kahden satunnaismuuttujan jakauman ominaisuudesta.

Kaksiulotteisen yhteisjakauman reunajakaumia on kaksi, joiden todennäköisyysfunktioiden muodostaminen esitetään tässä. Niiden pistetodennäköisyysfunktiot muodostetaan diskreetissä tapauksessa 
:f_X(x)=P(X=x)=\sum_{y \in Y}f_{XY}(x,y) ,  (satunnaismuuttujan X suhteen)
:f_Y(y)=P(Y=y)=\sum_{x \in X}f_{XY}(x,y)   (satunnaismuuttujan Y suhteen)
ja tiheysfunktiot jatkuvassa tapauksessa vastaavasti
:f_X(x)=\int_{-\infty}^{+\infty}f_{XY}(x,y)dy , 
:f_Y(y)=\int_{-\infty}^{+\infty}f_{XY}(x,y)dx. 

Edellisillä reunajakaumilla on myös kertymäfunktiot F_X(x) ja F_X(x), ja näiden tunnusluvut, kuten esimerkiksi odotusarvot \operatorname{E}[X] ja \operatorname{E}[Y] ja varianssit \sigma^2(X) ja \sigma^2(Y), voidaan muodostaa reunajakaumista luonnollisella tavalla. Muut momentit saadaan esimerkiksi momenttifunktioista, jos ne ovat olemassa.

## Tunnusluvut
### Momentit

Yhteisjakaumalle ja sen kummallekin reunajakuamalle voidaan määrittää momentit. Yhden satunnaismuuttujan jakaumille, kuten joskus reunajakaumille, origomomentit määritellään E[X^r], keskusmomentit määritellään E[(X-\mu_X)^r] ja tekijämomentit E[X(X-1)(X-2)\dots (X-r+1)]. Kahden satunnaismuuttujan yhteisjakaumille vastaavat jakaumat ovat E[X^rY^s] ja E[(X-\mu_X)^r(Y-\mu_Y)^s]. Näiden määrittäminen yhteisjakaumalle voidaan suorittaa myös momenttifunktioilla ja generoivilla funktioilla.

### Odotusarvo
Kaksiulotteisen yhteisjakauman odotusarvo määritellään aina annetun reaalilukuarvoisen satunnaismuuttujan tai funktion avulla. Ellei eri satunnaismuuttujia voida muuttaa lausekkeeksi, ei odotusarvo ole määritelty. Eräs tapa kiertää tuo ongelma on laskea reunajakaumien odotusarvot E[X]=\mu_X ja E[Y]=\mu_Y ja muodostaa niistä järjestetty pari (\mu_X,\mu_Y), joka määrää satunnaismuuttujien yhteisjakauman todennäköisyysmassan painopisteen arvot.

Ennalta annetun reaaliarvoisen funktion g(X,Y) odotusarvo määritellään 
:E_{XY}[g(X,Y)]=\sum_{x \in X} \sum_{y \in Y} g(x,y) f_{XY}(x,y),
kun on kyseessä diskreetit satunnaismuuttujat, ja
:E_{XY}[g(X,Y)]=\int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} g(x,y) f_{XY}(x,y) dydx,
kun kyseessä on jatkuvat satunnaismuuttujat.

Eräiden funktioiden, kuten esimerkiksi g(X,Y)=X \pm Y, avulla voidaan laskea satunnaismuuttujien summan odotusarvo, jolloin summien ja integraalien ominaisuuksista johtuen voidaan aina kirjoittaa
:E[X \pm Y]=E[X] \pm E[Y]
ja jos satunnaismuuttujat ovat riippumattomat, saadaan
:E[X \cdot Y]=E[X] \cdot E[Y]. 

### Varianssit, kovarianssi ja korrelaatio

Samasta syystä kuin odotusarvon tapauksessa, yhteisjakauman varianssi ei ole suoraan määritelty. Se voidaan laskea vain satunnaismuuttujista muodostetulle funktiolle ja sitten kummankin reunajakauman osalta erikseen. Sen sijaan kovarianssi \sigma_{XY} on määritelty niin, että se voidaan laskea kahdesta satunnaismuuttujasta seuraavasti 
:\sigma_{XY}=\sum_{x \in X} \sum_{y \in Y} (x-\mu_X)(y-\mu_Y)f_{XY}(x,y) (diskreettit satunnaismuuttujat)
:\sigma_{XY}=\int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} (x-\mu_X)(y-\mu_Y)f_{XY}(x,y) dydx \, (jatkuvat satunnaismuuttujat)
Varianssit lasketaan toisesta satunnaismuuttujasta (esimerkissä jatkuva s.m.)
:\sigma_X^2=\sigma_{XX}=\int_{-\infty}^{+\infty} (x-\mu_X)(x-\mu_X)f_{X}(x) dx =\int_{-\infty}^{+\infty} (x-\mu_X)^2f_{X}(x) dx\, ,
missä f_X(x) on yhteisjakauman reunajakauma muuttujan X suhteen.

## Riippumattomat satunnaismuuttujat

Kaksi satunnaismuuttujaa X ja Y ovat riippumattomat (merkitään joskus X \perp Y), jos kummankin satunnaismuuttujan tapahtumat A \subseteq X ja B \subseteq Y ovat riippumattomia toisistaan. Silloin pätee tulo
:P(A \cap B)=P(A)P(B)\, \text{ kaikilla } A \text{ ja } B.
Asialla on joitakin seurauksia. Kun satunnaismuuttujat ovat riippumattomat, niin silloin voidaan kirjoittaa:
:*f_{XY}(x,y)=f_X(x)f_Y(y) (pistetodennäköisyysfunktiot ja tiheysfunktiot)
:*F_{XY}(x,y)=F_X(x)F_Y(y) (kertymäfunktiot)
:*M_{XY}(t)=M_X(t)M_Y(t) (momenttifunktiot)
:*G_{XY}(t)=G_X(t)G_Y(t) (todennäköisyydet generoivat funktiot)
:
:

## Moniulotteiset yhteisjakaumat
Edellä käsitelty kaksimuuttujainen eli kaksiulotteinen yhteisjakauma on jo moniulotteinen yhteisjakauma. Muodostettaessa moniulotteisia jakaumia jatketaan kaksiulotteisen jakauman periaatetta kaikissa suhteessa lisäämällä siihen puuttuvat muuttujat ja huomioimalla eri tilanteissa syntyvien vaihtoehtojen kasvava lukumäärä.

## Tärkeitä moniulotteisia jakaumia
* Moniulotteinen normaalijakauma eli Multinormaalijakauma
* Elliptinen jakauma
* Dirichlet-jakauma (jatkuva, multinomijakauman posteriorijakauma)
* Moniulotteinen Studentin t-jakauma
* Multinomijakauma (diskreetti, toisensa poissulkevien tapahtumien frekvenssit toistokokeessa)

## Lähteet