Satunnaismuuttujien riippuvuus

**Satunnaismuuttujien riippuvuus** eli **stokastinen riippuvuus**  on todennäköisyyslaskennassa nimitys ilmiölle, jossa kahden satunnaismuuttujan saamat arvot ovat joko osittain tai kokonaan verrannollisia tai muuten riippuvaisia toistaan. Yleisessä tapauksessa toisistaan riippuvia satunnaismuuttujia voi olla useita. Satunnaismuuttujien riippuvuus voi olla seurausta niiden yhteisistä taustamekanismeista, joka vaikuttaa satunnaismuuttujien saamiin arvoihin. Näiden mekanismien yhteisvaikutus on siten *osittainen* eli *stokastinen riippuvuus*. Jos kaksi satunnaismuuttujaa ovat *riippumattomia*, ei niiden arvoihin vaikuta mitään yhteisiä mekanismeja. Jos kaksi satunnaismuuttujaa ovat täysin riippuvia toisistaan, määrää toisen satunnaismuuttujan arvo täysin toisen satunnaismuuttujan arvon, ja päinvastoin. Tätä riippuvuutta kutsutaan *funktionaaliseksi riippuvuudeksi*. Satunnaismuuttujien riippuvuus on ilmiönä sukua tapahtumien riippuvuudelle.

Satunnaismuuttujien välisen riippuvuuden mallintaminen vaatii niiden yhteisjakauman tarkastelua. Tällöin yhteisjakaumasta erotetaan eri satunnaismuuttujien suhteen ehdolliset reunajakaumat. Reunajakaumien avulla voidaan riippuvuuden laatua ja määrää mallintaa.

## Tapahtumien riippumattomuus

Kahden tapahtuman riippumattomuus tarkoittaa sitä, ettei tapahtumien todennäköisyydet riipu toisistaan. Merkitään tapahtumia A ja B ja lasketaan tapahtuman "tapahtuu A, kun tapahtuu myös B" ehdollinen todennäköisyys (merkitään P(A|B)). Vertailun vuoksi, lasketaan myös tapahtuman A todennäköisyys. Tapahtumat ovat toistaan riippumattomia, mikäli ehdollinen todennäköisyys ja kokonaistodennäköisyys ovat samat. Tapahtumalla B ei ole silloin vaikutusta tapahtuman A todennäköisyyteen. Yhtäsuuruudet tulisivat olla samat kummallakin tavalla ajateltuna eli
:P(A|B)=P(A) ja P(B|A)=P(B).
Mikäli edelliset todennäköisyydet eivät ole yhtäsuuret, ovat tapahtumat riippuvia toistaan.

Kun tapahtumat ovat riippumattomia toisistaan, voidaan tapahtuma "molemmat tapahtuu" (eli \scriptstyle A \text{ ja } B) laskea
:P(A \text{ ja } B)=P(A \cap B)=P(A)\cdot P(B).  (*riippumattomien tapahtumien kertolaskusääntö*)
Useamman riippumattoman tapahtuman todennäköisyys lasketaan vastaavasti
:P(A_1 \cap A_2 \cap ... \cap A_n)=P(A_1) \cdot P(A_2) \cdot\cdot\cdot P(A_n). 

Riippumattomuuden testaamiseen löytyy työläs keino. Jos halutaan varmistaa, ovatko kolme tapahtumaa riippumattomia keskenään, tulee testit tehdä pareittain ja kaikki kolme yhdessä. Seuraavat yhdistelmät tulisi tällöin toteutua:
:A \perp B \Leftrightarrow P(A \cap B)=P(A)\cdot P(B)
:A \perp C \Leftrightarrow P(A \cap C)=P(A)\cdot P(C)
:B \perp C \Leftrightarrow P(B \cap C)=P(B)\cdot P(C)
:P(A \cap B \cap C)=P(A)\cdot P(B)\cdot P(C)
Riippumattomuus toteutuu vastavasti useammalle tapahtumalle.

## Satunnaismuuttujien riippuvuus
### Riippumattomuus
Satunnaismuuttujat X ja Y ovat riippumattomia, jos yhden satunnaismuuttujan saama arvo ei vaikuta toiseen (muihin) satunnaismuuttujan arvoihin ollenkaan ja näin on myös toisen (muiden) satunnaismuuttujan suhteen. Satunnaismuuttujat ovat riippumattomia, mikäli kaikilla tapahtumien A_X \subseteq X ja B_Y \subseteq Y yhdistelmillä satunnaismuuttujien väliset ehdolliset todennäköisyydet ovat samat kuin todennäköisyydet *a priori*. Silloin 
:P(A_X|B_Y)=P(A_X) ja P(B_Y|A_X)=P(B_Y).

Tällöin diskreettien satunnaismuuttujien kaikki yksittäiset tapahtumat tulisivat olla riippumattomia keskenään eli pistetodennäköisyyksillä 
:P(X=x \land Y=y)=P(X=x)\cdot P(Y=y) 
eli käyttäen pistetodennäköisyysfunktion merkintöjä
:f_{XY}(x,y)=f_X(x)f_Y(y),
tai vaihtoehtoisesti diskreettien ja jatkuvien satunnaismuuttujien kaikki tapahtumat tulisivat olla vastaavasti riippumattomia keskenään
:P(X\le x \land Y\le y)=P(X\le x)\cdot P(Y\le y)
eli kertymäfunktiolla esitettynä
:F_{X,Y}(x,y)=F_X(x)F_Y(y). 
Tämä on kunkin yksittäisen satunnaismuuttujan jakauman ja niiden yhteisjakauman välinen yhtäsuuruusehto.

Jatkuvien satunnaismuuttujien tapaukessa sama pätee niiden tiheysfunktioille
: f_{X,Y}(x,y)=f_X(x)f_Y(y) 
ja niiden kertymäfunktiolle diskreetin tapauksen tapaan.

Jos satunnaismuuttujia on kolme, tutkitaan näiden riippumattomuuksia samaan tapaan kuin kolmen tapahtuman riippumattomuuksia. Tällöin tutkitaan riippumattomuus pareittain ja lopuksi kolmistaan. Kun kaikissa neljässä tapauksessa satunnaismuuttujat ovat riippumattomia, ovat *kaikki* satunnaismuuttujat keskenään riippumattomia. Jos tutkitaan n satunnaismuuttujan riippumattomuutta, käydään läpi kaikki mahdolliset kombinaatiot. Niitä on \tbinom{n}{n}+\tbinom{n}{n-1}+ \dots +\tbinom{n}{2} kappaletta.

### Funktionaalinen riippuvuus
Funktionaalinen riippuvuus viittaa täydelliseen riippuvuuteen, jossa kahden satunnaismuuttujan tapauksessa toisen arvon tunteminen mahdollistaa toisen arvon laskemisen. Tämä voidaan ilmaista yhtälöllä g(X,Y)=C. Lineaarinen riippuvuus voidaan kirjoittaa lineaarikombinaationa a_XX+a_YY=C.

Useamman satunnaismuuttujan tapauksessa yksi satunnaismuuttuja määräytyy täysin, kun muiden arvot saadaan ensin käyttöön. Riippuvuuden laatu voi vaihdella suuresti. Yleisin käytetty riippuvuus on lineaarinen, jossa lineaarikombinaatio
:a_1X_1+a_2X_2+...+a_nX_n = C 
liittää satunnaismuuttujien arvot toisiinsa. Tämän yleistys on mikä tahansa funktionaalinen riippuvuus
:g(X_1,X_2,...,X_n)=C. 

### Stokastinen riippuvuus
Satunnaismuuttujan riippuvuus voi olla osittaista siinä mielessä, ettei se ole täysin riippumatonta mutta ei myöskään täysin funktionaalisen riippuvaista. Tälle kiinnostavalle välimuodolle voidaan antaa nimeksi stokastinen riippuvuus, jossa sana stokastinen korostaa satunnaisuuden läsnäoloa.

## Riippuvuuden määrä
Kahden satunnaismuuttujan riippuvuutta voidaan mitata käyttämällä kovarianssia ja korrelaatiota. 

### Kovarianssi

Kahden satunnaismuuttujan X ja Y riippuvuutta voidaan mitata laskemalla niiden välinen kovarianssi \sigma_{XY}. Kovarianssin ja riippuvuuden välistä suhdetta voidaan valaista tutkimalla satunnaismuuttujan arvojen poikkeamista sen odotusarvosta. Satunnaismuuttujan X ja sen odotusarvon \mu_X erotus eli poikkeama on X-\mu_X. Poikkeama saa tasapuolisesti sekä positiivisia että negatiivisia arvoja. Poikkeamien summasta tulee keskimäärin nolla, joten poikkeamien odotusarvo yleisesti aina nolla. 

Kun kummankin satunnaismuuttujan poikkeamat kerrotaan keskenään (X-\mu_X)(Y-\mu_Y), on tulos riippumattomassa tapauksessa nolla. Mikäli satunnaismuuttujat riippuvat toisistaan, voi riippuvuus olla positiivista tai negatiivista. Riippuvuus on positiivista, kun sekä X että Y poikkeavat positiiviseen suuntaan yhdessä ja molemmat negatiiviseen suuntaan yhdessä. Poikkeamien tulo on tällöin aina positiivinen, koska tulontekijät ovat samanmerkkisiä. Jos X poikkeaa positiiviseen suuntaan, kun Y poikkeaa negatiiviseen suuntaan, on poikkeamien tulo negatiivinen. Sama tulos saadaan, kun ne poikkeavat päinvastaisiin suuntiin.

Yleistäen voidaan sanoa, että kun |\sigma_{XY}|>0, ovat satunnaismuuttuja riippuvia. Riippumattomuudelle sen sijaan ei riitä, että \sigma_{XY}=0, sillä tunnetaan tapauksia, jossa funktionaalinen riippuvuus aiheuttaa kovarianssille nolla-arvon. Kovarianssin arvon suuruus ei kerro, onko riippuvuus suurta vai pientä, sillä kovarianssin arvo riippuu myös satunnaismuuttujien varianssista. Riippuvuuden mittamiseen käytetäänkin korrelaatiota.

### Korrelaatio

Kovarianssin \sigma_{XY} arvosta voidaan päätellä luotettavasti vain riippuvuuden suunta. Riippuvuuden määrä selviää, kun kovarianssin arvosta puhdistetaan kummankin satunnaismuuttujan keskihajonnan vaikutus. Keskihajonta \sigma_X on arvoltaan varianssin \sigma_X^2 neliöjuuri eli \sigma_X=\sqrt{\sigma_X^2}. Korrelaation \rho_{XY} arvo lasketaan
:\rho_{XY}=\frac{\sigma_{XY}}{\sigma_X\sigma_Y}.
Korrelaation arvot vaihtelevat nyt suljetulla välillä -1 \le \rho_{XY} \le 1, eikä niillä ole mittayksikköä. Kun \rho_{XY}=\pm1 on riippuvuus lineaarista, kun |\rho_{XY}|  voi riippuvuuden todeta olevan stokastista. Arvosta nolla ei taaskaan voi vetää johtopäätöksiä siitä, että satunnaismuuttujat ovat riippumattomia. Sen vaihtoehdon mahdollisuutta voi tarkistaa käyttäen ehdollista todennäköisyyslaskentaa.

## Lähteet