Kovarianssi

Kovarianssi on todennäköisyyslaskennassa ja tilastotieteessä kahden satunnaismuuttujan välisen riippuvuuden mitta. Se kuvaa, kuinka läheisesti muuttujat vaihtelevat yhdessä. Yksinkertaistaen voidaan havainnollistaa, että kovarianssi saa positiivisen arvon, kun satunnaismuuttujan arvot jäävät samalle puolelle odotusarvoihinsa nähden, ja vastaavasti negatiivisen arvon, kun niiden arvot jäävät eri puolille odotusarvoihinsa nähden. Kovarianssi on yhteisjakauman toinen keskusmomentti, jonka yksiköksi eli dimensioksi tulee kummankin satunnaismuuttujan yksiköiden tulo. Momentin käsitteeseen liittyy tulkinta, että kovarianssi on niin sanotun yhteisjakauman "todennäköisyysmassan painopisteen" formula_1 ympärillä tapahtuvan vaihtelun mitta. Korrelaatio on kovarianssin normalisoitu tunnusluku, joka on puolestaan yksikötön.
Todennäköisyyslaskennassa kovarianssi on yhteisjakauman tunnusluku, kun taas tilastolaskennassa kovarianssi on todennäköisyyslaskennan tunnusluvun estimaatti.
Määritelmä ja merkinnät.
Matemaattisesti kovarianssi formula_2 on määritelty kahden reaaliarvoisen satunnaismuuttujan formula_3 ja formula_4 avulla
 formula_5
missä formula_6 ja formula_7 ovat vastaavasti satunnaismuuttujien odotusarvot. Kovarianssi voidaan merkitä erilaisilla vaihtoehtoisilla tavoilla, kuten esimerkiksi
formula_8 
Yhteisjakaumassa voi esiintyä myös merkinnät formula_9 ja formula_10. Ne esittävät satunnaismuuttujien keskihajontoja formula_11 ja formula_12.
Diskreetit satunnaismuuttujat.
Diskreetin satunnaismuuttujaparin kovarianssi lasketaan 
formula_13 
missä formula_14 on yhteisjakauman pistetodennäköisyysfunktio.
Jatkuvat satunnaismuuttujat.
Jatkuvan satunnaismuuttujaparin kovarianssi on taas 
formula_15 
missä formula_14 on yhteisjakauman tiheysfunktio.
Ominaisuuksia.
Rinnakkaiskaavan johtaminen.
Yleisessä tilanteessa satunnaismuuttujat ovat toisistaan riippuvia jossakin mielessä. Silloin kovarianssi voidaan kehittää edelleen hyödyntämällä odotusarvo-operaattorin tunnetut ominaisuudet:
formula_17
Riippumattomuus.
Jos satunnaismuuttujat ovat riippumattomia, saadaan odotusarvoksi
formula_18
Yleisen kovarianssin kehitetystä lausekkeesta tulee silloin
formula_19
Siten, jos satunnaismuuttujat ovat riippumattomia toisistaan, saadaan kovarianssiksi nolla. Päinvastainen ei pidä aina paikkaansa, sillä kovarianssin ollessa nolla eivät satunnaismuuttujat aina ole riippumattomia toisistaan.
Arvojoukko.
Kovarianssin yksikkö määräytyy satunnaismuuttujien tulosta. Koska korrelaation arvo jää välille formula_20, saadaan kovarianssin arvolle väli formula_21, missä formula_22 on keskihajontojen tulo.
Päättelysääntöjä.
Kovarianssille voidaan johtaa seuraavia laskusääntöjä (formula_23 ovat reaalivakioita):
 formula_24
 formula_25 eli formula_26 (varianssi)
 formula_27 (symmetrisyys)
 formula_28 (kertoimien ulosotto)
 formula_29 (vakionlisäys)
 formula_30 (summan kovarianssi)
 formula_31 (lineaarikombinaatiot)
 formula_32 (useiden satunnaismuuttujien summat)
Tilastollinen kovarianssi.
Arvioitaessa kahden tilastomuuttujan kovarianssia, käytetään estimaattorina lauseketta
formula_33 
missä otoksen suuruus on formula_34 ja otoksen muuttujien keskiarvot ovat formula_35 ja formula_36. Usein kuitenkin jaetaan summa otoksen suuruutta yhtä pienemmällä luvulla (vapausaste)
formula_37 
Satunnaisvektorit.
Kun "X" ja "Y" ovat "n"- ja "m"-ulotteisia pystyvektoreita, "n x m"-ulotteinen kovarianssimatriisi on määritelty:
 formula_38
Matriisit "cov(X,Y)" ja "cov(Y,X)" ovat toistensa transpooseja. Kun "X" on vektori, matriisia "cov(X,X)" sanotaan "X":n kovarianssimatriisiksi tai pidemmin varianssi-kovarianssi-matriisiksi.
Korrelaatiokerroin.
Kovarianssilla voidaan mitata satunnaismuuttujien riippuvuuksia, mutta satunnaismuuttujien keskihajonnat vaikuttavat myös kovarianssin arvoon. Tuloksesta voidaan puhdistaa keskihajontojen vaikutukset jakamalla kovarianssi niillä, jolloin saadaan uusi riippuvuuden mitta korrelaatiokerroin
formula_39 
Sen arvot vaihtelevat välillä formula_40 eikä sillä ole mittayksikköä.