Kovarianca

parapamje| Shenja e kovariancës së dy ndryshoreve të rastit *X* dhe *Y*
Në teorinë e probabilitetit dhe statistikë, **kovarianca** është një masë e ndryshueshmërisë së përbashkët të dy ndryshoreve të rastit .  Nëse vlerat më të mëdha të njërës ndryshore kryesisht korrespondojnë me vlerat më të mëdha të ndryshores tjetër dhe e njëjta gjë vlen për vlerat më të vogla (d.m.th., ndryshoret priren të shfaqin sjellje të ngjashme), kovarianca është pozitive.  Në rastin e kundërt, kur vlerat më të mëdha të njërës ndryshore përkojnë kryesisht me vlerat më të vogla të tjetrës, (d.m.th., ndryshoret priren të shfaqin sjellje të kundërta), kovarianca është negative. Pra, shenja e kovariancës tregon prirjen në marrëdhënien lineare ndërmjet variablave. Madhësia e kovariancës është mesatarja gjeometrike e variancave që janë të përbashkëta për dy ndryshoret e rastit. Koeficienti i korrelacionit normalizon kovariancën duke e pjesëtuar me mesataren gjeometrike të variancave totale për dy ndryshoret e rastit.

## Përkufizimi 
Për dy ndryshore të rastit me vlera reale të shpërndara së bashku , X dhe Y, me momente të dyta të fundme, kovarianca përkufizohet si pritja matematike (ose mesatarja) e prodhimit të shmangieve të tyre nga pritjet e tyre matematike individuale:   \operatorname{cov}(X, Y) = \operatorname{E}{\big[(X - \operatorname{E}[X])(Y - \operatorname{E}[Y])\big]}ku \operatorname{E}[X] është pritja matematike e X, i njohur edhe si mesatarja e X . Kovarianca gjithashtu shënohet ndonjëherë \sigma_{XY} ose \sigma(X,Y), për analogji me variancën . Duke përdorur vetinë e linearitetit të pritjeve, kjo mund të thjeshtohet në pritjen matematike të prodhimit të tyre minus prodhimin e vlerave të tyre të pritura:

: 
\begin{align}
\operatorname{cov}(X, Y)
&= \operatorname{E}\left[\left(X - \operatorname{E}\left[X\right]\right) \left(Y - \operatorname{E}\left[Y\right]\right)\right] \\
&= \operatorname{E}\left[X Y - X \operatorname{E}\left[Y\right] - \operatorname{E}\left[X\right] Y + \operatorname{E}\left[X\right] \operatorname{E}\left[Y\right]\right] \\
&= \operatorname{E}\left[X Y\right] - \operatorname{E}\left[X\right] \operatorname{E}\left[Y\right] - \operatorname{E}\left[X\right] \operatorname{E}\left[Y\right] + \operatorname{E}\left[X\right] \operatorname{E}\left[Y\right] \\
&= \operatorname{E}\left[X Y\right] - \operatorname{E}\left[X\right] \operatorname{E}\left[Y\right],
\end{align}

por ky ekuacion është i ndjeshëm ndaj anulimit katastrofik.

Njësitë matëse të kovariancës \operatorname{cov}(X, Y) janë ato të X herë ato të Y . Në të kundërt, koeficientët e korrelacionit, të cilët varen nga kovarianca, janë një masë pa dimensione e varësisë lineare. (Në fakt, koeficientët e korrelacionit mund të kuptohen thjesht si një version i normalizuar i kovariancës. )

### Ndryshoret e rastit diskrete 
Nëse çifti i ndryshoreve të rastit (reale). (X,Y) mund të marrë vlerat (x_i,y_i) për i=1,\ldots,n, me probabilitete të barabarta p_i=1/n, atëherë kovarianca mund të shkruhet në mënyrë të njëvlerëshme për sa i përket mesatares \operatorname{E}[X] dhe \operatorname{E}[Y] si

: \operatorname{cov} (X,Y)=\frac{1}{n}\sum_{i=1}^n (x_i-E(X))(y_i-E(Y)).

Mund të shprehet gjithashtu në mënyrë të njëvlershme, pa iu referuar drejtpërdrejt mesatareve, si 

:  \operatorname{cov}(X,Y) = \frac{1}{n^2} \sum_{i=1}^n \sum_{j=1}^n \frac{1}{2}(x_i - x_j)(y_i - y_j) = \frac{1}{n^2} \sum_i \sum_{j>i} (x_i-x_j)(y_i - y_j). 

Në përgjithësi, nëse ka n realizime të mundshme të (X,Y), domethënë (x_i,y_i) por me probabilitete ndoshta të pabarabarta p_i për i=1,\ldots,n, atëherë kovarianca është

: \operatorname{cov} (X,Y)=\sum_{i=1}^n p_i (x_i-E(X)) (y_i-E(Y)).

## Shembuj 
Konsideroni 3 ndryshore të pavarura të rastit A, B, C dhe dy konstante q, r .

: 
\begin{align}
X &= qA + B \\
Y &= rA + C \\
\operatorname{cov}(X, Y)
&= qr \operatorname{var}(A)
\end{align}

Në rastin e veçantë, q=1 dhe r=1, kovarianca ndërmjet X dhe Y, është vetëm varianca e A .

Supozoni se X dhe Y kanë funksionin e masës së probabilitetit të përbashkët të mëposhtëm,  në të cilin gjashtë qelizat qendrore japin probabilitetet e përbashkëta diskrete f(x, y) nga gjashtë realizimet hipotetike (x, y) \in S = \left\{ (5, 8), (6, 8), (7, 8), (5, 9), (6, 9), (7, 9) \right\} :

X mund të marrë tre vlera (5, 6 dhe 7) ndërsa Y mund të marrë dy (8 dhe 9). Mesataret e tyre janë \mu_X = 5(0.3) + 6(0.4) + 7(0.1 + 0.2) = 6 dhe \mu_Y = 8(0.4 + 0.1) + 9(0.3 + 0.2) = 8.5 . Atëherë,

: \begin{align}
 \operatorname{cov}(X, Y)
  ={} &\sigma_{XY} = \sum_{(x,y)\in S}f(x, y) \left(x - \mu_X\right)\left(y - \mu_Y\right) \\[4pt]
  ={} &(0)(5 - 6)(8 - 8.5) + (0.4)(6 - 6)(8 - 8.5) + (0.1)(7 - 6)(8 - 8.5) +{} \\[4pt]
    &(0.3)(5 - 6)(9 - 8.5) + (0)(6 - 6)(9 - 8.5) + (0.2)(7 - 6)(9 - 8.5) \\[4pt]
  ={} &{-0.1} \; .
\end{align}

## Vetitë 
### Kovarianca me vetveten 
Varianca është një rast i veçantë i kovariancës në të cilën të dy ndryshoret janë identike (d.m.th., në të cilin një ndryshore merr gjithmonë të njëjtën vlerë si tjetra):  : 121 

: \operatorname{cov}(X, X) =\operatorname{var}(X)\equiv\sigma^2(X)\equiv\sigma_X^2.

### Kovarianca e kombinimeve lineare 
Nëse X, Y, W, dhe V janë ndryshore të rastit me vlera reale dhe a,b,c,d janë konstante me vlera reale, atëherë faktet e mëposhtme janë pasojë e përkufizimit të kovariancës:

: 
\begin{align}
  \operatorname{cov}(X, a) &= 0 \\
  \operatorname{cov}(X, X) &= \operatorname{var}(X) \\
  \operatorname{cov}(X, Y) &= \operatorname{cov}(Y, X) \\
  \operatorname{cov}(aX, bY) &= ab\, \operatorname{cov}(X, Y) \\
  \operatorname{cov}(X+a, Y+b) &= \operatorname{cov}(X, Y) \\ 
  \operatorname{cov}(aX+bY, cW+dV) &= ac\,\operatorname{cov}(X,W)+ad\,\operatorname{cov}(X,V)+bc\,\operatorname{cov}(Y,W)+bd\,\operatorname{cov}(Y,V)
\end{align}

Për një varg X_1,\ldots,X_n të ndryshoreve të rastit me vlera reale dhe konstante a_1,\ldots,a_n, ne kemi

: \operatorname{var}\left(\sum_{i=1}^n a_iX_i \right) = \sum_{i=1}^n a_i^2\sigma^2(X_i) + 2\sum_{i,j\,:\,i

### Pakorrelimi dhe pavarësia 
Ndryshoret e rastit, kovarianca e të cilave është zero quhen të pakorreluara .  Në mënyrë të ngjashme, përbërësit e vektorëve të rastit, matrica e kovariancës së të cilëve është zero në çdo hyrje jashtë diagonales kryesore quhen gjithashtu të pakorreluar.

Nëse X dhe Y janë ndryshore rasti të pavarura, atëherë kovarianca e tyre është zero.   Kjo rrjedh sepse nën pavarësinë,

: \operatorname{E}[XY]=\operatorname{E}[X] \cdot \operatorname{E}[Y]. 

E kundërta, megjithatë, në përgjithësi nuk është e vërtetë. Për shembull, X le të shpërndahet në mënyrë uniforme në [-1,1] dhe le të jetë Y=X^2 . E qarte, X dhe Y nuk janë të pavarur, por

: \begin{align}
 \operatorname{cov}(X, Y) &= \operatorname{cov}\left(X, X^2\right) \\
     &= \operatorname{E}\left[X \cdot X^2\right] - \operatorname{E}[X] \cdot \operatorname{E}\left[X^2\right] \\
     &= \operatorname{E}\left[X^3\right] - \operatorname{E}[X]\operatorname{E}\left[X^2\right] \\
     &= 0 - 0 \cdot \operatorname{E}[X^2] \\
     &= 0. 
\end{align}

## Llogaritja e kovariancës së kampionit 
Kovarianca e kampionit ndërmjet K ndryshoreve të bazuara në N vëzhgimet të secilës, të nxjerra nga një popullsi e pavëzhguar, jepen nga matrica K \times K \textstyle \overline{\mathbf{q}} = \left[q_{jk}\right] me hyrjet

: q_{jk} = \frac{1}{N - 1}\sum_{i=1}^N \left(X_{ij} - \bar{X}_j\right) \left(X_{ik} - \bar{X}_k\right),

që është një vlerësim i kovariancës ndërmjet ndryshores j dhe ndryshores k .

## Llogaritja numerike 
Kur \operatorname{E}[XY] \approx \operatorname{E}[X]\operatorname{E}[Y], ekuacioni \operatorname{cov}(X, Y) = \operatorname{E}\left[X Y\right] - \operatorname{E}\left[X\right] \operatorname{E}\left[Y\right] është i prirur për anulim katastrofik nëse \operatorname{E}\left[X Y\right] dhe \operatorname{E}\left[X\right] \operatorname{E}\left[Y\right] nuk llogariten saktësisht dhe kështu duhet të shmangen në programet kompjuterike kur të dhënat nuk janë qëndërzuar më parë.  Në këtë rast duhet të preferohen algoritmet numerikisht të qëndrueshme . 

## Zbatimet 
### Në gjenetikë dhe biologji molekulare 
Kovarianca është një matëse e rëndësishme në biologji . Vargje të caktuara të ADN-së ruhen më shumë se të tjerat midis specieve, dhe kështu për të studiuar strukturat dytësore dhe tretësore të proteinave, ose të strukturave të ARN-së, vargjet krahasohen në specie të lidhura ngushtë. Nëse gjenden ndryshime në vargje ose nuk gjenden fare ndryshime në ARN jokoduese (si p.sh. microARN ), vargjet janë gjetur të nevojshme për motive të zakonshme strukturore, të tilla si një lak ARN. Në gjenetikë, kovarianca shërben një bazë për llogaritjen e Matricës së Marrëdhënieve Gjenetike (GRM) (ndryshe thirret matrica e farefisnisë), duke mundësuar konkluzionet mbi strukturën e popullsisë nga kampioni pa të afërm të njohur, si dhe konkluzionet mbi vlerësimin e trashëgimisë së tipareve komplekse.

### Në ekonominë financiare 
Kovarianca luan një rol kyç në ekonominë financiare, veçanërisht në teorinë moderne të portofolit dhe në modelin e çmimit të aseteve kapitale . Kovarianca midis kthimeve të aseteve të ndryshme përdoren për të përcaktuar, sipas supozimeve të caktuara, shumat relative të aseteve të ndryshme që investitorët (në një analizë normative ) ose parashikohet të zgjedhin (në një analizë pozitive ) të zgjedhin të mbajnë në një kontekst diversifikimi .

### Në përpunimin e sinjalit 
Matrica e kovariancës përdoret për të kapur ndryshueshmërinë spektrale të një sinjali. 

### Në statistikë dhe përpunimin e imazhit 
Matrica e kovariancës përdoret në analizën e përbërësit kryesor për të reduktuar dimensionalitetin e veçorive në parapërpunimin e të dhënave .