Analýza hlavných komponentov

Analýza hlavných komponentov (skratka: AHK) alebo analýza základných komponentov (, skratka: PCA) je matematická štatistická metóda, ktorá využíva ortogonálnu transformáciu na to, aby previedla prvky množiny pozorovaní, u ktorých je možné, že sú korelované, na prvky takej množiny hodnôt, ktoré sú lineárne nekorelované. Tieto sa potom označujú ako hlavné komponenty alebo základné komponenty (angl. principal components).
Matematicky je analýza hlavných komponentov takmer to isté ako singulárny rozklad (iné názvy: singulárny rozklad matice, rozklad na singulárne hodnoty, dekompozícia singulárnej hodnoty; , skratka: SVD).
Pri analýze hlavných komponentov ide teda o to, že hľadáme takú množinu lineárnych kombinácií pôvodných premenných (pozorovaní), ktorá zachováva čo najväčšie množstvo informácií o pôvodných premenných (pozorovaniach) a zároveň jej dimenzia bude menšia alebo nanajvýš rovná ako dimenzia pôvodnej množiny (počet prvkov novej množiny bude menší alebo nanajvýš rovný ako počet prvkov pôvodnej množiny). Týmto postupom sa docieli to, že bude možné študovať daný štatistický problém v podpriestore s menšou dimenziou, čo má veľký význam pri ďalšej analýze štatistického súboru (testovanie hypotéz, hľadanie oblastí spoľahlivosti, grafické znázorňovanie pozorovaní, a pod.).
Počet hlavných komponentov je teda vždy menší alebo nanajvýš rovný pôvodnému počtu prvkov. Ortogonálna transformácia, ktorá sa pri tejto metóde používa, je definovaná tak, aby mal prvý hlavný komponent najväčšiu varianciu spomedzi všetkých možných lineárnych kombinácii vektora pozorovaní.
Metódu analýzy hlavných komponentov navrhol v roku 1901 anglický matematik Karl Pearson a v roku 1933 ju zovšeobecnil americký matematik Harold Hotelling.
Definícia.
Uvažujme "p"-rozmerný náhodný vektor formula_1, ktorého kovariančnú maticu označme formula_2 (táto matica je štvorcová typu formula_3 a kladne semidefinitná). Podľa Jordanovej spektrálnej dekompozičnej vety o symetrických maticiach vieme, že každú symetrickú štvorcovú maticu môžeme zapísať v nasledovnom tvare:
formula_4
Kde:
Strednú hodnotu vektora formula_14 označme formula_15. Potom náhodný vektor formula_16, ktorý je definovaný nasledujúcim vzťahom:
formula_17
nazývame vektorom hlavných komponentov náhodného vektora formula_14.
Pre strednú hodnotu a kovariančnú maticu vektora formula_16 platí nasledovné:
Zložky vektora sú nekorelované a pre disperzie týchto zložiek platí, že: formula_22.
Jednotlivé zložky vektora formula_16 sa nazývajú hlavné komponenty, teda pre formula_24 je náhodná premenná tvaru:
formula_25
"k"-ty hlavný komponent náhodného vektora formula_14.
Vlastnosti.
Základné vlastnosti hlavných komponentov sú nasledovné:
Kde formula_35 a formula_36 je "k", "l"-ty prvok matice formula_37 a formula_38.
Prvý hlavný komponent formula_39 náhodného vektora formula_40 má najväčšiu disperziu spomedzi všetkých normovaných lineárnych kombinácií prvkov vektora formula_40. Matematicky môžeme túto vlastnosť zapísať nasledovne:
formula_42
kde formula_43 je ľubovoľný "p"-rozmerný vektor normy 1.
Pre druhý a každý ďalší hlavný komponent, teda pre formula_44, má "i"-ty hlavný komponent formula_45 náhodného vektora formula_14 najväčšiu disperziu spomedzi všetkých tých normovaných lineárnych kombinácií prvkov vektora formula_14, ktoré sú nekorelované s hlavnými komponentmi formula_48.
Hlavné komponenty sú závislé od mierky, v ktorej sa vyskytujú jednotlivé premenné. Teda máme štatistický súbor, ktorý obsahuje rôzne premenné, pričom niektoré sú merané napríklad v metroch, iné v kilometroch, a ďalšie napríklad v sekundách. Hlavné komponenty sa v tomto prípade zmenia. Preto sa v praxi niekedy pristupuje k tzv. štandardizácii premenných, čo znamená, že sa na odhady vektorov hlavných komponentov namiesto výberovej kovariančnej matici používa výberová korelačná matica. Po aplikovaní tejto metódy dostaneme vektory výberových hlavných komponentov, ktoré nezávisia od mierky.
Z teoretického pohľadu je však najvhodnejšie použiť metódu analýzy hlavných komponentov v takých prípadoch, kedy sú jednotlivé premenné skúmaného štatistického súboru rovnakého charakteru (teda boli zmerané v rovnakých jednotkách).