Keskeinen raja-arvolause

Keskeinen raja-arvolause on toden­näköisyys­laskennan tulos, jonka mukaan keskiarvo riittävän suuresta määrästä toisistaan riippumattomia satunnais­muuttujia, joista kullakin on hyvin määritelty odotusarvo ja varianssi, on tietyin edellytyksin likipitäen normaalisti jakautunut riippumatta kunkin satunnaismuuttujan omasta jakaumasta.
Lausetta voi havainnollistaa muodostamalla suuren määrän havaintoja käsittävä otos, jossa kukin havainto on generoitu satunnaisesti muista havaintokerroista riippumatta. Tämän jälkeen lasketaan otoksen eli havaintojen keskiarvo. Jos tämä toistetaan monta kertaa, keskeisen raja-arvo­lauseen mukaan niiden keskiarvo jakautuu toden­näköisesti sitä tarkemmin normaali­jakauman eli niin sanotun kellokäyrän mukaisesti. Esimerkiksi jos kolikkoa heitetään erittäin monta kertaa, toden­näköisyys saada kruuna tietyllä määrällä kertoja noudattaa normaali­jakaumaa, jonka odotusarvo on puolet heittojen lukumäärästä.
Keskeisestä raja-arvo­lauseesta on monia muunnelmia. Sen kauimmin tunnettu muoto edellyttää, että satunnais­muuttujat, joiden keskiarvoa tarkastellaan, ovat samoin jakautuneet. Satunnais­muuttujien keskiarvo kuitenkin suppenee kohti normaali­jakaumaa tietyin edellytyksin useissa sellaisissakin tapauksissa, joissa ne eivät ole samoin jakautuneet eivätkä edes toisistaan riippumattomat.
Yleisimmässä mielessä keskeiset raja-arvolauseet ovat koko joukko toden­näköisyys­laskennan raja-arvo­lauseita. Ne kaikki ilmaisevat eri tavoin, että monen riippumattoman ja identtisesti jakautuneen tai tietyin edellytyksin myös tavalla tai toisella toisistaan riippuvankin satunnais­muuttujan summalla on taipumus noudattaa jakaumaa, joka kuuluu pieneen joukkoon attraktorijakaumaa. Kun riippumattomien ja identtisten jakautuneiden satunnais­muuttujien varianssi on äärellinen, tämä attraktori­jakauma on normaali­jakauma. Sitä vastoin jos muodostetaan sellaisten satunnais­muuttujien summa, joilla on potenssi­lain mukainen, funktion |x|-α-1 mukaisesti (0 < α < 2) pienenevä "häntä" ja joiden varianssi näin ollen on ääretön, se suppenee kohti alfa-vakaata jakaumaa, jonka vakausparametri muuttujien lukumäärän kasvaessa on α
Tilastotieteessä keskeisellä raja-arvolauseella on perustava merkitys käsiteltäessä suuria otoksia jostakin aineistosta. Sen sijaan pieniä otoksia käsiteltäessä se ei ole yhtä käyttö­kelpoinen.

Yleistetty lause

Keskeinen raja-arvolause sanoo, että riippumattoman ja identtisesti jakautuneiden satunnaismuuttujien summa, kun niillä on äärellinen varianssi, lähestyy suurella todennäköisyydellä normaalijakaumaa, kun muuttujien lukumäärä kasvaa. Gnedenko ja Kolmogorov keksivät lauseelle
yleistyksen, joka koskee sellaisiakin satunnaismuuttujia, joiden jakaumat ääripäissään pienenevät potenssilain
mukaan kuten  |x|⁻ᵃ⁻¹, missä 0 < a < 2, ja joiden varianssi tämän vuoksi on ääretön; tällainen on
esimerkiksi Pareton jakauma. Tällaisissakin tapauksissa satunnaismuuttujien summa suppenee kohti jotakin
vakaata jakaumaa , kun yhteenlaskettavien lukumäärä kasvaa. Jos a > 2, tämä summa suppenee kohti vakaata jakaumaa, jonka vakausparametri on arvoltaan 2, toisin sanoen Gaussin jakaumaa.

Suppeneminen kohti raja-arvoa

Keskeinen raja-arvolause antaa vain asymptoottisen jakauman. Äärelliselle äärelliselle määrälle havaintoja se antaa järkevän likiarvon vain lähellä normaalijakauman huippua; tarvitaan erittäin suuri määrä havaintoja, jotta tulos pätisi myös jakauman kummassakin ääripäässä.
Jos kolmas keskeinen momentti E((X₁ - μ)³) on olemassa ja se on äärellinen, mainittu suppeneminen on tasaista ja suppenemisvauhti on vähintään luokkaa 1/n1/2 (katso Berryn-Esseenin lause). Steinin metodia voidaan käyttää, paitsi keskeisen raja-arvolauseen todistamiseen, myös suppenemisvauhdin arvioimiseen valitulla mitta-asteikolla.
Suppeneminen normaali­jakaumaa kohti on mono­tonista siinä mielessä, että Zₙ:n entropia kasvaa mono­tonisesti kohti normaali­jakauman entropiaa.
Keskeinen raja-arvolause pätee erityisesti myös riippumattomien ja identtisesti jakautuneiden diskreettien satunnais­muuttujien keskiarvolle. Diskreettien satunnais­muuttujien summa on yhä diskreetti satunnais­muuttuja, joten tässä on kysymyksessä jono diskreettejä satunnais­muuttujia, joiden kertymäfunktio suppenee kohti jatkuvan jakauman, nimittäin normaalijakauman kertymäfunktiota. Tämä merkitsee, että jos n riippumattoman identtisen satunnais­muuttujan toteutuneista summista laaditaan histogrammi ja piirretään käyrä, joka yhdistää histo­grammin muodostavien suorakulmioiden ylä­reunojen kesk­ipisteet, tämä käyrä muistuttaa muodoltaan Gaussin käyrää sitä tarkemmin, mitä suurempi luku n on. Tätä tulosta sanotaan de Moivren–Laplacen lauseeksi. Esimerkiksi jos lasketaan sellaisten satunnais­muuttujien summa, joista kullakin on vain kaksi mahdollista arvoa, tämä summa noudattaa binomijakaumaa, joka lähestyy muodoltaan normaali­jakaumaa sitä enemmän, mitä enemmän näitä yhteen­laskettuja satunnais­muuttujia on.

Tiheysfunktiot

Kahden tai useamman riippumattoman muuttujan summan tiheysfunktio on näiden muuttujien tiheyksien konvoluutio, jos niillä on tiheys­funktiot. Niinä keskeinen raja-arvolauseen voidaan tulkita koskevan näiden tiheysfunktioiden ominaisuuksia konvoluutiossa: tiheys­funktio­joukon konvoluutio lähestyy normaalijakaumaa, kun tiheys­funktioiden lukumäärä kasvaa rajatta. Tällaiset tiheys­funktioiden suppenemista koskevat, niin sanotut lokaalit keskeiset raja-arvolauseet kuitenkin pätevät vain tietyin edellytyksin, jotka ovat ankarammat kuin keskeisen raja-arvolauseen edellä esitetyissä versiossa.

Karakteristiset funktiot

Koska konvoluution karakteristinen funktio on siinä mukana olevien tiheysfunktioiden karakterististen funktioiden tulo, keskeisestä raja-arvolauseesta on olemassa myös niitä koskeva muoto: tiheysfunktiojoukon karakterististen funktioiden tulo lähestyy normaalijakauman karakteristista funktiota, kun tiheysfunktioiden lukumäärä kasvaa rajatta, edellä mainituilla edellytyksillä.  Tämän tarkentamiseksi on karakterististen funktioiden argumentteja on kuitenkin muunnettava sopivalla skaalaustekijällä.
Vastaava tulos voidaan esittää myös Fourier-muunnoksille, sillä karakteristinen funktio on
oleellisesti Fourier-muunnos.

Positiivisten satunnaismuuttujien tulo

Lukujen tulon logaritmi on tulon tekijöiden logaritmien summa. Sen vuoksi sellaisten satunnais­muuttujien tulon logaritmi, joista kukin lähestyy normaalijakaumaa mutta voi saada vain positiivisia arvoja, lähestyy log-normaalijakaumaa. Monet fysikaaliset suureet (erityisesti massa tai pituus, jotka eivät voi olla negatiivisia), ovat monien satunnaisten tekijöiden tuloja, jolloin nämä suureet monissa tilanteissa noudattavat log-normaalijakaumaa.
Sen sijaan että satunnaismuuttujien summaa koskeva keskeinen raja-arvolause edellyttää äärellistä varianssia, vastaava lause niiden tulolle edellyttää, että tiheysfunktioiden neliöt ovat integroituvia.

Alijonot

Lause.  Olkoot satunnaismuuttujat X₁, X₂, … ∈ L₂(O) sellaisia, että Xₙ → 0 heikosti joukossa L₂(O) ja Xₙ² → 1 heikosti joukossa L₁(O). Silloin on olemassa sellaiset kokonaisluvut n₁ < n₂ < …, että  suppenee kohti jakaumaa N(0, 1), kun k kasvaa rajatta.

Satunnaiskulku kidehilassa

Keskeisestä raja-arvolauseesta on olemassa myös versio, joka koskee yksinkertaista satunnaiskulkua kidehilassa. Kidehilan oletetaan olevan ääretön Abelin verkko, joka peittää äärellisen verkon. Tätä tulosta on käytetty kiteiden rakenteiden kuvaamiseen.

Yksinkertainen esimerkki

Yksinkertainen esimerkki keskeisestä raja-arvolauseesta saadaan heittämällä suurta määrää samanlaisia, "painottamattomia" noppia. Saatujen silmälukujen summa tai vaihtoehtoisesti keskiarvo noudattaa tällöin likimain normaali­jakaumaa. Koska reaalimaailman suureet ovat usein monien havaitsematta jääneiden satunnais­ilmiöiden painotettuja keskiarvoja, keskeinen raja-arvolause osaltaan myös selittää, miksi normaalijakauma esiintyy mitä erilaisimmissa ilmiöissä. Siihen perustuu myös normaali­jakauman käyttö likiarvona suuria otoksia koskevia kontrolloiduissa tilastollisissa kontrolloiduissa kokeissa.

Regressioanalyysi

Regressioanalyysi ja varsinkin tavallinen pienimpien neliösummien menetelmä osoittavat, että jos jokin
muuttuja ei ole riippumaton, se yleensä riippuu jonkin funktion mukaisesti yhdestä tai useammasta riippu­mattomasta muuttujasta, joihin lisäksi liittyy korjaustermi. Useat regressioon perustuvat tilastolliset päätelmät edellyttävät, että korjaustermi on normaalisti jakautunut. Tämä oletus voidaan perustella olettamalla, että korjaustermi itse asiassa on hyvin monien riippumattomien korjaustermien summa; vaikka yksittäiset korjaustermit sinänsä eivät olisikaan normaalisti jakauteet, keskeisen raja-arvolauseen perusteella niiden summaa voidaan kuitenkin approksimoida normaalijakaumalla.

Historia

Käsityksen normaalijakauman luonteesta eräänlaisena monen tekijän yhteisvaikutusta kuvaavana rajajakaumana esitti eräissä erikoistapauksissa jo Abraham de Moivre vuonna 1733. Keksintö oli tuolloin pitkälti aikaansa edellä, ja se lähes unohdettiin, kunnes kuuluisa ranskalainen matemaatikko Pierre-Simon Laplace palasi asiaan vuonna 1812 julkaistussa teoksessa Théorie analytique des probabilités. Laplace kuitenkin onnistui todistamaan lauseen vain binomijakauman tapauksessa. Mutta myöskään Laplacen keksintö ei hänen omana aikanaan saanut paljonkaan huomiota. Vasta 1800-luvun lopulla keskeisen raja-arvolauseen merkitys alettiin yleisesti ymmärtää, ja vuonna 1901 venäläinen matemaatikko Aleksandr Ljapunov määritteli sen yleisin käsittein ja todisti täsmällisesti, miten se matemaattisesti toimii.  Nykyisin keskeinen raja-arvolause yhdessä suurten lukujen lain kanssa muodostaa perustan koko matemaattiselle tilastotieteelle.
Francis Galton kuvaili keskeisen raja-arvolauseen merkitystä seuraavasti:
»Tunnen tuskin mitään, mikä siinä määrin olisi omiaan kiehtomaan mielikuvitusta kuin se ihmeellinen kosminen järjestys, jonka "virheen frekvenssin laki" ilmaisee. Kreikkalaiset olisivat personifioineet lain ja pitäneet sitä jumalana, jos olisivat tunteneet sen. Se hallitsee tyynesti ja itse täysin syrjässä pysytellen keskellä villeintä sekaannusta. Mitä runsaampi väkijoukko ja mitä suurempi näennäinen sekasorto, sitä täydellisemmin se vallitsee. Se on Järjettömyyden ylin laki. Missä tahansa onkin käsillä suuri joukko kaoottisia alkeisvoimia, jotka ohjautuvat niiden suuruusluokkien mukaisessa järjestyksessä, odottamaton ja mitä kaunein säännöllisyyden muoto osoittautuu olleen piilevänä koko ajan.» 
Termin "keskeinen raja-arvolause" (saks. zenrtaler Grenzwertsatz) otti ensimmäisenä käyttöön George Pólya vuonna 1920 erään tutkielmansa nimessä. Pólya nimitti lausetta "keskeiseksi" sen suuren merkityksen vuoksi, joka sillä todennäköisyysteoriassa on. Le Camin mukaan todennäköisyyslaskennan ranskalainen koulukunta kuitenkin tulkitsee sanan "keskeinen" viittaavan siihen, että lause kuvaa jakauman keskikohdan, ei sen ääripäiden käyttäytymistä. Pólyan vuonna 1920 julkaiseman tutkielman yhteenvedossa sanotaan:
Gaussin todennäköisyystiheyden 1 = e-x² esiintyminen toistokokeissa ja mittausvirheissä, jotka saadaan yhteistuloksena hyvin monista ja hyvin pienistä virhelähteistä, sekä diffuusioprosesseissa ja niin edelleen voidaan tunnetusti selittää samalla raja-arvolauseella, jolla on keskeinen osa toden­näköisyys­laskennassa. Tämän raja-arvolauseen keksijäksi pitää nimetä Laplace; luultavaa on, että sen täsmällisen todistuksen esitti ensimmäisenä Tšebyšov, ja terävin löydettävissä oleva muoto, jonka tunnen, on eräässä Lpapunovin artikkelissa.  [...]
Yleisimmässä muodossaan lauseen todisti suomalainen matemaatikko Lindeberg vuonna 1922. Saman tuloksen todisti myöhemmin Lindebergin todistuksesta tietämättä myös Alan Turing vuonna 1934. Vasta lähetettyään tutkielmansa Cambridgen yliopistoon tarkastettavaksi hän sai tietää, että se oli jo aiemmin todistettu, minkä vuoksi Turingin tutkielmaa ei koskaan julkaistu.
Eräs Andreas Haldin laatima artikkeli matemaattisen tilasto­tieteen historiasta sisältää myös perusteellisen esityksen keskeisen raja-arvolauseen historiasta. Siinä kerrotaan yksityiskohtaisesti Laplacen sekä myös Cauchyn, Besselin ja Poissonin keksinnöistä. Hans Fischer on laatinut asiasta kaksi historiallista esityistä, joista ensimmäinen kuvaa kehitystä Laplacesta Cauchyyn, jälkimmäinen von Misesin, Pólyan, Lindebergin, Lévyn ja Cramérin tutkimuksia 1920-luvulla.  Le Cam on kuvaillut kehitystä vuoden 1935 aikoihin. Bernstein on myös laatinut lauseen historiasta esityksen, joka keskittyy Pafnuty Tšebyšovin ja hänen oppilaidensa Andrei Markovin ja Aleksandr Ljapunovin töihin, jotka johtivat keskeisen raja-arvolauseen ensimmäiseen yleisillä ehdoilla päteviin todistuksiin.