Merkezî limit teoremi

Merkezi limit teoremi büyük bir sayıda olan bağımsız ve aynı dağılım gösteren rassal değişkenlerin (eğer sonlu varyans değerleri bulunuyorsa) aritmetik ortalamasının, yaklaşık olarak normal dağılım (yani Gauss dağılımı) göstereceğini ifade eden bir teoremdir. Matematiksel bir ifadeyle, bir merkezi limit teoremi olasılık kuramı içinde bulunan bir zayıf yakınsama sonucu setidir. Bunların hepsi, birçok bağımsız aynı dağılım gösteren rassal değişkenlerin herhangi bir toplam değerinin limitte belirli bir "çekim gücü gösteren dağılıma" göre dağılım gösterme eğiliminde olduğu gerçeğini önerir.
Pratik gerçekte birçok anakütle, sonlu varyans gösteren dağılımlar ortaya çıkardıkları için, bu teorem normal olasılık dağılımının önemini açığa çıkartır.
Bu teoreminin kapsamını genişletip sonuçlarını genelleştiren eklere göre (Lindeberg koşulu, Lyapunov koşulu, Gnedenko durumu ve Kolmogorov durumu) sonlu varyans gösterme için mutlaka aynı dağılım gerekmemektedir.
Tarihçe
Tijms'in yazdığına göre:
{{Alıntı|Merkezi limit teoreminin tarihi gelişmesi çok enterasandır. Bu teoremin ilk şekli Fransız matematikçi Abraham de Moivre tarafından 1733'te yayınlanarak gayet dikkati çeken bir yazıda bulunmakta ve bu yazıda bir yansız madeni paranın yazı-tura atış sonuçların da kaç defa yazı gelme sayısının dağılımının bir normal dağılım ile yaklaşık olarak açıklanabileceğini ortaya çıkartmıştır. Bu gelişme zamanı için çok zor görünüp neredeyse unutulmuştur. Bu unutulmuş konu tanınmış Fransız matematikçisi Pierre-Simon Laplace'ın 1812'de yayınladığı çok tanınmış eseri Thoerie Analytique des Probabilites (Olasılıklar İçin Analitik Kuram)'''da yeniden ortaya çıkarılmıştır; Laplace, De Moivre'in buluşunu daha da geliştirerek binom dağılımlarının yaklaşık olarak normal dağılım ile ifade edilip hesaplanabileceği sonucunu ortaya atmıştır. Ancak De Moivre gibi Laplace gelişmeleri de yaşadığı çağda çok az dikkati çekmiştir. Sonunda 19. yüzyılın içinde merkezi limit teoreminin önemi anlaşılmış ve 1901 Rus matematikçisi Aleksandr Lyapunov bu teoremi genel bir şekilde açıklamış ve matematik olarak nasıl ortaya çıktığını çok kesin bir şekilde ispatlamıştır. Bugün merkezi limit teoremi olasılık kuramının en önemli ögesi, gayriresmi kralı, olduğu kabul edilmektedir."}}
Klasik merkezi limit teoremi
Merkezi limit teoremi olasılık kuramı için ikinci temel teorem olarak kabul edilmektedir. (Birinci temel teorem büyük sayılar yasasıdır.) , tane bağımsız ve aynı şekilde sonlu sayıda ve ortalamasıyla ve varyansıyla dağılım gösteren rassal değişkenler olsun. Merkezi limit teoremine göre, değişken sayısı artarak sonsuza yaklaştıkça, orijinal dağılım her ne şekilde olursa olsun, ortalaması ve varyansı olan, bir normal dağılıma yakınsama gösterir.
Rassal değişkenlerin ile ifade edilen toplamı şöyle verilsin:
ve
bir standart normal ortalamalı ve varyanslı standart normal dağılım olsun.
Bu yakınsama teoremine göre limitte, 'nin dağılımı olan dağılımı standart normal dağılımına yaklaşır.
Bu demektir ki; eğer, dağılımının yığmalı dağılım fonksiyonu ise o halde her reel sayısı için
veya,
olur. Burada
örneklem ortalaması olur.
Yillarca, büyük örneklem hacmi pratik olarak olarak kabul edilmekteydi. Fakat 1990'lı yıllarda yapılan araştırmalar ortaya çıkarmıştır ki bu pratik kural her zaman geçerli değildir. Anakütle ne kadar çok çarpıklık gösterirse gereken büyük örneklem hacminin gittikçe daha büyük olması gerekmektedir. Bu şekilde çarpıklık gösteren anakütleler pratikte çok nadir bulunabilirler. Bu pratik kurala dayanan ve çıkarımsal istatistik için kullanılan Student'in t dağılımı tablolarına ancak verilmektedir ama simülasyon ve bilgisayar animasyonu ile gösterilmiştir ki Student'in t dağılımı tabloları için seçilen en yüksek örneklem hacmi olan yeterli büyüklükte değildir. Marasinghe, M., Meeker, W., Cook, D. & Shin, T. S.(1994 August), "Using graphics and simulation to teach statistical concepts", American Statistician Association'un, Toronto, Kanada 1994 yılı için yıllık konferansına sunulan bir makale.
Merkezi limit teoreminin ispatı
Olasılık kuramı ve istatistik bilimleri için temel önem taşıyan merkezi limit teoremi'nin ispatı karakteristik fonksiyonu kullanarak kolayca yapılabilir. Bu ispat zayıf büyük sayılar yasasını ispat etmek için kullanılan yönteme çok benzemektedir.

Sıfır ortalamaya ve birim varyansa sahip herhangi bir rassal değişken alalım (yani ); Taylor teoremi kullanılarak, için karakteristik fonksiyonun şu olduğu bilinir:
Burada ifadesinden daha hızlı sıfıra yaklaşan herhangi bir için olur. ifadesini standardize edilmiş değeri yani olarak koyalım. Bu halde gözlem noktalarının standardize edilmiş ortalaması
olur. Karakteristik fonksiyonun basit niteliklerine dayanarak, için karakteristik fonksiyonun
olduğu çıkartılır. Bu limit ise açıkça standart normal dağılımı için karakteristik fonksiyondur ve merkezi limit teoremi, karakteristik fonksiyonların yakınsamasının dağılımın yakınsamasına eşit olduğunu bildiren Levy süreklilik teoremi kullanarak ispat edilmiş olur.
Limite yakınsama
Eğer üçüncü merkezsel moment E((X1 − μ)3) bulunuyorsa ve sonlu ise, yukarıda açıklanan yakınsalaşma Berry-Eseen teoremi ile yakınsalaşma hızı asgari 1/n1⁄2 olur. Yakınsalaşma normali monotoniktir yani 'nin enformasyon entropisi bir normal dağılım entropisine monotonik olarak yakınsalaşır.

Bir dağılımın toplama ile "düzgünleştirilmesi" için grafikler orijinal olasılık dağılım fonksiyonu ve diğer üç (dağılım fonksiyonların konvolusyonu ile elde edilen) toplama için şu grafiklerde görülür:
Merkezi limit teoreminin bir grafiksel temsili bir anakütlenin rassal ortalamalarının grafiği ile gösterilebilir. Bir An alalım ve bu bir rassal örneklem için örneklem ortalaması ve her bir örneklemden tek bir rassal değişken de Xn olsun:An = (X1 + ... + Xn) / n1den verilen bir örneklem hacmine kadar An ifadesini bulalım:A1 = (X1) / 1A2 = (X1 + X2)/ 2A3 = (X1 + X2 + X3)/3
Merkezi limit teoremi için ortalamaları örneklem hacmi 90a kadar yani 30 nokta olarak gösterilmesi gerekir. Eğer AnZn = (An − μ) / (σ / n1⁄2)
kullanılarak standartize edilirse, yukarıda verilen Zn değişkeninin aynısı ortaya çıkar ve bu bir standart normal dağılımına yakınsanır.
Merkezi Limit teoremi sonlu sayıda gözlemler için bir tahmin olarak kullanılması gerek bu sayılar normal dağılımın zirvesi etrafında toplanırsa iyi sonucdur; dağılımın kuyruklarında olan gözlemler için bu tahminin yeterince doğru olması için çok sayıda gözlem elde edilmesi gerekir.
Merkezi Limit Teoremi özellikle bağımsız ve aynen dağılım gösteren ayrık rassal değişkenler için uygulanır. Ayrık rassal değişken için bir toplama ile elde edilen değerde bir ayrık rassal değişkendir ve böylece bir seri ayrık rassal değişken için tek tek yığmalı olasılık dağılım fonksiyonu bir sürekli değişken için bir yığmalı olasılık dağılım fonksiyonua (yani normal dağılıma) yakınsalaşır.
Bu demektir ki eğer n sayıda bağımsız ve özdeş ayrık değişkenlerin toplamının gerçekleşmelerinin bir histogramını kurarsak, histogramı şekillendiren dikdörtgenlerin yukarı yüzlerinin merkezlerini birleştiren eğri, n' değerine yakınsalaştıkça, bir Gauss-tipi çan eğrisine gittikçe benzemeye başlar. Basit sadece iki değer alan bir ayrık değişkeni içeren binom dağılımı gösterdiği simüle edilen bir halde bile bu merkezi limit teoremi uygulandığı görülebilir.
Büyük sayılar yasasına ilişkisi
Hem büyük sayılar yasası hem de Merkezi Limit Teoremi daha genel bir problemin kısmı çözümleri olmaları çok olasıdır. Bu genel problem şöyle ifade edilebilir: "Eğer n sonsuz değere yakınsamaktaysa Sn ifadesinin yakınsama davranışı ne olur?". Matematik analizde bu çeşit sorulara yaklaşmak için en popüler matematik araç asimtotik seriler konumuna dayanır. f(n) fonsksiyonunun asimtotik genişletilmesin şu olduğunu kabul edelim:

Bu ifadenin her iki tarafını da ile bölersek ve limit alırsak, en fonksiyonunun en baştaki terimin değişme haddini temsil eden, genişletilmenin en yüksek-sıradaki katsayısı olan ifadesini üretiriz:
Formel olmadan bu şöyle açıklanabilir: "fonksiyon ile onu yakalsık olarak ifadenin arasındaki fark haddinde büyür". Bu kavramın ana sonucu şöyledir: fonksiyonu uygun bir yaklaşık veren normalize eden fonksiyonlar ile bölersek ve bu sonucun limitteki davranışına bakarsak, bu netice orijinal fonksiyonun limitteki davranışı hakkında epeyce çok açıklama yapar. Sn ifadesinin klasik olasılık teoride incelenmesinde de aynı usulde açıklama yapılmaktadır. Belirli düzenleme koşulları altında, eğer ifadesi olarak dağılım gösterirse, hem Büyük Sayılar Yasası yani
hem de Merkezi Limit Teoremi yani
şu formel olmayan ifadenin ilk iki sabitlerinin değerlerini verirler:
Eğer X1, X2, X3, ... bağımsız ve özdeş ifadeler ise ve belli bir için ifadesi geçerli ise, o zaman

olur ve böylece sıfır olmayan limitleyici davranışı temin eden bir normalize etme fonksiyonu hizmetini gören n nin en yüksek üssü olur. "Takrarlanan logaritma yasası" ise çok ilgi çekici olarak, normalize edici fonksiyonun, Büyük Sayılar Yasası için n ile Merkezi Limit Teoremi için ifadeleri arasında olduğunu bildirir ve bu iki teorem ifadesi de bu değerin iki tarafında bulunan limitleri gösterir demektedir.
Teoremin alternatif şekillerde ifade edilmesi.
Yoğunluk fonksiyonları
Pozitif rassal değişkenlerinin çarpımları
Lyapunov koşulu
Main: Lyapunov'un merkezsel limit teoremi.
Lindeberg koşulu
Uygulamalar ve örneğinler
Sinyal işleme