Normal dağılım

Normal dağılım, aynı zamanda Gauss dağılımı veya Gauss tipi dağılım olarak isimlendirilen, birçok alanda pratik uygulaması olan, çok önemli bir sürekli olasılık dağılım ailesidir.Bu dağılım ailesinin her bir üyesi sadece iki parametreyle tam olarak tanımlanabilir: Bunlar konum gösteren ortalama (μ, aritmetik ortalama) ve ölçek gösteren varyans (σ2, "yayılım")dır.Standart normal dağılım, ortalama değeri 0 ve varyans değeri 1 olan normal dağılım ailesinin tek bir elemanıdır. Carl Friedrich Gauss bu dağılımlar grubu ile, astronomik verileri analiz etmekte iken, ilgilenmiş ve bu dağılım için olasılık yoğunluk fonksiyonunu ilk defa tanımlamıştır. Bu olasılık fonksiyonunun grafiği, bir çana benzediği için çoğu kez çan eğrisi olarak da anılmaktadır.Doğa ve davranış bilimleri içinde bulunan birçok fenomenin niceliksel modeli yapılmasında normal dağılımın kullanılmasına neden merkezsel limit teoreminin uygulanmasından doğmaktadır. Birçok psikolojik ölçümler ve fiziksel fenomen normal dağılım kullanılarak çok iyi yaklaşık olarak açıklanmaktadır. Bu fenomenlerin altında yatan mekanizmalar çoğu zaman bilinmemekte fakat normal dağılım modelinin açıklamada uygulanmaktadır. Bunun pratik yaklaşımın teorik olarak savunması ise her bir reel gözlemin oluşması için geri planda çok sayıda birbirinden bağımsız etkilerin ayrı ayrı toplam olarak katkıda bulundukları varsayımıdır.Normal dağılım istatistik biliminin birçok alanında kullanılmaktadır. Örneğin örneklem ortalaması için örnek dağılımı, örneğin kaynağı olan anakütle için dağılımın normal olmadığı gayet açık olsa bile, yaklaşık olarak normal dağılım göstermektedir. Bunun yanında, değerleri bilinen ortalaması ve varyansı olan bütün dağılımlar içinde enformasyon entropisini maksimum yapan dağılımın normal olduğu ispat edilmiştir. Böylece örnek ortalaması ve varyansı ile özetlenen her veri için bilinmeyen kaynak dağılımı olarak normal dağılımı kullanmak gayet doğal bir yaklaşım olması çok uygun bir davranıştır. İstatistikte kullanılan dağılımlar aileleri arasında normal dağılım pratikte en çok kullanılanıdır ve birçok istatistiksel test, normal dağılımın varolduğu varsayımına dayanılarak geliştirilmiştir ve kullanılmaktadır. Olasılık kuramı içinde birkaç sürekli olasılık dağılımları ve ayrık olasılık dağılımlarının limite giden dağılımları yani rassal değişkenlerin yakınsama analizinde kullanılmaktadır.İstatistik ve olasılığın önemli dağılımlarından biri olan normal dağılım, ilk olarak 1733'te Abraham de Moivre tarafından yayınlanan bir yazıda ilk ortaya çıkartılmıştır ve  1738'de yayınlanan The Doctrine of Chances (Şanslar Doktrini) adlı kitabının ikinci baskısında p değişmemek koşuluyla n değerinin artısıyla binom dağılımının limit şekli yaklaşım olarak gösterilmiştir. De Moivre'in bu sonucu Laplace tarafından 1812'de bastırılan Analytical Theory of Probabilities (Olasılıklar İçin Analitik Teori) geliştirilmiştir ve bu sonuç şimdi de Moivre-Laplace teoremi olarak isimlendirilmektedir.Laplace normal dağılımı incelemekte olduğu deneylemelerde hataların analizi konusunda uygulamıştır. 1805'te Legendre çok önemli olan en küçük kareler yöntemini ortaya atmıştır. Gauss, bu yöntemi1794'ten beri kullandığını iddia etmiştir ama en kesin surette hataların normal dağılımı varsayımı ile birlikte yayınladığı eser 1809'dadır.Çan eğrisi teriminin ilk kullanılışı Jouffret tarafından 1875'te bir bağımsız parçalardan oluşan ikideğişirli normal hakkında yazıda çan yüzeyi teriminin kullanmasına kadar götürülebilir. Normal dağılım sözcüğü iseCharles S. Peirce, Francis Galton ve Wilhelm Lexis tarafından ayrı ayrı 1875 civarlarında ortaya atılmıştır.Bu dağılıma normal adı vermek bazen hatalı görülmektedir; çünkü bazı hallerde diğer dağılımlar pratiğe çok daha uygunluk göstermektedirler.Bir olasılık dağılımını çeşitli şekilde matematiksel ifadelerle karakterize etmek mümkündür. Bunlar arasında göze en iyi hitap edeni olasılık yoğunluk fonksiyonu ile olur. Dağılımın özellikleri ayrıca birikimli dağılım fonksiyonu,momentler, kümülantlar, karakteristik fonksiyon, moment üreten fonksiyon, kümülant üreten fonksiyon ve Maxwell'in teoremi vasıtasıyla da belirtilebilir. Bu kavramların ayrıntıları için olasılık dağılımları maddesine bakınız.Matematiksel notasyon kullanılması ile, X rassal değeri için ortalama değeri μ ve varyansı σ² ≥ 0,  olan bir normal dağılımın bulunduğu şöyle ifade edilir:Normal dağılım için fazla kullanılmayan bir değişik parametreleme şekli de bulunmaktadır. Bu (bir üssü varyans yani 1/ σ²), değerine eşit olan kesinlik parametresi τ kullanılarak yapılır. Bunun avantajı sıfır değerine çok yakın varyans (σ²)  değerlerinin böler olmalarından doğan limit problemlerinden ayrılma imkânı sağlaması ve normal dağılımı bir üstel ailesi bireyi olarak kullanılması gerektiği halde ortaya çıkar.Bazı merkezsel limit teoremleri için (örneğin kestirimlerin asimtotik normalliği) Gauss tipi süreçler teorisi kullanışlı olmakla beraber, tüm olasılığı μ etrafında konsantre eden  ve bir normal dağılıma benzer olarak ortalama μ ve varyans σ² = 0 değerleri bulunan Dirac ölçümü bir normal dağılım olarak kabul edilmemektedir; buna matematiksel açıklama bu ölçümde Lebesque ölçümü kurallarına göre gereken yoğunluğun bulunmamasıdır.ifadesi standart normal dağılım için yoğunluk fonksiyonudur. Standart normal dağılım μ = 0 ve σ = 1 parametreleri olan bir normal dağılımdır.ifadesinin reel doğru üzerindeki integral değeridir. (Ayrıntıları için Gauss-tipi entegral maddesine bakınız.)yoğunluk eğrisinin üzerindeki, ortalamadan birer standart sapma altında ve üstündeki noktalar arasında (yani μ - σ ve  μ+σ noktalarında) bir enfleksyon noktası bulunması.Bir olasılık dağılımı için birikimli dağılım fonksiyonu, bir rassal değişken X için olay olasılığının dağılımının x sayısına eşit veya daha düşük olmasına kadar değerlendirilmesinden ortaya çıkar. Normal dağılım için birikimli dağılım fonksiyonu (yoğunluk fonksiyonunda kullanılan ayn terimlerle) şöyle ifade edilir:Burada, parametreleri μ = 0 ve σ = 1 olan standart normal dağılımı için birikimli dağılım fonksiyonu, Φ, ile ifade edilmiştir ve bu fonksiyon şudur:Standart normal birikimli dağılım fonksiyonu aynı zamanda hata fonksiyonu adı verilen bir özel fonksiyon ifade edilebilir. Hata fonksiyonu şöyle ifade edilir:Böylece hata fonksiyonu terimleri ile standart normal dağılımı için birikimli dağılım fonksiyonu şöyle yazılır:Standart normal dağılım için birikimli dağılım fonksiyonunun tamlayıcı fonksiyonu (yani ), çok kere Q-fonksiyonu olarak isimlendirilir ve özellikle bu kavram mühendislik kitaplarında büyük önemle yer almaktadır.Standart normal birikimli dağılım fonksiyonunun tersine kuantil fonksiyonu adı verilir.  Bunun formülünü ifade için önce şu ters hata fonksiyonu bulunur:Bu kuantil fonksiyonuna bazen probit fonksiyonu adı da verilir. Bir probit fonksiyonu için bir elemanter basit entegralbulunamayacağı matematiksel olarak ispat edilmiştir. Normal dağılım için çok iyi sonuçlar verdiği anlaşılan yaklaşık fonksiyonlar ve yöntemler ortaya çıkarılmıştır. Bunlar arasında sayısal entegrasyon, Taylor serileri, asimtotik seriler vedevam eden kesirler yöntemlerinin kullanılması anılabilir.Büyük değerde bir x sayısı için standart normal dağılım birikimli dağılım fonksiyonun  değerinin bire,1, yakınsalandığı ve ın ise sıfıra,0, yakınsaladığı aşikardır. Yoğunluk  terimleri kullanılarak, şu basit üst sınırifadesi ortaya çıkartılır. Bunun  terimleri ile çözümlenmesi yukarıda ifade edilen üst sınırı verir.Genel olarak moment üreten fonksiyon, exp(tX) için beklenen değer olarak tanımlanır. Bir normal dağılım için moment üreten fonksiyonu şu olur:Bu ifade, tanımda verilen üssel değerin, karesini tamamlamak yöntemi dönüştürülmesi ile elde edilmiştir.Bu t terimleri ile bir kuadratik polinom olduğu için yalnız ilk iki kümülant için sıfır olmayan değer bulunabilinir.Karakteristik fonksiyon,  sanal birim ile gösterilen  ifadesinin beklenen değersi olarak tanımlanmıştır. Bu nedenle karakteristik fonksiyon, moment üreten fonksiyon içindeki  teriminin ile değiştirilmesi ile elde edilir.Bunların toplamı  normal dağılım gösterir (proof).  Daha ilgi çekici olarak bunun tersi de geçerlidir: Eğer iki bağımsız rassal değişkenlerin toplamı normal dağılım gösteriyorsa, her iki değişken de ayrı ayrı normal dağılım gösterirler. Bu Cramer'in teoremi olarak isimlendirilmiştir.Eğer X ve Y rassal değişkenlerinin varyansları birbirine eşitse, U (toplam için rassal değişken) ve V (fark için rassal değişken) birbirinden bağımsızdırlar.Bunların birbirine oranı   şekilde Cauchy dağılımı gösterir. Böylece bu Cauchy dağılımı özel bir tip orantı dağılımı olur.Eğer  bir seri bağımsız standart normal değişkenler ise, o zaman bunların toplamı, yani  n serbestlik dereceli bir ki-kare dağılımı gösterir.Yukarıda verilen 1. özellik sonucu olarak tüm normal rassal değişkenleri standart normale dönüştürmek imkânı vardır:Standart normal dağılım için çeşitli tablolar bulunmaktadır. Çok kere bu tablolar birikimli dağılım fonksiyonu, Φ şeklindedirler. Diğer normal dağılımlar basit bir dönüşüm ile standart normal dağılıma dönüştürülüp bu tablolardan biri kullanılabilir.Bilgisayarla simulasyon yapılmakta iken, çok kere bir normal dağılım için değerlerin üretilmesi gerekir. Bunun için birkaç değişik yöntem kullanılabilir. En basit şekilde bir standart normal dağılım birikimli olasılık fonksiyonunun tersini almak suretiyle elde edilir. Daha etkin yöntemler de geliştirilmiştir.Çok popüler olarak kullanılan yöntem Box-Muller dönüşümüdür. Box-Muller algoritması kullanılması, [0,1] arasında bulunan sürekli tekdüze dağılım gösteren iki sayı a ve b ile başlar; bunlardan şu formüllere göre iki standart normal dağılım gösteren c ve d sayıları şöyle elde edilir:Bunların elde edilmesi, dönüşümün bazında (yukarıda 4. özellikte gösterilen) 2 serbestlik derecesi olan bir ki-kare dağılımının kolayca üretilebilinen bir üstel rassal değişken olması gerçeğine dayandırılır.Sonlu varyansları olan bağımsız ve aynı dağılımlı rassal değişkenler ve benzeri koşullar altında, büyük sayıda rassal değişkenlerin toplamı yaklaşık olarak normal dağılım gösterir. Bu merkezsel limit teoremidir.Merkezsel limit teoreminin pratik önemi normal birikimli dağılım fonksiyonunun bazı diğer birikimli dağılım fonksiyonunun yaklaşık olarak kullanabilmesindedir. ÖrneğinParametreleri n ve p olan bir binom dağılım için, eğer büyük değerlerde, ama 0 veya 1e çok yakın olmayan n vep bulunursa bir normal dağılımına yaklaşmış oldukları kabul edilebilir. (Bazı istatistik kitapları bu yaklaşımın np ve n(1 -p değerlerinin her ikisi için en aşağı 5 olması halinde uygulanmasını ve eğer 5 olurlarsa bir devamlılık doğrulaması kullanılmasını tavsiye ederler.)  Eğer yaklaşık olarak normal dağılımı kullanılırsa bunun parametreleri μ = np ve σ2 = np(1-p) olarak bulunması gerekir.Eğer λ'nin değeri büyük ise, λ parametreli Poisson dağılımı için yaklaşık olarak normal dağılım kullanılabilir ve bu halde yaklaşık normal dağılımın parametreleri μ = σ2 = λ olarak bulunur.Bu yaklaşımların yeter derecede doğru olup olmayacağı, sonuçların ne maksatlarla kullanacaklarına ve normal dağılımın yakınsalama oranına bağlıdır. Bu tip yaklaşımlar dağılımın kuyruk değerlerine yaklaştıkça gittikçe daha çok hatalı olacaklardır. Berry-Essen teoremi birikimli dağılım fonksiyonu için yaklaşım hatası için genel üst sınırları gösterir.Normal dağılımlar sonsuz olarak bölünebilen olasılık dağılımlarıdır:  Bir ortalama değeri μ, bir varyans değeri σ2≥ 0 ve bir doğal sayı değeri n verildiği zaman, n bağımsız rassal değişkenlerin toplamı olan 'X1 + . . . +Xn' şu normal dağılımı gösterir:(Daha fazla ayrıntı için matematik tümevarım ile normal dağılım gösteren rassal değişkenlerin toplamı maddelerine bakınız.)uzaklığındaki noktalar arasındadır; değerlerin neredeyse %95i μ'den iki standart sapma uzaklıklar aralığında; ve %99,7 üç standart sapma uzaklıklar aralığında bulunur. Buna empirik kural veya 68-95-99.7 kuralı adı da verilir.Daha doğru bir kesin ifadeyle  μ - nσ ve  μ + nσ arasındaki çan eğrisinin altında kalan alanın birikimli normal dağılım fonksiyonu şöyle verilir:Burada erf hata fonsiyonudur. Ondalık sayılarla 12 basamak kullanılarak 1-, 2- .. 6- sigma noktalarına kadar değerler şöyle verilir:İkinci tablo çan eğrisinin altındaki alan için değerlerin bulunmasını sağlamak üzere, çok zaman kullanılan katsayı değerlerindeki, sigma çarpanlarının ters ilişkisini gösterir. Normal dağılım gösteren veya asimtotda normal olan kestirimler için belirtilmiş olan seviyelerde (asimtotik) güvenlik aralığını saptamak için bu değerler çok kullanışlıdır:Bu tabloda sol taraftaki sütun bilinen bir aralığa düşecek değerlerin oranı verilmekte ve soldaki n sütunu ise aralığın genişliğinin kaç tane standart sapma birimini ihtiva ettiğini göstermektedir.Normal dağılım bir iki parametreli üstel ailesi elemanıdır. İki tane doğal parametresi μ ve 1/σ2 olur ve doğal istatistikleri X ve X2 dir. Kanonik şeklinin parametreleri  ve  olup yeterli istatistikleri  ve   olur.Eğer  ise ve burada  için  ise ve bunların hepsi bağımsızlarsa; o zaman  serbestlik derecesi  olan bir ki-kare dağılımıolur.Kesilmiş normal dağılımı. Eğer  o halde Xi alttan 'da ve üstten'de kesmek suretiyle, ortalaması   olan bir rassal değişken ortaya çıkarılır.Eğer  normal dağılım gösteren bir rassal değişken ise ve   ise, o halde  bir katlanmış normal dağılım gösterir.Puan verme çeşitlerinin çoğu normal dağılıma bağlı olarak ortaya çıkarılmıştır. Değişik puanlama   yöntemleri arasında yüzbirliklerle sıralamalar, normal eğri eşitliklikleri, staninler, z puanı ve T-puanlaması  vb. sayılabilir. Davranışsal bilimlerde kullanılan birçok istatistiksel yordamlar puanların normal dağılım gösterdiği varsayımına dayanılarak geliştirilmiştir. Örneğin çok kişiye uygulanan imtihan veya zeka testleri için bir çan eğrisine dayanan not verilip imtihan veya test sonuçlarının gruplanması veya sıralanması imtihan veya test notlarının normal dağılım gösterdiği varsayımına dayandırılır.Normallik sınamaları, verilmiş bir veri dizisinin normal dağılıma benzerliğinin incelenmesidir. Bu sınamalarda sıfır hipoztez veri dizisinin normal dağılıma benzer olmasıdır. Bu nedenle normal olmayan veri için yeter derecede küçük bir p-değeri (yani genellikle %0,05'ten  veya 0,01den küçük) ortaya çıkacak ve sıfır hipotez olan veri dizisinin normal dağılıma benzerliği hipotezinin ret edilmesine neden olacaktır.ifadesinin her biri diğerinden bağımsız olduğu düşünülsün. Her bir ifade beklenen değersi μ ve varyansı σ2>0 olan normal dağılımlar göstermektedir. İstatistikçiler bu n rassal değişkenin gözümlenen değerlerinin normal dağılım gösteren bir anakütleden ortaya çıkan bir  n büyüklüğünde bir örneklem olduğunu kabul etmektedirler. Bu örneklemden gözlenen değerlere dayanarak "anakütle ortalaması" μ ve "anakütle standart sapması" kestirimcilerini bulmak arzu edilmektedir. Bu n sayıdaki bağımsız rassal değişken için sürekli ortak olasılık yoğunluk fonksiyonu şöyle verilir:Burada C>0 herhangi bir sabittir. Bunun genellikle X1,...,Xn değişkenlerine bile dayanarak bağlandığı kabul edilmektedir; ama hesaplanan parametrelere göre log-olabilirlik fonksiyonların kısmî türevleri bulunduğu zaman sabit oldukları için elimine edilmektedirler.Maksimum olabilirlik yöntemine göre olabilirlik fonksiyonu maksimize eden μ ve σ değerleri, teorik anakütle parametreleri olan μ ve σ için kestirim oldukları kabul edilmektedir. Genel olarak iki değişkenli bir fonksiyonun maksimum değerini hesaplanmaktayken kısmî türevler kullanılır. Ancak burada maksimum hesaplama daha kolaylaşmaktadır çünkü olabilirlik fonksiyonunu maksimize eden μ değeri bulunmakta iken σ anakütle parametresi olan σya bağımlı olmayan bir sabittir. Bundan dolayı ilk olarakμ değeri bulunur; bu değer olabilirlik fonksiyonundaki μ değişkeni yerine konulur ve bu yeni tek değişkenli fonksiyonu maksimize eden σ değeri bulunur.İşte bu ifade n sayıda X1,....,Xn gözlem kullanarak μnun maksimum olabilirlik kestirimidir. Sonuç olarakelde edilir. olabilirlik fonksiyonunun logaritmasi olan log-olabilirlik fonksiyonu matematik notasyona göre küçük harflerle (yani, yazılması alışılagelmiştir.değeri arasında ise pozitif olur; bu değere eşitse türev sıfıra eşittir; bu değerden büyükse türev negatif olur.Bu analizin sonucu olarak bu bulunan artıklar n gözlemli örneklem için σ2  bir maksimum olabilirlik kestirimidir ve bunun kare kökü σ için maksimum olabilirlik kestirimdir. Bu kestirim yani bir yanlı kestirimdir.  Alışılagelen yansız kestirim  n/(n - 1) çarpı bu kestirimdir. Ancak yanlı maksimum olabilirlik kestirimi için ortalama hata karesi yansız kestirimden daha küçüktür.Bir örneklemden elde edilen anakütle ortalamasının maksimum olabilirlik kestirimcisi, anakütle ortalamasının yansız kestirimcisiolarak bilinir. Aynı şekilde anakütle ortalaması önsel olarak bilinirse, varyans için maksimum olabilirlik kestrimcisi de yansız kestirimcidir. Ancak eğer elimizde bir örneklem bulunuyorsa ama bu örneklemin geldiği anakütlenin ne ortalamasının ne de varyansının değerlerin bilmiyorsak, anakütle varyansının yansız kestrimicisi, , şöyle ifade edilir:Eğer tüm X''i birbirinden bağımsız ve aynı şekilde dağılım gösterirlerse, bu "örneklem varyansı" bir Gamma dağılımıgösterir:Normal dağılım gösterme ve korelasyon olmaması bağımsızlık ifade etmez.(İki tane birbirinden bağımsız olmadan birbirleri ile korelasyon göstermeyen normal dağılımlı rassal değişken için örnek verilmiştir. Bu örnek çokludeğişirli normal dağılım için geçerli değildir.)Normal dağılım Karl Gauss tarafında mı bulunmuştur? Euler'in bulduğu gamma fonksiyonlari ailesi ve bunların istatistik tarihindeki yeriMaxwell şeytanları: Propozisyonlu dgiskenler hesabi fonksiyonlari kullanarak olasilik dağılımlarının simulasyonuDağılım hesaplayıcısı – Normal, t, ki-kare ve F-dağılımı için kritik değerler ve olasılık hesaplayıcısıEtkileşimli Standart normal eğrisi gösterimi  Standart normal eğrinin tek kuyruk ve iki kuyruk alanı için çabuk göz önüne getirme yazılımı.Normal birikimli dağılım fonksiyonunun tersini hesaplamak icin bir algoritma. , Hazırlayan: Peter J. Acklam – Birkaç değişik yazılım diliyle örnekler var.Matematiksel Fonksiyonlar için Elkitabı': P(x) ve Z(x) icin Polinom ve Rasyonel Yaklaşımlar  - Abramowitz ve Stegun