Κανονική κατανομή

Η κανονική κατανομή (γνωστή και ως γκαουσιανή κατανομή) αναφέρεται σε συνεχείς μεταβλητές αποτελώντας μία συνεχή συνάρτηση πυκνότητας πιθανότητας. Χρησιμοποιείται ως μία πρώτη προσέγγιση για να περιγραφούν τυχαίες μεταβλητές πραγματικών τιμών, οι οποίες τείνουν να συγκεντρώνονται γύρω από μια μέση τιμή. Η κανονική κατανομή αποτελεί την πιο σημαντική κατανομή της στατιστικής μεθοδολογίας για τους εξής βασικούς λόγους: Την κανονική κατανομή ακολουθούν είτε με ακρίβεια είτε με μεγάλη προσέγγιση τα περισσότερα συνεχή φαινόμενα. Πολλές ασυνεχείς κατανομές πιθανοτήτων μπορούν να προσεγγιστούν μέσω της κανονικής κατανομής. Για παράδειγμα πολλά πληθυσμιακά χαρακτηριστικά, όπως το ύψος, το βάρος η βαθμολογία σε διαγώνισμα, κ.λπ. Η κανονική κατανομή αποτελεί σύμφωνα με το κεντρικό οριακό θεώρημα (το άθροισμα ενός ικανοποιητικά μεγάλου αριθμού ανεξάρτητων και ισόνομων τυχαίων μεταβλητών προσεγγίζεται από την κανονική κατανομή) τη βάση της στατιστικής συμπερασματολογίας ή επαγωγικής στατιστικής. Τυχαία σφάλματα που εμφανίζονται σε διάφορες μετρήσεις έχουν κανονική κατανομή. Γι' αυτό το λόγο η Κανονική κατανομή αναφέρεται πολλές φορές και ως κατανομή σφαλμάτων.Η γραφική παράσταση της σχετιζόμενης συνάρτησης πυκνότητας πιθανότητας έχει σχήμα «καμπάνας», και είναι γνωστή ως γκαουσιανή συνάρτηση ή κωδωνοειδής καμπύλη: f ( x ) = 1 2 π σ 2 e − ( x − μ ) 2 2 σ 2 {\displaystyle f(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}}

 Μια πραγματική τυχαία μεταβλητή Χ με συνάρτηση πυκνότητας πιθανότητας: f ( x ) = 1 2 π σ 2 e − ( x − μ ) 2 / 2 σ 2 {\displaystyle f(x)={\tfrac {1}{\sqrt {2\pi \sigma ^{2}}}}\,e^{-(x-\mu )^{2}/2\sigma ^{2}}} όπου e=η βάση των νεπέρειων λογαρίθμων (≡2,71828), π=η γνωστή μαθηματική σταθερά (≡3,14159), μ=ο μέσος του πληθυσμού, σ=η τυπική απόκλιση του πληθυσμού και Χ=μια τιμή της συνεχούς τυχαίας μεταβλητής στο διάστημα -∞ έως +∞, ονομάζεται κανονικά κατανεμημένη με μέση τιμή μ και διακύμανση σ2. Συμβολίζεται με X ∼ N ( μ , σ 2 ) {\displaystyle X\ \sim \ {\mathcal {N}}(\mu ,\,\sigma ^{2})} . Για μια τυχαία μεταβλητή Z ∼ N ( 0 , 1 ) {\displaystyle Z\sim {\mathcal {N}}(0,\,1)} η συνάρτηση πυκνότητας πιθανότητας συμβολίζεται με ϕ ( z ) {\displaystyle \phi (z)} και η συνάρτηση κατανομής με Φ ( z ) {\displaystyle \Phi (z)} . Η οικογένεια των κανονικών κατανομών είναι κλειστή ως προς τους γραμμικούς μετασχηματισμούς. Αν X ∼ N ( μ , σ 2 ) {\displaystyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2})} και a , b ∈ R , a > 0 {\displaystyle a,b\in \mathbb {R} ,a>0} , η τυχαία μεταβλητή a X + b {\displaystyle aX+b} ακολουθεί επίσης την κανονική κατανομή με a X + b ∼ N ( a μ + b , a 2 σ 2 ) . {\displaystyle aX+b\ \sim \ {\mathcal {N}}(a\mu +b,\,a^{2}\sigma ^{2}).} Συγκεκριμένα για Z ∼ N ( 0 , 1 ) {\displaystyle Z\sim {\mathcal {N}}(0,\,1)} προκύπτει σ Z + μ ∼ N ( μ , σ 2 ) {\displaystyle \sigma Z+\mu \ \sim \ {\mathcal {N}}(\mu ,\,\sigma ^{2})} και αντιστρόφως X − μ σ ∼ N ( 0 , 1 ) . {\displaystyle {\frac {X-\mu }{\sigma }}\sim {\mathcal {N}}(0,\,1).} Για τη συνάρτηση κατανομής της Χ ισχύει F ( x ) = Φ ( x − μ σ ) {\displaystyle F(x)=\Phi {\Big (}{\frac {x-\mu }{\sigma }}{\Big )}} και για τη συνάρτηση πυκνότητας πιθανότητας f ( x ) = 1 σ ϕ ( x − μ σ ) {\displaystyle f(x)={\tfrac {1}{\sigma }}\,\phi {\big (}{\tfrac {x-\mu }{\sigma }}{\big )}} . Η συνάρτηση πυκνότητας πιθανότητας είναι συμμετρική ως προς τη μέση τιμή. Συγκεκριμένα ισχύει ϕ ( − z ) = ϕ ( z ) {\displaystyle \phi (-z)=\phi (z)} και Φ ( − z ) = P [ Z ≤ − z ] = 1 − P [ Z ≥ − z ] = 1 − P [ Z ≤ z ] = 1 − Φ ( z ) {\displaystyle \Phi (-z)=P[Z\leq -z]=1-P[Z\geq -z]=1-P[Z\leq z]=1-\Phi (z)} Σε μια δειγματοληψία από κανονική κατανομή το 68,3% των τιμών απέχει το πολύ κατά σ από τη μέση τιμή, βρίσκεται δηλαδή στο διάστημα [ μ − σ , μ + σ ] {\displaystyle [\mu -\sigma ,\mu +\sigma ]} . Το 95,5% των τιμών βρίσκεται στο [ μ − 2 σ , μ + 2 σ ] {\displaystyle [\mu -2\sigma ,\mu +2\sigma ]} και το 99,7% στο [ μ − 3 σ , μ + 3 σ ] {\displaystyle [\mu -3\sigma ,\mu +3\sigma ]} . Στη γενική περίπτωση ενός διαστήματος [ x 1 , x 2 ] {\displaystyle [x_{1},x_{2}]} ισχυεί P [ x 1 ≤ X ≤ x 2 ] = Φ ( x 2 − μ σ ) − Φ ( x 1 − μ σ ) . {\displaystyle P[x_{1}\leq X\leq x_{2}]=\Phi {\Big (}{\frac {x_{2}-\mu }{\sigma }}{\Big )}-\Phi {\Big (}{\frac {x_{1}-\mu }{\sigma }}{\Big )}.} Αν το διαστημα είναι συμμετρικό ως προς τη μέση τιμή P [ − x + μ ≤ X ≤ x + μ ] = Φ ( x σ ) − Φ ( − x σ ) = 2 Φ ( x σ ) − 1. {\displaystyle P[-x+\mu \leq X\leq x+\mu ]=\Phi {\Big (}{\frac {x}{\sigma }}{\Big )}-\Phi {\Big (}{\frac {-x}{\sigma }}{\Big )}=2\Phi {\Big (}{\frac {x}{\sigma }}{\Big )}-1.} Η κανονική κατανομή που έχει μέση τιμή 0 (μ=0) και τυπική απόκλιση 1 (σ=1, άρα και διασπορά 1), συμβολίζεται με N(0,1) και ονομάζεται τυποποιημένη κανονική κατανομή. Μια τυχαία μεταβλητή που ακολουθεί την τυποποιημένη κανονική κατανομή, έχει επικρατήσει να συμβολίζεται με Ζ και η συνάρτηση πυκνότητάς της με φ(z). ϕ ( z ) = 1 2 π e − z 2 2 {\displaystyle \phi (z)={\frac {1}{\sqrt {2\pi }}}e^{-{\frac {z^{2}}{2}}}} , -∞<z<+∞Η τυποποίηση των δεδομένων βασίζεται στην απόκλισή τους από το μέσο όρο σε όρους της σ, σύμφωνα με τον τύπο Z = X − μ σ {\displaystyle Z={\frac {X-\mu }{\sigma }}} . Με τον τύπο αυτό μπορούν να μετατραπούν τα δεδομένα μιας μεταβλητής που κατανέμεται κανονικά σε τυποποιημένη μορφή και να υπολογιστούν οι πιθανότητες χρησιμοποιώντας τους πίνακες της τυποποιημένης κανονικής κατανομής. Οι πίνακες της τυποποιημένης κανονικής κατανομής δίνουν τις αθροιστικές πιθανότητες της κατανομής της Ζ, δηλαδή τα εμβαδά της κατανομής από -∞ έως και μία συγκεκριμένη τιμή της Ζ (π.χ. z). Έτσι, οι πίνακες δίνουν τις πιθανότητες P(Z ≤ z) για όλα τα z από -3,99 έως +3,99 με βήμα 0,01. Έστω ανεξάρτητες τυχαίες μεταβλητές Z 1 , Z 2 , … , Z n {\displaystyle Z_{1},Z_{2},\dots ,Z_{n}} που ακολουθούν την κανονική κατανομή με μέση τιμή 0 και διακύμανση 1. Το άθροισμα των τετραγώνων τους ακολουθεί την κατανομή χ 2 {\displaystyle \chi ^{2}} με n βαθμούς ελευθερίας. ∑ i Z i 2 ∼ χ n 2 {\displaystyle \sum _{i}Z_{i}^{2}\sim \chi _{n}^{2}} Έστω ανεξάρτητες τυχαίες μεταβλητές X 1 , X 2 , … , X n {\displaystyle X_{1},X_{2},\dots ,X_{n}} που ακολουθούν την κανονική κατανομή με μέση τιμή μ και διακύμανση σ2. Η κάτωθι τυχαία μεταβλητή ακολουθεί την κατανομή Student-t με n−1 βαθμούς ελευθερίας. X ¯ − μ S = 1 n ( X 1 + ⋯ + X n ) − μ 1 n − 1 [ ( X 1 − X ¯ ) 2 + ⋯ + ( X n − X ¯ ) 2 ] ∼ t n − 1 {\displaystyle {\frac {{\overline {X}}-\mu }{S}}={\frac {{\tfrac {1}{n}}(X_{1}+\cdots +X_{n})-\mu }{\sqrt {{\tfrac {1}{n-1}}{\big [}(X_{1}-{\overline {X}})^{2}+\cdots +(X_{n}-{\overline {X}})^{2}{\big ]}}}}\ \sim \ t_{n-1}} Η προσέγγιση ασυνεχών κατανομών με μεγάλη ακρίβεια απ' την κανονική κατανομή, παρά το γεγονός ότι σαν συνεχής κατανομή περιγράφει μόνο συνεχείς μεταβλητές, αποτελεί βασικό της πλεονέκτημα. Η προσέγγιση αυτή ισχύει για εκείνες τις περιπτώσεις που και οι ασυνεχείς κατανομές τείνουν να πάρουν το σχήμα της "κωδωνοειδούς" καμπύλης. Η διωνυμική κατανομή τείνει προς την κανονική για μέγεθος δείγματος (n) μεγαλύτερο από 20. Για μικρότερα δείγματα η πιθανότητα p πρέπει να είναι κοντά στο 0,5. X ∼ B ( n , p ) {\displaystyle X\sim {\mathcal {B}}(n,p)} μ = n p {\displaystyle \mu =np\,} σ = [ n p ( 1 − p ) ] 1 2 {\displaystyle \sigma ={[np(1-p)]}^{\frac {1}{2}}\,} Η κατανομή Poisson τείνει προς την κανονική όσο αυξάνει ο μέσος λ. X ∼ P o i s ( λ ) {\displaystyle X\sim \mathrm {Pois} (\lambda )\,} μ = λ {\displaystyle \mu =\lambda \,} σ = λ 1 2 {\displaystyle \sigma =\lambda ^{\frac {1}{2}}\,} Κατηγοριοποίηση εφαρμογών κανονικής κατανομής σε πρακτικά προβλήματα: Φαινόμενα που ακολουθούν την κανονική κατανομή Φαινόμενα που προσεγγίζονται από την κανονική κατανομή, όπως αυτά που η προσέγγισή τους δικαιολογείται από το κεντρικό οριακό θεώρημα Φαινόμενα των οποίων κατανομές που μοντελοποιούνται ως κανονική Ορισμένα μεγέθη στην φυσική κατανέμονται κανονικά, όπως έδειξε πρώτος ο James Clerk Maxwell. Παραδείγματα τέτοιων μεγεθών είναι: Ταχύτητες μορίων σε ιδανικά αέρια. Η συνάρτηση πυκνότητας πιθανότητας της βασικής ενεργειακής κατάστασης ενός κβαντικού αρμονικού ταλαντωτή. Η θέση ενός σωματιδίου το οποίο διαχέεται. Προσεγγιστικές κανονικές κατανομές παρατηρούνται σε διάφορες καταστάσεις, όπως εξηγείται από το κεντρικό οριακό θεώρημα. Δηλαδή, όταν το άθροισμα ενός ικανοποιητικά μεγάλου αριθμού ανεξάρτητων και ισόνομων τυχαίων μεταβλητών προκαλεί ένα φαινόμενο, αυτό προσεγγίζεται από την κανονική κατανομή. Σε αριθμητικά προβλήματα, όπου το κεντρικό οριακό θεώρημα περιλαμβάνει μία προσέγγιση διακριτού σε συνεχές, όπως: η διωνυμική κατανομή, που σχετίζεται με δυικές μεταβλητές η κατανομή Poisson, που σχετίζεται με σπάνια γεγονότα; Το θερμικό φως ακολουθεί την κατανομή Bose–Einstein για πολύ μικρά χρονικά διαστήματα, και κανονική κατανομή σε μεγαλύτερα χρονικά διαστήματα εξαιτίας του κεντρικού οριακού θεωρήματος. Στη βιολογία, ο λογάριθμος διαφόρων μεταβλητών τείνει να ακολουθεί την κανονική κατανομή, δηλαδή, τείνουν να ακολουθούν μία λογαριθμική κανονική κατανομή, με παραδείγματα όπως: Μέτρα μεγέθους ζωντανού ιστού (μήκος, ύψος, επιφάνεια δέρματος, βάρος). Το μήκος αδρανών προσαρτημάτων (μαλλιά, νύχια, δόντια) βιολογικών δειγμάτων, στην κατεύθυνση της μεγέθυνσης. Ορισμένα φυσιολογικά μεγέθη, όπως η πίεση του αίματος των ενηλίκων. Στα οικονομικά, και συγκεκριμένα το μοντέλο Black–Scholes, αλλαγές στο λογάριθμο των συναλλαγματικών ισοτιμιών, των δεικτών τιμών, και των χρηματιστηριακών δεικτών υποτίθενται ως κανονικές. Ορισμένοι μαθηματικοί αντιτίθενται σε αυτή την περίπτωση χρήσης της κανονικής κατανομής. Τα υπολογιστικά λάθη σε φυσικά πειράματα μοντελοποιούνται συχνά μέσω της κανονικής κατανομής. Σε τυποποιημένα τεστ, τα αποτελέσματα αναλύονται βάσει της κανονικής κατανομής. Στην υδρολογία η κατανομή της μακροχρόνιας βροχόπτωσης (π.χ. μηνιαία ή ετήσια σύνολα, αποτελούμενα από το άθροισμα 30 και 360 ημερησίων τιμών αντίστοιχα) θεωρείται συχνά ότι ακολουθεί πρακτικά την κανονική κατανομή σύμφωνα με το κεντρικό οριακό θεώρημα. Από την εμφάνισή της, η κανονική κατανομή έχει ονομαστεί με διαφορετικούς τρόπους: ο νόμος του σφάλματος, δεύτερος νόμος του Laplace, νόμος του Gauss,κ.λπ. Από το τέλος του 18ου αιώνα ορισμένοι συγγραφείς είχαν αρχίσει να χρησιμοποιούν την ονομασία κανονική κατανομή, όπου η λέξη «κανονική» χρησιμοποιείτο ως επίθετο — ο όρος προερχόταν απ' το γεγονός ότι η κατανομή αυτή θεωρείτο ως τυπική, συνήθης, κανονική. Ο Πιρς (ένας από τους συγγραφείς αυτούς) κάποτε όρισε τον όρο "κανονική" ως: «...το "κανονική" δεν είναι ο μέσος όρος (ή κάποιο άλλο είδος μέσου) αυτού που συμβαίνει πραγματικά, αλλά αυτού που θα συνέβαινε, μακροπρόθεσμα, υπό ορισμένες συνθήκες». Στην αρχή του 20ου αιώνα ο Καρλ Πίρσον (Karl Pearson) έκανε δημοφιλή τον όρο κανονική σαν προσδιορισμό για την κατανομή αυτή. Επιπλέον, ο Πίρσον (Pearson) ήταν αυτός που πρώτος έγραψε την κατανομή σε όρους τυπικής απόκλισης σ όπως στη σύγχρονη σημειογραφία. Σύντομα μετά από αυτό, το έτος 1915, ο Ρόναλντ Φίσερ (Ronald Fisher) προσέθεσε την παράμετρο της τοποθεσίας στην εξίσωση για την κανονική κατανομή, εκφράζοντάς την με τον τρόπο που γράφεται ακόμα και σήμερα: d f = 1 σ 2 π e − ( x − m ) 2 2 σ 2 d x {\displaystyle df={\frac {1}{\sigma {\sqrt {2\pi }}}}e^{-{\frac {(x-m)^{2}}{2\sigma ^{2}}}}dx} Ο όρος "τυποποιημένη κανονική" ο οποίος υποδηλώνει την κανονική κατανομή με μέσο μηδέν και μοναδιαία διακύμανση ήρθε σε γενική χρήση στη δεκαετία του '50, εμφανιζόμενος στα δημοφιλή εγχειρίδια του P.G. Hoel (1947) "Introduction to mathematical statistics" και A.M. Mood (1950) "Introduction to the theory of statistics".Η ονομασία «κατανομή του Gauss» προήλθε από τον Καρλ Φρίντριχ Γκάους (Carl Friedrich Gauss), ο οποίος εισήγαγε την κατανομή το 1809 ως έναν τρόπο εκλογίκευσης της μεθόδου ελαχίστων τετραγώνων. Η σχετική δουλειά του Λαπλάς (Laplace), οδήγησε την κανονική κατανομή στο να ονομάζεται μερικές φορές Λαπλασιανή, ειδικά σε χώρες με επίσημη γλώσσα τα Γαλλικά. Μεταξύ των αγγλόφωνων λαών, τόσο η χρήση του όρου «κανονική κατανομή» όσο και του όρου «κατανομή Gauss» είναι συνήθης, με κάθε μία να προτιμάται από διαφορετική κοινότητα. Χαλικιάς, Ιωάννης, 2003. Στατιστική: Μέθοδοι Ανάλυσης για Επιχειρηματικές Αποφάσεις. 2η έκδοση. Γέρακας: Rosili. ISBN 9607745086 Spiegel, M & Stephens, L, 2000.Θεωρία και Προβλήματα Στατιστικής. 3η έκδοση. Αθήνα: Εκδόσεις Τζιόλα. ISBN 960805012X Παπαδόπουλος, Γεώργιος. Η Κανονική Κατανομή. Σημειώσεις μαθήματος Στατιστικής. Γεωπονικό Πανεπιστήμιο Αθηνών Δαμιανός, Χ, Παπαδάτος, Ν. & Χαραλαμπίδης Χ.Α., 2003. Εισαγωγή στις Πιθανότητες και τη Στατιστική, Διδακτικές Σημειώσεις. Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών