Πολυμεταβλητή κανονική κατανομή

Στη θεωρία πιθανοτήτων και τη στατιστική, η πολυμεταβλητή κανονική κατανομή, η πολυμεταβλητή Γκαουσιανή κατανομή ή η κοινή κανονική κατανομή είναι μια γενίκευση της μονοδιάστατης κανονικής κατανομής σε υψηλότερες διαστάσεις. Σύμφωνα με τον ορισμό, ένα τυχαίο διάνυσμα λέγεται ότι έχει k-μεταβλητή κανονική κατανομή εάν κάθε γραμμικός συνδυασμός των k συνιστωσών του έχει μονομεταβλητή κανονική κατανομή. Η σημασία του προκύπτει κυρίως από το πολυμεταβλητό κεντρικό οριακό θεώρημα. Η πολυμεταβλητή κανονική κατανομή χρησιμοποιείται συχνά για να περιγράψει, τουλάχιστον κατά προσέγγιση, οποιοδήποτε σύνολο (ενδεχομένως) συσχετιζόμενων τυχαίων μεταβλητών πραγματικής τιμής, κάθε μία από τις οποίες συσσωρεύεται γύρω από μια μέση τιμή.

 Ορισμοί 
 Συμβολισμός και παραμετροποίηση 
Η πολυμεταβλητή κανονική κατανομή ενός k-διάστατου τυχαίου διανύσματος  μπορεί να γραφεί με τον ακόλουθο συμβολισμό:

ή να γίνει ρητά γνωστό ότι το  είναι k-διάστατο,

με k-διάστατο μέσο διάνυσμα

και  πίνακα συνδιακύμανσης

έτσι ώστε  and . 

Ο αντίστροφος του πίνακα συνδιακύμανσης ονομάζεται πίνακας ακρίβειας και συμβολίζεται με .

Τυπικό κανονικό τυχαίο διάνυσμα
Ένα πραγματικό τυχαίο διάνυσμα  ονομάζεται τυπικό κανονικό τυχαίο διάνυσμα αν όλες οι συνιστώσες του  είναι ανεξάρτητες και κάθε μία είναι μια κανονικά κατανεμημένη τυχαία μεταβλητή με μοναδιαία διακύμανση μηδενικού μέσου, δηλαδή αν  για όλα τα .

Κεντρικό κανονικό τυχαίο διάνυσμα

Ένα πραγματικό τυχαίο διάνυσμα  ονομάζεται κεντρικό κανονικό τυχαίο διάνυσμα αν υπάρχει ένας  πίνακας  τέτοιος ώστε  έχει την ίδια κατανομή με το  όπου  είναι ένα τυπικό κανονικό τυχαίο διάνυσμα με  συνιστώσες.

Κανονικό τυχαίο διάνυσμα

Ένα πραγματικό τυχαίο διάνυσμα  ονομάζεται κανονικό τυχαίο διάνυσμα αν υπάρχει ένα τυχαίο -διάνυσμα , το οποίο είναι ένα τυπικό κανονικό τυχαίο διάνυσμα, ένα-διάνυσμα , και ένας  πίνακας , τέτοιος ώστε .

Τυπικά:

Ο πίνακας συνδιακύμανσης είναι .

Στην εκφυλισμένη περίπτωση όπου ο πίνακας συνδιακύμανσης είναι ιδιάζων, η αντίστοιχη κατανομή δεν έχει πυκνότητα- δείτε την ενότητα παρακάτω για λεπτομέρειες. Αυτή η περίπτωση εμφανίζεται συχνά στη στατιστική- επί παραδείγματι, στην κατανομή του διανύσματος των καταλοίπων στη συνήθη παλινδρόμηση ελαχίστων τετραγώνων. Οι  δεν είναι γενικά ανεξάρτητες- μπορούν να θεωρηθούν ως το αποτέλεσμα της εφαρμογής του πίνακα  σε μια συλλογή ανεξάρτητων γκαουσιανών μεταβλητών .

 Ισοδύναμοι ορισμοί 
Οι ακόλουθοι ορισμοί είναι ισοδύναμοι με τον ορισμό που δίνεται παραπάνω. Ένα τυχαίο διάνυσμα  έχει πολυμεταβλητή κανονική κατανομή εάν ικανοποιεί μία από τις ακόλουθες ισοδύναμες συνθήκες.

 Κάθε γραμμικός συνδυασμός  των συνιστωσών του είναι κανονικά κατανεμημένος. Δηλαδή, για κάθε σταθερό διάνυσμα , η τυχαία μεταβλητή  έχει μονοδιάστατη κανονική κατανομή, όπου μια μονοδιάστατη κανονική κατανομή με μηδενική διακύμανση είναι μια σημειακή μάζα στη μέση τιμή της.
 Υπάρχει ένα k-διάνυσμα  και ένας συμμετρικός, θετικά ημιτελής  πίνακας , τέτοιος ώστε η χαρακτηριστική συνάρτηση του  να είναι 

Η σφαιρική κανονική κατανομή μπορεί να χαρακτηριστεί ως η μοναδική κατανομή στην οποία οι συνιστώσες είναι ανεξάρτητες σε οποιοδήποτε ορθογώνιο σύστημα συντεταγμένων.

Συνάρτηση πυκνότητας

Μη εκφυλισμένη περίπτωση

Η πολυμεταβλητή κανονική κατανομή λέγεται «μη εκφυλισμένη» όταν ο συμμετρικός πίνακας συνδιακύμανσης  είναι θετικά ορισμένος. Στην περίπτωση αυτή η κατανομή έχει πυκνότηταSimon J.D. Prince(June 2012). Computer Vision: Models, Learning, and Inference . Cambridge University Press. 3.7:"Multivariate normal distribution".

όπου  είναι ένα πραγματικό k-διάστατο διάνυσμα στήλης και  είναι ο προσδιοριστής του , επίσης γνωστός ως γενικευμένη διακύμανση. Η παραπάνω εξίσωση ανάγεται σε εκείνη της μονομεταβλητής κανονικής κατανομής εάν  είναι ένας πίνακας  (δηλαδή ένας απλός πραγματικός αριθμός).

Η κυκλικά συμμετρική εκδοχή της μιγαδικής κανονικής κατανομής έχει ελαφρώς διαφορετική μορφή.

Κάθε τόπος ισο-πυκνότητας - ο τόπος των σημείων στον k-διάστατο χώρο, καθένα από τα οποία δίνει την ίδια συγκεκριμένη τιμή της πυκνότητας - είναι μια έλλειψη ή η υψηλότερης διάστασης γενίκευσή της- επομένως η πολυμεταβλητή κανονική είναι μια ειδική περίπτωση των ελλειπτικών κατανομών.

Η ποσότητα  είναι γνωστή ως απόσταση Μαχαλανόμπις, η οποία αντιπροσωπεύει την απόσταση του σημείου δοκιμής  από τη μέση τιμή . 
Η τετραγωνική απόσταση Μαχαλανόμπις 

 αναλύεται σε ένα άθροισμα k όρων, όπου κάθε όρος είναι γινόμενο τριών σημαντικών συνιστωσών. 

Ας σημειωθεί ότι στην περίπτωση που , η κατανομή ανάγεται σε μονομεταβλητή κανονική κατανομή και η απόσταση Μαχαλανόμπις ανάγεται στην απόλυτη τιμή της τυπικής βαθμολογίας. Βλέπε επίσης Διάστημα παρακάτω.

Διδάστατη περίπτωση
Στη διδιάστατη μη-ιδιάζουσα περίπτωση (), η συνάρτηση πυκνότητας πιθανότητας ενός διανύσματος  είναι:

όπου  είναι η συσχέτιση μεταξύ  και  και



Στη διμεταβλητή περίπτωση, η πρώτη ισοδύναμη συνθήκη για την πολυμεταβλητή ανακατασκευή της κανονικότητας μπορεί να γίνει λιγότερο περιοριστική, καθώς αρκεί να επαληθεύσουμε ότι ένα μετρήσιμο άπειρο σύνολο διαφορετικών γραμμικών συνδυασμών των   και  είναι κανονικοί για να συμπεράνουμε ότι το διάνυσμα  είναι διμεταβλητό κανονικό.

Οι διμεταβλητοί τόποι ισοπυκνότητας που απεικονίζονται στο επίπεδο  είναι ελλείψεις, των οποίων οι κύριοι άξονες ορίζονται από τα ιδιοδιανύσματα του πίνακα συνδιακύμανσης  (η μείζων και η ελάσσων ημιδιαμέτρος της έλλειψης ισούνται με την τετραγωνική ρίζα των διατεταγμένων ιδιοτιμών).


Καθώς η απόλυτη τιμή της παραμέτρου συσχέτισης  αυξάνεται, οι θέσεις αυτές συμπιέζονται προς την ακόλουθη γραμμή :



Αυτό συμβαίνει επειδή η έκφραση αυτή, με την αντικατάσταση της  (όπου sgn είναι η συνάρτηση προσήμου) από την , είναι η καλύτερη γραμμική αμερόληπτη πρόβλεψη της  δεδομένης μιας τιμής της .

Εκφυλισμένη περίπτωση

Εάν ο πίνακας συνδιακύμανσης  δεν είναι πλήρους τάξης, τότε η πολυμεταβλητή κανονική κατανομή είναι εκφυλισμένη και δεν έχει πυκνότητα. Πιο συγκεκριμένα, δεν έχει πυκνότητα ως προς το k -διάστατο μέτρο Lebesgue (το οποίο είναι το συνηθισμένο μέτρο που θεωρείται στα μαθήματα πιθανοτήτων επιπέδου μαθηματικών). Μόνο τα τυχαία διανύσματα των οποίων οι κατανομές είναι απολύτως συνεχείς ως προς ένα μέτρο λέγεται ότι έχουν πυκνότητα (ως προς αυτό το μέτρο). Για να μιλήσουμε για πυκνότητες, αλλά να αποφύγουμε να ασχοληθούμε με θεωρητικές περιπλοκές του μέτρου, μπορεί να είναι απλούστερο να περιορίσουμε την προσοχή σε ένα υποσύνολο  των συντεταγμένων του  τέτοιο ώστε ο πίνακας συνδιακύμανσης για αυτό το υποσύνολο να είναι θετικά ορισμένος- τότε οι άλλες συντεταγμένες μπορούν να θεωρηθούν ως μια αφινική συνάρτηση αυτών των επιλεγμένων συντεταγμένων.

Επομένως, για να μιλήσουμε για πυκνότητες με νόημα σε μεμονωμένες περιπτώσεις, πρέπει να επιλέξουμε ένα διαφορετικό μέτρο βάσης. Χρησιμοποιώντας το θεώρημα αποσύνθεσης μπορούμε να ορίσουμε έναν περιορισμό του μέτρου Λεμπέσγκ στον -διάστατο affine υποχώρο του  όπου υποστηρίζεται η κατανομή Γκάους, i. δηλ. . Ως προς αυτό το μέτρο η κατανομή έχει την πυκνότητα του ακόλουθου μοτίβου:

όπου  είναι το γενικευμένο αντίστροφο και  είναι ο ψευδο-προσδιοριστής.

 Αθροιστική συνάρτηση κατανομής 
Η έννοια της αθροιστικής συνάρτησης κατανομής (cdf) στη διάσταση 1 μπορεί να επεκταθεί με δύο τρόπους στην πολυδιάστατη περίπτωση, με βάση ορθογώνιες και ελλειψοειδείς περιοχές.

Ο πρώτος τρόπος είναι να οριστεί η cdf  ενός τυχαίου διανύσματος  ως η πιθανότητα όλες οι συνιστώσες του  να είναι μικρότερες ή ίσες με τις αντίστοιχες τιμές στο διάνυσμα :

Παρόλο που δεν υπάρχει κλειστή μορφή για την , υπάρχει ένας αριθμός αλγορίθμων που την εκτιμούν αριθμητικά.

Ένας άλλος τρόπος είναι να ορίσουμε το cdf  ως την πιθανότητα ένα δείγμα να βρίσκεται εντός του ελλειψοειδούς που καθορίζεται από την απόσταση Μαχαλανόμπις  από την Γκαουσιανή, μια άμεση γενίκευση της τυπικής απόκλισης.Bensimhoun Michael, N-Dimensional Cumulative Function, And Other Useful Facts About Gaussians and Normal Densities (2006)

Για τον υπολογισμό των τιμών αυτής της συνάρτησης υπάρχουν κλειστοί αναλυτικοί τύποι, ως εξής.

Διάστημα

Εδώ  είναι ένα -διάστατο διάνυσμα,  είναι το γνωστό -διάστατο μέσο διάνυσμα,  είναι ο γνωστός πίνακας συνδιακύμανσης και  είναι η συνάρτηση ποσοστηρίου για την πιθανότητα  της κατανομής χι-τετράγωνο (chi-squared) με  βαθμούς ελευθερίας. 
Όταν  η έκφραση ορίζει το εσωτερικό μιας έλλειψης και η κατανομή χι-τετράγωνο απλοποιείται σε μια εκθετική κατανομή με μέση τιμή ίση με δύο (ποσοστό ίσο με το μισό).

 Συμπληρωματική αθροιστική συνάρτηση κατανομής (κατανομή ουράς) 

Η συμπληρωματική αθροιστική συνάρτηση κατανομής (ccdf) ή η κατανομή ουράς

ορίζεται ως . 

όταν , τότε
το ccdf μπορεί να γραφεί ως πιθανότητα το μέγιστο των εξαρτημένων γκαουσιανών μεταβλητών:

Αν και δεν υπάρχει απλός κλειστός τύπος για τον υπολογισμό του ccdf, το μέγιστο των εξαρτημένων γκαουσιανών μεταβλητών μπορεί να 
εκτιμηθεί με ακρίβεια μέσω της μεθόδου Μόντε Κάρλο.

 Ιδιότητες 
Πιθανότητα σε διάφορους τομείς
Το περιεχόμενο πιθανότητας της πολυμεταβλητής κανονικής σε ένα τετραγωνικό πεδίο που ορίζεται από τη σχέση  (όπου  είναι ένας πίνακας,  είναι ένα διάνυσμα, και  είναι ένα κλιμάκιο), η οποία είναι σχετική με τη θεωρία Μπέιζιαν ταξινόμησης/αποφάσεων που χρησιμοποιεί την ανάλυση διάκρισης Γκάους, δίνεται από τη γενικευμένη κατανομή χι-τετράγωνο.

Το περιεχόμενο πιθανότητας εντός οποιουδήποτε γενικού πεδίου που ορίζεται από την  (όπου  είναι μια γενική συνάρτηση) μπορεί να υπολογιστεί με τη χρήση της αριθμητικής μεθόδου της ανίχνευσης ακτίνων (Matlab code).

Υψηλότερες ροπές

Οι ροπές k τάξης του x δίνονται από

όπου 

Οι κεντρικές ροπές k τάξης είναι οι ακόλουθες

Αν k είναι περιττό, .
Αν k είναι άρτιο με , τότε 

όπου το άθροισμα λαμβάνεται σε όλες τις κατανομές του συνόλου   σε λ (μη διατεταγμένα) ζεύγη. Δηλαδή, για μια kth κεντρική στιγμή , αθροίζουμε τα γινόμενα των  συνδιακυμάνσεις (η αναμενόμενη τιμή μ λαμβάνεται 0 για λόγους λιτότητας):



Αυτό δίνει  όρους στο άθροισμα (15 στην παραπάνω περίπτωση), καθένας από τους οποίους είναι το γινόμενο των λ (σε αυτή την περίπτωση 3) συνδιακυμάνσεων. Για ροπές τέταρτης τάξης (τέσσερις μεταβλητές) υπάρχουν τρεις όροι. Για ροπές έκτης τάξης υπάρχουν  όροι, και για ροπές όγδοης τάξης υπάρχουν  όροι.

Οι συνδιακυμάνσεις προσδιορίζονται στη συνέχεια με την αντικατάσταση των όρων του καταλόγου  με τους αντίστοιχους όρους του καταλόγου που αποτελείται από r1 μονάδες, στη συνέχεια r2 δυάδες, κ.λπ. Για να το καταδείξετε αυτό, εξετάστε την ακόλουθη περίπτωση κεντρικής ροπής 4ης τάξης: 



όπου  είναι η συνδιακύμανση των Xi και Xj. Με την παραπάνω μέθοδο βρίσκει κανείς πρώτα τη γενική περίπτωση για μια kth ροπή με k διαφορετικές μεταβλητές X, , και στη συνέχεια την απλοποιεί αναλόγως. Επί παραδείγματι, για την , αφήνουμε  και χρησιμοποιούμε το γεγονός ότι .

Συναρτήσεις ενός κανονικού διανύσματος 
. c: Χάρτης θερμότητας της κοινής πυκνότητας πιθανότητας δύο συναρτήσεων ενός κανονικού διανύσματος  , με μέση τιμή , και συνδιακύμανση
. d: Πυκνότητα πιθανότητας μιας συνάρτησης  από 4 iid  τυπικές κανονικές μεταβλητές. Αυτές υπολογίζονται με την αριθμητική μέθοδο της ανίχνευσης ακτίνων.

Μια τετραγωνική μορφή ενός κανονικού διανύσματος  ,  (όπου  είναι ένας πίνακας,  είναι ένα διάνυσμα και  είναι ένα κλιμάκιο), είναι μια γενικευμένη μεταβλητή chi-squared.  Η κατεύθυνση ενός κανονικού διανύσματος ακολουθεί μια προβαλλόμενη κανονική κατανομή.

Εάν  είναι μια γενική βαθμωτή συνάρτηση ενός κανονικού διανύσματος, η συνάρτηση πυκνότητας πιθανότητας, η αθροιστική συνάρτηση κατανομής και η αντίστροφη αθροιστική συνάρτηση κατανομής μπορούν να υπολογιστούν με την αριθμητική μέθοδο της ανίχνευσης ακτίνων (Matlab code).

Συνάρτηση πιθανοφάνειας

Εάν ο μέσος όρος και ο πίνακας συνδιακύμανσης είναι γνωστά, η λογαριθμική πιθανότητα ενός παρατηρούμενου διανύσματος  είναι απλώς το λογάριθμο της συνάρτησης πυκνότητας πιθανότητας: 

,

Η κυκλικά συμμετρική εκδοχή της μη κεντρικής περίπτωσης του μιγαδικού, όπου  είναι ένα διάνυσμα μιγαδικών αριθμών, θα είναι

δηλ. με τη συζυγή μεταφορά (που υποδεικνύεται με ) να αντικαθιστά την κανονική μεταφορά (που υποδεικνύεται με ).  Αυτό είναι ελαφρώς διαφορετικό από ό,τι στην πραγματική περίπτωση, επειδή η κυκλικά συμμετρική εκδοχή της μιγαδικής κανονικής κατανομής έχει ελαφρώς διαφορετική μορφή για τη σταθερά κανονικοποίησης.

Ένας παρόμοιος συμβολισμός χρησιμοποιείται για την πολλαπλή γραμμική παλινδρόμηση.Tong, T. (2010) Multiple Linear Regression : MLE and Its Distributional Results , Lecture Notes

Δεδομένου ότι η λογαριθμική πιθανότητα ενός κανονικού διανύσματος είναι μια τετραγωνική μορφή του κανονικού διανύσματος, κατανέμεται ως μια γενικευμένη μεταβλητή χι-τετραγώνου.

Διαφορική εντροπία

Η διαφορική εντροπία της πολυμεταβλητής κανονικής κατανομής είναι 

,

όπου οι ράβδοι υποδηλώνουν τον προσδιοριστή του πίνακα,  είναι η διαστατικότητα του διανυσματικού χώρου και το αποτέλεσμα έχει μονάδες nats.

Απόκλιση Kullback–Leibler

Η απόκλιση Kullback-Leibler από  σε , για μη ιδιάζοντες πίνακες Σ1 και Σ0, is:

όπου  δηλώνει τον προσδιοριστή του πίνακα,  είναι το ίχνος,  είναι ο φυσικός λογάριθμος και  είναι η διάσταση του διανυσματικού χώρου.

Ο λογάριθμος πρέπει να λαμβάνεται στη βάση e, δεδομένου ότι οι δύο όροι που ακολουθούν τον λογάριθμο είναι οι ίδιοι λογάριθμοι στη βάση e εκφράσεων που είτε είναι παράγοντες της συνάρτησης πυκνότητας είτε προκύπτουν με άλλο τρόπο φυσικά. 

Διαιρώντας ολόκληρη την παραπάνω έκφραση με loge 2 προκύπτει η απόκλιση σε bit.

Όταν ,

Κανονικά κατανεμημένη και ανεξάρτητη

Εάν τα  και  είναι κανονικά κατανεμημένα ανεξάρτητα, αυτό σημαίνει ότι είναι «από κοινού κανονικά κατανεμημένα», δηλαδή το ζεύγος  πρέπει να έχει πολυμεταβλητή κανονική κατανομή.  Ωστόσο, ένα ζεύγος από κοινού κανονικά κατανεμημένων μεταβλητών δεν χρειάζεται να είναι ανεξάρτητο (θα ήταν έτσι μόνο αν ήταν ασυσχέτιστο,  ).

Δύο κανονικά κατανεμημένες τυχαίες μεταβλητές δεν χρειάζεται να είναι από κοινού διμεταβλητές κανονικές
Το γεγονός ότι δύο τυχαίες μεταβλητές  και  έχουν και οι δύο κανονική κατανομή δεν σημαίνει ότι το ζεύγος  έχει από κοινού κανονική κατανομή.  Ένα απλό παράδειγμα είναι εκείνο στο οποίο το X έχει κανονική κατανομή με αναμενόμενη τιμή 0 και διακύμανση 1, και  αν  και  αν , όπου .  Υπάρχουν παρόμοια αντιπαραδείγματα για περισσότερες από δύο τυχαίες μεταβλητές. Γενικά, αθροίζουν σε ένα μοντέλο μίξης.

Συσχετίσεις και ανεξαρτησία

Γενικά, οι τυχαίες μεταβλητές μπορεί να είναι ασυσχέτιστες αλλά στατιστικά εξαρτημένες.  Αν όμως ένα τυχαίο διάνυσμα έχει πολυμεταβλητή κανονική κατανομή, τότε οποιαδήποτε δύο ή περισσότερες συνιστώσες του που είναι ασυσχέτιστες είναι ανεξάρτητες.  Αυτό σημαίνει ότι οποιεσδήποτε δύο ή περισσότερες συνιστώσες του που είναι ανεξάρτητες κατά ζεύγη είναι ανεξάρτητες. Αλλά, όπως επισημάνθηκε μόλις παραπάνω, δεν ισχύει ότι δύο τυχαίες μεταβλητές που είναι (ξεχωριστά, οριακά) κανονικά κατανεμημένες και ασυσχέτιστες είναι ανεξάρτητες.

Κατανομές υπό όρους

Αν το Ν -διάστατο x κατανεμηθεί ως εξής

και κατά συνέπεια τα μ και Σ κατανέμονται ως εξής

τότε η κατανομή των x2 = a υπό την προϋπόθεση x2 = a είναι πολυμεταβλητή κανονική   όπου

και πίνακα συνδιακύμανσης

Εδώ  είναι το γενικευμένο αντίστροφο του  . Ο πίνακας  είναι το συμπλήρωμα Σουρ (Schur) του Σ22 στο Σ. Δηλαδή, η παραπάνω εξίσωση είναι ισοδύναμη με την αντιστροφή του συνολικού πίνακα συνδιακύμανσης, την αφαίρεση των γραμμών και των στηλών που αντιστοιχούν στις μεταβλητές που εξαρτώνται και την αντιστροφή προς τα πίσω για να προκύψει ο υπό συνθήκη πίνακας συνδιακύμανσης.

Ας σημειωθεί ότι γνωρίζοντας ότι  μεταβάλλει τη διακύμανση, αν και η νέα διακύμανση δεν εξαρτάται από τη συγκεκριμένη τιμή του a', ίσως πιο εντυπωσιακό είναι ότι ο μέσος όρος μετατοπίζεται κατά ; σε σύγκριση με την περίπτωση που δεν γνωρίζουμε την τιμή του a, οπότε x1 θα είχε κατανομή
.

Ένα ενδιαφέρον γεγονός που προέκυψε προκειμένου να αποδειχθεί αυτό το αποτέλεσμα, είναι ότι τα τυχαία διανύσματα  και  είναι ανεξάρτητα.

Ο πίνακας  Σ12Σ22−1 είναι γνωστός ως πίνακας των συντελεστών παλινδρόμησης.

 Διμεταβλητή περίπτωση 

Στη διμεταβλητή περίπτωση όπου το x χωρίζεται σε  και , η υπό συνθήκη κατανομή του  δεδομένου του  είναι 



όπου  είναι ο συντελεστής συσχέτισης μεταξύ  and .

 Διμεταβλητή υπό συνθήκη προσδοκία 

Γενική περίπτωση

Η υπό συνθήκη προσδοκία της X1 given X2 είναι:



Απόδειξη: το αποτέλεσμα προκύπτει με τη λήψη της προσδοκίας της υπό συνθήκη κατανομής  παραπάνω.

Στην περίπτωση με κέντρο και μοναδιαίες αποκλίσεις

Η υπό συνθήκη προσδοκία της X1 given X2 είναι



και η υπό συνθήκη διακύμανση είναι



έτσι η υπό συνθήκη διακύμανση δεν εξαρτάται από x2.

Η υπό συνθήκη προσδοκία της X1 λαμβάνοντας υπόψιν ότι το Χ2 είναι μικρότερο/μεγαλύτερο από το z είναι:

όπου ο τελικός λόγος εδώ ονομάζεται αντίστροφος λόγος Μιλς.

Απόδειξη: τα δύο τελευταία αποτελέσματα προκύπτουν με τη χρήση του αποτελέσματος , έτσι ώστε

 και στη συνέχεια χρησιμοποιώντας τις ιδιότητες της προσδοκίας μιας αποκομμένης κανονικής κατανομής.

Περιθωριακές κατανομές

Για να λάβουμε την περιθωριακή κατανομή σε ένα υποσύνολο πολυμεταβλητών κανονικών τυχαίων μεταβλητών, αρκεί να αφαιρέσουμε τις άσχετες μεταβλητές (τις μεταβλητές που θέλουμε να εξαιρέσουμε) από το διάνυσμα του μέσου όρου και τον πίνακα συνδιακύμανσης. Η απόδειξη γι' αυτό προκύπτει από τους ορισμούς των πολυμεταβλητών κανονικών κατανομών και της γραμμικής άλγεβραςAn algebraic computation of the marginal distribution is shown here http://fourier.eng.hmc.edu/e161/lectures/gaussianprocess/node7.html . A much shorter proof is outlined here https://math.stackexchange.com/a/3832137. 

Παράδειγμα

Έστω  πολυμεταβλητές κανονικές τυχαίες μεταβλητές με μέσο διάνυσμα  και πίνακα συνδιακύμανσης Σ (τυποποιημένη παραμετροποίηση για πολυμεταβλητές κανονικές κατανομές).  Τότε η κοινή κατανομή του X′ = [X1, X3]  είναι πολυμεταβλητή κανονική με μέσο διάνυσμα μ′ = [μ1, μ3] και πίνακα συνδιακύμανσης

.

Αφινικός μετασχηματισμός

Αν  είναι αφινικός μετασχηματισμός του  όπου c είναι ένα  διάνυσμα σταθερών και B είναι ένας σταθερός   πίνακας, τότε  Y έχει πολυμεταβλητή κανονική κατανομή με αναμενόμενη τιμή  και διακύμανση  BΣBT i.e., . Ειδικότερα, κάθε υποσύνολο των Xi έχει μια οριακή κατανομή που είναι επίσης πολυμεταβλητή κανονική. Για να γίνει αυτό αντιληπτό, ας θεωρήσουμε το ακόλουθο παράδειγμα: για να εξάγουμε το υποσύνολο (X1, X2, X4)T, χρησιμοποιώντας

που εξάγει απευθείας τα επιθυμητά στοιχεία.

Ένα άλλο συμπέρασμα είναι ότι η κατανομή του , όπου b είναι ένα σταθερό διάνυσμα με τον ίδιο αριθμό στοιχείων με το X' και η τελεία υποδηλώνει το γινόμενο τελείας, είναι μονομεταβλητή γκαουσιανή με .

Προσέξτε πώς η θετική οριστικότητα του Σ συνεπάγεται ότι η διακύμανση του γινομένου τελείας πρέπει να είναι θετική.

Ένας αφινικός μετασχηματισμός του Χ όπως το 2Χ δεν είναι το ίδιο με το άθροισμα δύο ανεξάρτητων πραγματώσεων του Χ.

Ταξινόμηση σε πολυμεταβλητές κανονικές κλάσεις

Γκαουσιανή διακριτική ανάλυση
Ας υποθέσουμε ότι οι παρατηρήσεις (που είναι διανύσματα) υποτίθεται ότι προέρχονται από μία από έναν αριθμό πολυμεταβλητών κανονικών κατανομών, με γνωστούς μέσους όρους και συνδιακυμάνσεις. Οποιαδήποτε δεδομένη παρατήρηση μπορεί τότε να ανατεθεί στην κατανομή από την οποία έχει τη μεγαλύτερη πιθανότητα να προέρχεται. Αυτή η διαδικασία ταξινόμησης είναι γνωστή ως ανάλυση διαχωρισμού Γκάους.
Η απόδοση της ταξινόμησης, δηλαδή οι πιθανότητες των διαφόρων αποτελεσμάτων ταξινόμησης και το συνολικό σφάλμα ταξινόμησης, μπορούν να υπολογιστούν με την αριθμητική μέθοδο της ανίχνευσης ακτίνων  (Matlab code).

Υπολογιστικές μέθοδοι

Συλλογή τιμών από την κατανομή

Μια ευρέως χρησιμοποιούμενη μέθοδος για την εξαγωγή (δειγματοληψία) ενός τυχαίου διανύσματος x από την Ν-διάστατη πολυδιάστατη κανονική κατανομή με μέσο διάνυσμα μ' και πίνακα συνδιακύμανσης Σ λειτουργεί ως εξής:

 Βρείτε κάθε πραγματικό πίνακα A τέτοιο ώστε . Όταν το Σ είναι θετικά ορισμένο, χρησιμοποιείται συνήθως η ανάλυση Χολέσκι, και η εκτεταμένη μορφή αυτής της αποσύνθεσης μπορεί πάντα να χρησιμοποιηθεί (καθώς ο πίνακας συνδιακύμανσης μπορεί να είναι μόνο θετικά ημι-ορισμένος) και στις δύο περιπτώσεις λαμβάνεται ένας κατάλληλος πίνακας A. Μια εναλλακτική λύση είναι η χρήση του πίνακα A = UΛ1/2 που προκύπτει από τη φασματική αποσύνθεση Σ = UΛU−1 of Σ. Η πρώτη προσέγγιση είναι πιο απλή υπολογιστικά, αλλά οι πίνακες Α αλλάζουν για διαφορετικές διατάξεις των στοιχείων του τυχαίου διανύσματος, ενώ η δεύτερη προσέγγιση δίνει πίνακες που σχετίζονται με απλές αναδιατάξεις. Θεωρητικά και οι δύο προσεγγίσεις δίνουν εξίσου καλούς τρόπους προσδιορισμού ενός κατάλληλου πίνακα A, αλλά υπάρχουν διαφορές στον υπολογιστικό χρόνο.
 Έστω  ένα διάνυσμα του οποίου οι συνιστώσες είναι N ανεξάρτητες τυπικές κανονικές μεταβλητές (οι οποίες μπορούν να παραχθούν, για παράδειγμα, με τη χρήση του μετασχηματισμού Μποξ-Μίλερ).
Έστω x' be . Η επιθυμητή κατανομή λαμβάνεται χρησιμοποιώντας την ιδιότητα του αφινικού μετασχηματισμού.

 Εξωτερικοί σύνδεσμοι 
English - Greek Dictionary of Pure and Applied Mathematics Εθνικό Μετσόβιο Πολυτεχνείο
Αγγλοελληνικό Λεξικό Μαθηματικής Ορολογίας - Πανεπιστήμιο Κύπρου
 Ευκλείδεια Γεωμετρία - Πανελλήνιο Σχολικό Δίκτυο
 Θεωρία ομάδων και Λι αλγεβρών -Εθνικό Αρχείο Διδακτορικών Διατριβών
 Θεωρία Αριθμών και Εφαρμογές
 Υπολογιστική Θεωρία Αριθμών
 Καμπυλότητες και γεωμετρία του Riemann σε διαφορίσιμες πολλαπλότητες Εθνικό Αρχείο Διδακτορικών Διατριβών

 Δείτε επίσης 
 Θεωρία αριθμών
 Αλγεβρική θεωρία αριθμών
 Επιστήμες συμπεριφοράς
 Αλγεβρική θεωρία αριθμών
 Διαφορική γεωμετρία
 Γεωμετρική τοπολογία
 Φυσικές επιστήμες
 Καρτεσιανό σύστημα συντεταγμένων
 Ευκλείδειος χώρος
 Ντάνιελ Γκόρενσταϊν
 Στατιστική μέθοδος
 Εφαρμοσμένα μαθηματικά
 Τοπολογικός χώρος
 Διακριτός μετασχηματισμός Φουριέ
 Θεμελιώδες θεώρημα αριθμητικής
 Αλγεβρική γεωμετρία
 Μιγαδικός αριθμός
 Δισδιάστατος χώρος

 Βιβλιογραφία











 Παραπομπές 

 Πηγές 








Κατηγορία:Επιστημονική μέθοδος
Κατηγορία:Περιοχές των μαθηματικών
Κατηγορία:Εφαρμοσμένα μαθηματικά
Κατηγορία:Στατιστική ανάλυση
Κατηγορία:Μέθοδοι επιστημονικής έρευνας
Κατηγορία:Κατανομές