Ανισότητα Μπουλ

Στην θεωρία πιθανοτήτων, η ανισότητα Μπουλ ή ιδιότητα της υποπροσθετικότητας (αναφέρεται και ως ανισότητα Boole) λέει ότι για ένα σύνολο από γεγονότα, η πιθανότητα να συμβεί τουλάχιστον ένα από αυτά είναι το πολύ όσο το άθροισμα της πιθανότητας να συμβεί το κάθε γεγονός ξεχωριστά. Πιο συγκεκριμένα, για κάθε n {\displaystyle n} γεγονότα A 1 , … , A n {\displaystyle A_{1},\ldots ,A_{n}} , ισχύει ότι Pr ( ⋃ i = 1 n A i ) ≤ ∑ i = 1 n Pr ( A i ) . {\displaystyle \Pr \left(\bigcup _{i=1}^{n}A_{i}\right)\leq \sum _{i=1}^{n}\Pr(A_{i}).} Πιο γενικά, για κάθε αριθμήσιμο σύνολο γεγονότων A 1 , A 2 , … {\displaystyle A_{1},A_{2},\ldots } ισχύει ότι Pr ( ⋃ i = 1 n A i ) ≤ ∑ i = 1 n Pr ( A i ) . {\displaystyle \Pr \left(\bigcup _{i=1}^{n}A_{i}\right)\leq \sum _{i=1}^{n}\Pr(A_{i}).}

 Για την περίπτωση n = 2 {\displaystyle n=2} γεγονότων, θέλουμε να δείξουμε ότι Pr ( A 1 ) + Pr ( A 2 ) ≥ Pr ( A 1 ∪ A 2 ) . {\displaystyle \Pr(A_{1})+\Pr(A_{2})\geq \Pr(A_{1}\cup A_{2}).} Από την ταυτότητα για την ένωση δύο γεγονότων έχουμε ότι Pr ( A 1 ∪ A 2 ) = Pr ( A 1 ) + Pr ( A 2 ) − Pr ( A 1 ∩ A 2 ) . {\displaystyle \Pr(A_{1}\cup A_{2})=\Pr(A_{1})+\Pr(A_{2})-\Pr(A_{1}\cap A_{2}).} Επειδή, η πιθανότητα Pr ( A 1 ∩ A 2 ) ≥ 0 {\displaystyle \Pr(A_{1}\cap A_{2})\geq 0} , ισχύει ότι 0 ≤ Pr ( A 1 ) + Pr ( A 2 ) − Pr ( A 1 ∪ A 2 ) , {\displaystyle 0\leq \Pr(A_{1})+\Pr(A_{2})-\Pr(A_{1}\cup A_{2}),} που συνεπάγεται ότι Pr ( A 1 ∪ A 2 ) ≤ Pr ( A 1 ) + Pr ( A 2 ) , {\displaystyle \Pr(A_{1}\cup A_{2})\leq \Pr(A_{1})+\Pr(A_{2}),} το οποίο είναι και το ζητούμενο. Θα αποδείξουμε με την χρήση της μαθηματικής επαγωγής ότι ισχύει για οποιαδήποτε n ≥ 1 {\displaystyle n\geq 1} στο πλήθος γεγονότα. Βασική περίπτωση: Για n = 1 {\displaystyle n=1} , η ανισότητα ισχύει ως ισότητα για κάθε γεγονός A 1 {\displaystyle A_{1}} , δηλαδή Pr ( A 1 ) ≤ Pr ( A 1 ) {\displaystyle \Pr(A_{1})\leq \Pr(A_{1})} . Επαγωγικό βήμα: Θεωρούμε ότι ισχύει για n = k {\displaystyle n=k} γεγονότα. Θα αποδείξουμε ότι ισχύει για n = k + 1 {\displaystyle n=k+1} γεγονότα A 1 , … , A k + 1 {\displaystyle A_{1},\ldots ,A_{k+1}} . Ξεκινάμε με το αριστερό μέλος, Pr ( ⋃ i = 1 k + 1 A i ) = Pr ( ⋃ i = 1 k A i ∪ A k + 1 ) ≤ Pr ( ⋃ i = 1 k A i ) + Pr ( A k + 1 ) , {\displaystyle \Pr \left(\bigcup _{i=1}^{k+1}A_{i}\right)=\Pr \left(\bigcup _{i=1}^{k}A_{i}\cup A_{k+1}\right)\leq \Pr \left(\bigcup _{i=1}^{k}A_{i}\right)+\Pr(A_{k+1}),} από την παραπάνω περίπτωση για n = 2 {\displaystyle n=2} . Χρησιμοποιώντας την επαγωγική υπόθεση για τα γεγονότα A 1 , … , A k {\displaystyle A_{1},\ldots ,A_{k}} έχουμε ότι Pr ( ⋃ i = 1 k + 1 A i ) ≤ ∑ i = 1 k Pr ( A i ) + Pr ( A k + 1 ) {\displaystyle {\phantom {\Pr \left(\bigcup _{i=1}^{k+1}A_{i}\right)}}\leq \sum _{i=1}^{k}\Pr(A_{i})+\Pr(A_{k+1})} Pr ( ⋃ i = 1 k + 1 A i ) = ∑ i = 1 k + 1 Pr ( A i ) . {\displaystyle {\phantom {\Pr \left(\bigcup _{i=1}^{k+1}A_{i}\right)}}=\sum _{i=1}^{k+1}\Pr(A_{i}).} Επομένως, ισχύει και για n = k + 1 {\displaystyle n=k+1} και συνεπώς για κάθε n ∈ N + {\displaystyle n\in \mathbb {N} _{+}} . Η παραπάνω απόδειξη ισχύει για πεπερασμένο πλήθος γεγονότων. Τώρα θα αποδείξουμε την ανισότητα για κάθε αριθμήσιμο πλήθος γεγονότων A 1 , A 2 , … {\displaystyle A_{1},A_{2},\ldots } . Ορίζουμε τα γεγονότα B 1 , B 2 , … {\displaystyle B_{1},B_{2},\ldots } ως εξής: B i = { A 1 αν i = 1 A i ∖ ⋃ j = 1 i − 1 A j διαφορετικά , {\displaystyle B_{i}={\begin{cases}A_{1}&{\text{αν }}i=1\\A_{i}\setminus \bigcup _{j=1}^{i-1}A_{j}&{\text{διαφορετικά}},\end{cases}}} έτσι ώστε να είναι ανεξάρτητα B i ∩ B j = ∅ {\displaystyle B_{i}\cap B_{j}=\emptyset } για i ≠ j {\displaystyle i\neq j} και B i ⊆ A i {\displaystyle B_{i}\subseteq A_{i}} . Συνεπώς, από το αξίωμα για την πιθανότητα ανεξάρτητων γεγονότων Pr ( ⋃ i = 1 ∞ A i ) = Pr ( ⋃ i = 1 ∞ B i ) = ∑ i = 1 ∞ Pr ( B i ) ≤ ∑ i = 1 ∞ Pr ( A i ) , {\displaystyle \Pr \left(\bigcup _{i=1}^{\infty }A_{i}\right)=\Pr \left(\bigcup _{i=1}^{\infty }B_{i}\right)=\sum _{i=1}^{\infty }\Pr(B_{i})\leq \sum _{i=1}^{\infty }\Pr(A_{i}),} χρησιμοποιώντας ότι Pr ( B i ) ≤ Pr ( A i ) {\displaystyle \Pr(B_{i})\leq \Pr(A_{i})} καθώς B i ⊆ A i {\displaystyle B_{i}\subseteq A_{i}} . Επομένως, έπεται η ανισότητα. Έστω ότι η πιθανότητα να βρέξει αύριο στην Αθήνα είναι p 1 = 0.1 {\displaystyle p_{1}=0.1} και η πιθανότητα να βρέξει αύριο στην Θεσσαλονίκη είναι p 2 = 0.2 {\displaystyle p_{2}=0.2} . Τότε η ανισότητα Μπουλ δίνει ότι η πιθανότητα να βρέξει σε μία από τις δύο πόλεις είναι το πολύ p 1 + p 2 = 0.1 + 0.2 = 0.3 {\displaystyle p_{1}+p_{2}=0.1+0.2=0.3} . Παρατηρήστε ότι δεν κάναμε καμία υπόθεση ότι τα γεγονότα είναι ανεξάρτητα. Αλλά αν οι πιθανότητες ήταν μεγαλύτερες, για παράδειγμα p 1 = 0.6 {\displaystyle p_{1}=0.6} και p 2 = 0.8 {\displaystyle p_{2}=0.8} , τότε η ανισότητα Μπουλ θα μας έδινε ότι η πιθανότητα να βρέξει σε κάποιο από τα δύο μέρη είναι το πολύ p 1 + p 2 = 0.6 + 0.8 = 1.4 {\displaystyle p_{1}+p_{2}=0.6+0.8=1.4} , που δεν είναι χρήσιμο καθώς γνωρίζουμε ήδη ότι κάθε πιθανότητα είναι το πολύ 1 {\displaystyle 1} . Στο πρόβλημα του συλλέκτη κουπονιών, υπάρχουν n {\displaystyle n} είδη από κουπόνια και σε κάθε στιγμή ο συλλέκτης λαμβάνει ένα καινούργιο κουπόνι τυχαία από τα n {\displaystyle n} διαθέσιμα είδη. Χρησιμοποιώντας την ανισότητα Μπουλ, μπορούμε να δείξουμε ότι με μεγάλη πιθανότητα μετά από T = 2 n log ⁡ n {\displaystyle T=2n\log n} βήματα ο συλλέκτης θα έχει συλλέξει όλα τα κουπόνια. Έστω A i {\displaystyle A_{i}} το γεγονός ότι το i {\displaystyle i} -οστό τύπου κουπόνι δεν έχει συλλεχθεί στα πρώτα T {\displaystyle T} βήματα. Τότε Χρησιμοποιώντας την ανισότητα του Μπουλ έχουμε ότι p ≥ 1 − ∑ i = 1 n Pr ( A i ) , {\displaystyle p\geq 1-\sum _{i=1}^{n}\Pr(A_{i}),} και επομένως μένει να φράξουμε την πιθανότητα Pr ( A i ) {\displaystyle \Pr(A_{i})} . Για να μην συλλέξουμε το κανένα κουπόνι είδους i {\displaystyle i} σημαίνει ότι σε κάθε ένα από τα T = 2 n log ⁡ n {\displaystyle T=2n\log n} βήματα διαλέξαμε κάποιο άλλο από τα n − 1 {\displaystyle n-1} κουπόνια. Επομένως, αφού οι επιλογές στα βήματα είναι ανεξάρτητες Pr ( A i ) = ( n − 1 n ) T = ( 1 − 1 n ) 2 n log ⁡ n ≤ ( e − 1 / n ) − 2 n log ⁡ n = e 2 log ⁡ n = n − 2 = 1 n 2 , {\displaystyle \Pr(A_{i})=\left({\frac {n-1}{n}}\right)^{T}=\left(1-{\frac {1}{n}}\right)^{2n\log n}\leq \left(e^{-1/n}\right)^{-2n\log n}=e^{2\log n}=n^{-2}={\frac {1}{n^{2}}},} όπου χρησιμοποιήσαμε ότι 1 + x ≤ e x {\displaystyle 1+x\leq e^{x}} για κάθε x ∈ R {\displaystyle x\in \mathbb {R} } και ότι e x log ⁡ n = n x {\displaystyle e^{x\log n}=n^{x}} για κάθε x ∈ R {\displaystyle x\in \mathbb {R} } . Επομένως, επιστρέφοντας στην (1) έχουμε ότι p ≥ 1 − ∑ i = 1 n Pr ( A i ) ≥ 1 − n ⋅ 1 n 2 = 1 − 1 n , {\displaystyle p\geq 1-\sum _{i=1}^{n}\Pr(A_{i})\geq 1-n\cdot {\frac {1}{n^{2}}}=1-{\frac {1}{n}},} που ολοκληρώνει την απόδειξη ότι με "μεγάλη πιθανότητα" ο συλλέκτης θα έχει μαζέψει όλων των ειδών τα κουπόνια στα πρώτα T {\displaystyle T} βήματα. Συγκεκριμένα όσο μεγαλώνει το n {\displaystyle n} τόσο μεγαλώνει και η πιθανότητα. Στην θεωρητική πληροφορική και συγκεκριμένα στην ανάλυση πιθανοτικών αλγορίθμων, η ανισότητα Μπουλ χρησιμοποιείται συχνά για να φράξει την πιθανότητα ένας αλγόριθμος να αποτύχει ή να χρειάζεται πολύ χρόνο να καταλήξει στην σωστή απάντηση. Στην ίδια εργασία του Τζορτζ Μπουλ παρουσιάζεται και το εξής κάτω φράγμα για την πιθανότητα της ένωσης γεγονότων::297-300 Pr ( ⋃ i = 1 n A i ) ≥ max j = 1 , … , n Pr ( A j ) , {\displaystyle \Pr \left(\bigcup _{i=1}^{n}A_{i}\right)\geq \max _{j=1,\ldots ,n}\Pr(A_{j}),} χρησιμοποιώντας ότι αφού A j ⊆ ⋃ i = 1 n A i {\displaystyle \textstyle A_{j}\subseteq \bigcup _{i=1}^{n}A_{i}} , έχουμε ότι Pr ( A j ) ⊆ Pr ( ⋃ i = 1 n A i ) {\displaystyle \textstyle \Pr(A_{j})\subseteq \Pr(\bigcup _{i=1}^{n}A_{i})} για κάθε j = 1 , … , n {\displaystyle j=1,\ldots ,n} , άρα και για το γεγονός με την μέγιστη πιθανότητα. Η ανισότητα καλείται και ως ανισότητα Μπουλ από τον Τζορτζ Μπουλ.:307 Ανισότητες Μπονφερρόνι