אנטרופיית רניי

אנטרופיית רניי היא הכללה של אנטרופיות בתורת האינפורמציה. בשנת 1961 הציג אלפרד רניי את משפחת האנטרופיות הפרמטריות, כהכללה מתמטית של אנטרופיית שאנון. רניי מעוניין היה למצוא שיטת מדידת מידע כללית ביותר המשמרת את תכונת האדיטיביות של מערכות סטטיסטיות בלתי תלויות, ומתואמת עם אקסיומות ההסתברות. לאנטרופיית רניי מספר יישומים בתורת הקודים, מכניקה סטטיסטית, סטטיסטיקה ותחומים נוספים אחרים. יהי X {\displaystyle X} משתנה מקרי בדיד בעל תומך X = { x i | 1 ≤ i ≤ n } {\displaystyle {\mathcal {X}}=\{x_{i}|1\leq i\leq n\}} ופונקציית הסתברות p i {\displaystyle p_{i}} , המקיימת p i = P r X ( x i ) {\displaystyle p_{i}=Pr_{X}(x_{i})} . אנטרופיית רניי מסדר α {\displaystyle \alpha } (כאשר α ≥ 0 {\displaystyle \alpha \geq 0} ) עבור X {\displaystyle X} תהא: H α ( X ) ≜ { 1 1 − α log ⁡ ∑ i = 1 n p i α if  α ≠ 1 H 1 ( X ) if  α = 1 {\displaystyle H_{\alpha }(X)\triangleq {\begin{cases}{1 \over 1-\alpha }\log {\sum _{i=1}^{n}p_{i}^{\alpha }}&{\mbox{if }}\alpha \neq 1\\H_{1}(X)&{\mbox{if }}\alpha =1\end{cases}}} כאשר: בדר"כ בסיס הלוגריתם הוא 2 ו- H 1 ( X ) = − ∑ i = 1 n p i log ⁡ p i {\displaystyle H_{1}(X)=-\sum _{i=1}^{n}p_{i}\log {p_{i}}} היא אנטרופיית שאנון. כמו כן, α {\displaystyle {\displaystyle \alpha }} פרמטר חסר יחידות הנקרא אינדקס האנטרופיה, ומאפיין את דרגת אי האקסטנסיביות של המערכת. אין שיטה כללית לדעת מהו ערכו של אינדקס האנטרופיה, וניתן להשתמש בו על מנת להתאים את רגישות הביטוי לצורת התפלגות ההסתברות. במקרה בו פונקציית ההסתברות מתפלגת באופן אחיד, p i = 1 n {\displaystyle p_{i}={1 \over n}} עבור 1 ≤ i ≤ n {\displaystyle {1\leq i\leq n}} , נקבל כי: ∀ α ≥ 0 ; H α ( X ) = log ⁡ ( n ) {\displaystyle \forall \alpha \geq 0;H_{\alpha }(X)=\log(n)} . נמנה מספר תכונות חשובות עבור אנטרופיית רניי: אדיטיביות H α ( X ) {\displaystyle H_{\alpha }(X)} אי שלילית: H α ( X ) ≥ 0 {\displaystyle H_{\alpha }(X)\geq 0} . קעירות - עבור α ≤ 1 {\displaystyle \alpha \leq 1} אנטרופיית רניי קעורה. לעומת זאת, עבור α > 1 {\displaystyle \alpha >1} אינה קמורה או קעורה בלבד. ניתן להראות כי תכונת הקעירות נשברת עבור α > α ⋆ > 1 {\displaystyle \alpha >\alpha ^{\star }>1} , כאשר α ⋆ {\displaystyle \alpha ^{\star }} תלוי ב n {\displaystyle n} באופן הבא: α ⋆ ≤ 1 + ln ⁡ ( 4 ) ln ⁡ ( n − 1 ) {\displaystyle \alpha ^{\star }\leq 1+{\ln(4) \over \ln(n-1)}} . עבור α ≥ β {\displaystyle \alpha \geq \beta } כאשר: α , β ∈ [ 0 , ∞ ) {\displaystyle \alpha ,\beta \in [0,\infty )} נקבל כי 0 ≤ H α ( X ) ≤ H β ( X ) {\displaystyle 0\leq H_{\alpha }(X)\leq H_{\beta }(X)} H α ( X ) {\displaystyle H_{\alpha }(X)} פונקציה חסומה, רציפה ולא עולה ב- α {\displaystyle \alpha } . H z ( X ) {\displaystyle H{z}(X)} עם z = α + j ω {\displaystyle z=\alpha +j\omega } אנליטית בכל המישור המרוכב מלבד בציר הממשי השלילי. מכאן, סינגולריות האנטרופיה עבור α = 1 {\displaystyle \alpha =1} אינה מהותית, כך שכפי שציינו בגבול α → 1 {\displaystyle \alpha \rightarrow 1} נקבל את אנטרופיית שאנון. ההשלכה של תכונת הקעירות הדו משמעית היא שאנטרופיית רניי אינה מתאימה להוות אנטרופיה פיזיקלית (בניגוד לאנטרופיית שאנון) כאשר מבוטאת על ידי פונקציית הסתברות p i {\displaystyle p_{i}} רלוונטית. מתכונה ( 6 ) {\displaystyle (6)} ניתן להראות כי אם נבצע המשכה אנליטית של α {\displaystyle \alpha } למישור המרוכב, דהיינו z = α + j ω {\displaystyle z=\alpha +j\omega } , אזי H z ( X ) = ∑ i = 1 n p i z {\displaystyle H_{z}(X)=\sum _{i=1}^{n}p_{i}^{z}} אנליטית למעט בציר הממשי השלילי. ניתן להרחיב את הגדרת אנטרופיית רניי למקרה של משתנה מקרי דו ממדי בדיד באופן הבא: יהי ( X , Y ) {\displaystyle (X,Y)} משתנה מקרי דו־ממדי בדיד עם פונקציית הסתברות p i j = P r ( X = x i , Y = y j ) {\displaystyle p_{ij}=Pr(X=x_{i},Y=y_{j})} , כאשר 1 ≤ i ≤ n {\displaystyle {1\leq i\leq n}} , 1 ≤ j ≤ m {\displaystyle {1\leq j\leq m}} . אנטרופיית רניי המשותפת תהא: H α ( X , Y ) ≜ 1 1 − α log ⁡ ∑ i , j p i j α ; { α ≥ 0 , α ≠ 1 } {\displaystyle H_{\alpha }(X,Y)\triangleq {1 \over 1-\alpha }\log {\sum _{i,j}p_{ij}^{\alpha }};\{\alpha \geq 0,\alpha \neq 1\}} לאנטרופיית רניי המותנית היו מספר הצעות בספרות, אך רובן לא קיימו הן מונוטוניות והן את כלל השרשרת. בנוסף, הצעות אלו לא הסכימו עם אנטרופיית שאנון (המותנית) ואנטרופיית המינימום (המותנית). על כן, נציג הגדרה לאנטרופיית רניי המותנית אשר מסכימה עם האמור לעיל. יהיו X , Y {\displaystyle X,Y} משתנים מקריים בדידים עם תומכים X , Y {\displaystyle {\mathcal {X,Y}}} בהתאמה ופונקציית התפלגות מותנית P X | Y ( x | y ) {\displaystyle P_{X|Y}(x|y)} ו- α ∈ ( 0 , 1 ) ∪ ( 1 , ∞ ) {\displaystyle \alpha \in (0,1)\cup (1,\infty )} . אנטרופיית רניי היחסית תהא: H α ( X | Y ) ≜ − log ⁡ ( ∑ y ∈ Y P Y ( y ) ( ∑ x ∈ X P X | Y ( x | y ) α ) 1 α ) α α − 1 {\displaystyle H_{\alpha }(X|Y)\triangleq -\log \left(\sum _{y\in {\mathcal {Y}}}P_{Y}(y)\left(\sum _{x\in {\mathcal {X}}}P_{X|Y}(x|y)^{\alpha }\right)^{1 \over \alpha }\right)^{\alpha \over {\alpha -1}}} מספר הבחנות: H 1 ( X | Y ) ≜ lim α → 1 H α ( X | Y ) = H ( X | Y ) {\displaystyle H_{1}(X|Y)\triangleq \lim _{\alpha \rightarrow 1}H_{\alpha }(X|Y)=H(X|Y)} . כאשר H ( X | Y ) {\displaystyle H(X|Y)} היא אנטרופיית שאנון המותנית. lim α → ∞ H α ( X | Y ) = H ∞ ( X | Y ) {\displaystyle \lim _{\alpha \rightarrow \infty }H_{\alpha }(X|Y)=H_{\infty }(X|Y)} . כאשר H ∞ ( X | Y ) {\displaystyle H_{\infty }(X|Y)} היא אנטרופיית המינימום המותנית. H 0 ( X | Y ) ≜ lim α → 0 H α ( X | Y ) = log ⁡ ( max y ∈ Y { | sup ⁡ ( P X | Y = y ) | } ) {\displaystyle H_{0}(X|Y)\triangleq \lim _{\alpha \rightarrow 0}H_{\alpha }(X|Y)=\log \left(\max _{y\in {\mathcal {Y}}}\{|\operatorname {sup} (P_{X|Y=y})|\}\right)} . כאשר H 0 ( X | Y ) {\displaystyle H_{0}(X|Y)} היא פונקציית הארטלי המותנית או אנטרופיית המקסימום המותנית. עבור α ≥ β {\displaystyle \alpha \geq \beta } כאשר: α , β ∈ ( 0 , ∞ ) {\displaystyle \alpha ,\beta \in (0,\infty )} נקבל כי 0 ≤ H α ( X | Y ) ≤ H β ( X | Y ) {\displaystyle 0\leq H_{\alpha }(X|Y)\leq H_{\beta }(X|Y)} . מונוטוניות - עבור α ∈ ( 0 , ∞ ) {\displaystyle \alpha \in (0,\infty )} מתקיים: H α ( X ) ≥ H α ( X | Y ) {\displaystyle H_{\alpha }(X)\geq H_{\alpha }(X|Y)} . כלל השרשרת (החלש) - עבור α ∈ ( 0 , ∞ ) {\displaystyle \alpha \in (0,\infty )} מתקיים: H α ( X | Y ) ≥ H α ( X , Y ) − H 0 ( Y ) {\displaystyle H_{\alpha }(X|Y)\geq H_{\alpha }(X,Y)-H_{0}(Y)} . אנטרופיית רניי היחסית עלולה להימצא בתחומים רבים כגון: מערכות קוונטיות, הנדסה ביו-רפואית, קריפטוגרפיה, כלכלה, סטטיסטיקה ותחומים נוספים. יהי P , Q {\displaystyle P,Q} פונקציות הסתברות מעל תומך X {\displaystyle {\mathcal {X}}} , אזי דיברגנץ רניי D α {\displaystyle D_{\alpha }} של P {\displaystyle P} מ- Q {\displaystyle Q} , מסדר α {\displaystyle \alpha } , כאשר α ∈ [ 0 , 1 ) ∪ ( 1 , ∞ ) {\displaystyle \alpha \in [0,1)\cup (1,\infty )} , יהא: D α ( P | | Q ) ≜ 1 α − 1 log ⁡ ( ∑ z ∈ X P ( x ) α Q ( x ) 1 − α ) {\displaystyle D_{\alpha }(P||Q)\triangleq {1 \over {\alpha -1}}\log \left(\sum _{z\in {\mathcal {X}}}P(x)^{\alpha }Q(x)^{1-\alpha }\right)} הגדרה זו ניתנת להרחבה עבור המקרה בו α = 1 , ∞ {\displaystyle \alpha =1,\infty } על ידי לקיחת הגבולות: { D 1 ( P | | Q ) ≜ lim α → 1 D α ( P | | Q ) D ∞ ( P | | Q ) ≜ lim α → ∞ D α ( P | | Q ) {\displaystyle {\begin{cases}D_{1}(P||Q)\triangleq \lim _{\alpha \rightarrow 1}D_{\alpha }(P||Q)\\D_{\infty }(P||Q)\triangleq \lim _{\alpha \rightarrow \infty }D_{\alpha }(P||Q)\end{cases}}} ומתקיים: { D 1 ( P | | Q ) = ∑ x ∈ X P ( x ) log ⁡ ( P ( x ) Q ( x ) ) D ∞ ( P | | Q ) = log ⁡ ( supp x ∈ X ⁡ ( P ( x ) Q ( x ) ) ) {\displaystyle {\begin{cases}D_{1}(P||Q)=\sum _{x\in {\mathcal {X}}}P(x)\log \left({\frac {P(x)}{Q(x)}}\right)\\D_{\infty }(P||Q)=\log \left(\operatorname {supp} _{x\in {\mathcal {X}}}\left({\frac {P(x)}{Q(x)}}\right)\right)\end{cases}}} . במקרה של α = 1 {\displaystyle \alpha =1} דיברגנץ רניי D α {\displaystyle D_{\alpha }} של P {\displaystyle P} מ- Q {\displaystyle Q} הוא דיברגנץ קולבק-לייבלר של P {\displaystyle P} מ- Q {\displaystyle Q} . לדיברגנץ רניי קיימת גם הכללה קוונטית. תחילה, עבור α ∈ [ 0 , 1 ) ∪ ( 1 , ∞ ) {\displaystyle \alpha \in [0,1)\cup (1,\infty )} נחפש את הפונקציונלים הממשיים D α ( ⋅ | | ⋅ ) {\displaystyle {\mathcal {D}}_{\alpha }(\cdot ||\cdot )} על זוגות אופרטורים חיוביים, מבוטאים באמצעות פרמטר α {\displaystyle \alpha } , כך שמתקיים: D α ( ρ X , σ X ) = D α ( P | | Q ) {\displaystyle {\mathcal {D}}_{\alpha }(\rho _{X},\sigma _{X})=D_{\alpha }(P||Q)} . כאשר: σ X {\displaystyle \sigma _{X}} , ρ X {\displaystyle \rho _{X}} הם מצבים קלאסיים ומתקיים: ρ X = ∑ x ∈ X P ( x ) | x ⟩ ⟨ x | X {\displaystyle \rho _{X}=\sum _{x\in {\mathcal {X}}}P(x)|x\rangle \langle x|_{X}} ו- σ X = ∑ x ∈ X Q ( x ) | x ⟩ ⟨ x | X {\displaystyle \sigma _{X}=\sum _{x\in {\mathcal {X}}}Q(x)|x\rangle \langle x|_{X}} עם supp ⁡ P ⊆ supp ⁡ Q {\displaystyle \operatorname {supp} P\subseteq \operatorname {supp} Q} . בנוסף, נדרוש כי אי שוויון עיבוד הנתונים שיתקיים. כלומר, עבור אופרטור קוונטי Λ {\displaystyle \Lambda } : D α ( ρ | | σ ) ≥ D α ( Λ ( ρ ) | | Λ ( σ ) ) {\displaystyle {\mathcal {D}}_{\alpha }(\rho ||\sigma )\geq {\mathcal {D}}_{\alpha }(\Lambda (\rho )||\Lambda (\sigma ))} . על כן, ההכללה הקוונטית של דיברגנץ רניי תוגדר להיות: D α ( ρ | | σ ) ≜ 1 α − 1 log ⁡ Tr ⁡ ( ρ α σ 1 − α ) Tr ⁡ ρ {\displaystyle D_{\alpha }(\rho ||\sigma )\triangleq {\frac {1}{\alpha -1}}\log {\frac {\operatorname {Tr} (\rho ^{\alpha }\sigma ^{1-\alpha })}{\operatorname {Tr} \rho }}} כאשר: ρ , σ ∈ P ( H ) {\displaystyle \rho ,\sigma \in {\mathcal {P}}({\mathcal {H}})} , ו - ρ ⊆ supp ⁡ σ {\displaystyle \rho \subseteq \operatorname {supp} \sigma } ל- α > 1 {\displaystyle \alpha >1} או ρ ⊥̸ σ {\displaystyle \rho \not \perp \sigma } ל- α ∈ [ 0 , 1 ) {\displaystyle \alpha \in [0,1)} . לביטוי זה פירושים אופרטורים ישירים כהכללה של ערכי קצה בניסויים בתאוריית הקוונטים. ניתן להסתכל על צמד פונקציות הסתברות כמשחק מזלות אשר בו אחת מההסתברויות מגדירה את הסיכויים הרשמיים, והשנייה את ההסתברויות עצמן. עצם ידיעת ההסתברות עצמה מאפשרת לשחקן המשתתף במשחק להרוויח, ושיעור הרווח עצמו מתקשר לדיברגץ רניי בצורה הבאה: E x p e c t e d R a t e = 1 R D 1 ( b ‖ m ) + R − 1 R D 1 / R ( b ‖ m ) {\displaystyle {\rm {ExpectedRate}}={\frac {1}{R}}\,D_{1}(b\|m)+{\frac {R-1}{R}}\,D_{1/R}(b\|m)\,} . כאשר: m {\displaystyle m} מגדירה את הסיכויים הרשמיים (לענייננו - השוק), של המשחק, b {\displaystyle b} היא ההתפלגות בה המשקיעים מאמינים ו- R {\displaystyle R} היא שנאת סיכון של המשקיעים. אם ההתפלגות האמיתית היא p {\displaystyle p} (אשר אינה בהכרח מתלכדת עם אמונת המשקיע b {\displaystyle b} ), אזי השיעור הממשי לטווח הארוך יתכנס לציפייה האמיתית שלה מבנה מתמטי זהה: R e a l i z e d R a t e = 1 R ( D 1 ( p ‖ m ) − D 1 ( p ‖ b ) ) + R − 1 R D 1 / R ( b ‖ m ) {\displaystyle {\rm {RealizedRate}}={\frac {1}{R}}\,{\Big (}D_{1}(p\|m)-D_{1}(p\|b){\Big )}+{\frac {R-1}{R}}\,D_{1/R}(b\|m)\,} . אנטרופיית שאנון אנטרופיית פון נוימן אנטרופיית צאליס Shannon, C. (1948). "A mathematical theory of communication". The Bell System Technical Journal. 27 (3): 623–656, 379–423. doi:10.1002/j.1538-7305.1948.tb01338.x. J. Valverde-Albacete, Francisco; Peláez-Moreno, Carmen (2019). "The Case for Shifting the Rényi Entropy". Entropy-Basel. 21 (1). doi:10.3390/e21010046. Principe, Jose C. (2010). Information Theoretic Learning : Renyi's Entropy and Kernel Perspectives. Springer New York. p. 51. ISBN 978-1-4419-1570-2. Golshani, Leila; Pasha, Einollah; Yari, Gholamhossein (27 ביוני 2009). "Some properties of Rényi entropy and Rényi entropy rate". Information Sciences. 179 (14): 2426–2433. doi:10.1016/j.ins.2009.03.002. {{cite journal}}: (עזרה) Berens, Stefan (28 באוגוסט 2013). Conditional Rényi entropy (MSc). Leiden University. {{cite thesis}}: (עזרה) Leditzky, Felix (בנובמבר 2011). Relative entropies and their use in quantum information theory (PhD). Girton College, University of Cambridge. {{cite thesis}}: (עזרה)