אנטרופיית פון נוימן

אנטרופיית פון ניומן היא הכללה קוונטית של אנטרופיית שאנון הקלאסית. אנטרופיה זו הוצעה בשנת 1932 על ידי ג'ון פון נוימן, במפתיע, לפני ששאנון הגה את האנטרופיה שלו (1948). אנטרופיה זו מכמתת את כמות האינפורמציה במערכת, ואת הקורלציה בין מערכות קוונטיות.

אנטרופיית וון ניומן מתקשרת ל- התהליך של קידוד ופענוח מידע.
המטרה של אנטרופיה זו היא לכווץ מידע כדי להפחית את העלות של אחסונו או העברתו.
תאוריה זו נקראת תאוריית קידוד המקור של שאנון.

ביטוי מתמטי
במערכות קוונטיות, המתוארות על ידי מטריצת הצפיפות, אנטרופיית וון ניומן מתוארת בצורה הבאה:

ערך זה, בפיזיקה, נותן את הקשר בין מכניקה סטטיסטית-קוונטית ותרמודינמיקה: כאשר מטריצת הצפיפויות תוגדר כך-  ( היא פונקציית החלוקה) נקבל את מצב גיבס המתאר סידור מצבים בשיווי משקל תרמודינמי.

נתמקד במרחב הילברט בעל מימד סופי. בהנחה כי המערכת הקוונטית מיוצגת על ידי סידור של מצבים עצמיים , מטריצת הצפיפות,  תהא:

עבור המקרה הספציפי בו המצבים המעורבים מהווים בסיס אורתונורמלי למרחב הילברט, נקבל כי מטריצת הצפיפות היא אלכסונית, כך שהערכים העצמיים של  הם  ואנטרופיית פון נוימן תכתב כך:

 כאשר  הוא משתנה מקרי עם התפלגות  .
במקרה זה אנטרופיית פון ניומן זהה לאנטרופיית שאנון.
במקרה בו המצבים המעורבים אינם אורתונורמליים נקבל כי  . ניתן גם להראות כי באופן כללי מתקיים .

תכונות

אי שליליות: , כאשר השווין לאפס מתקיים אם ורק אם מטריצת הצפיפויות מייצגת מצב טהור. תכונה זו נובעת ישירות מהגדרת האנטרופיה, כאשר .
 חסם עליון:  כאשר  הוא מימד מרחב הילברט. מקסימום זה מתקבל עבור מצב מעורב מקסימלי, בו  מתפלג אחיד.
 אינווריאנטית תחת מעבר בסיס של מטריצת הצפיפויות, זאת אומרת .
 אדיטיביות: .
 תת חיבוריות: , עבור מצב בי-פרטיטי.
 תת-חיבוריות (חזקה): 
 קעירות: , כאשר  הוא אופרטור צפיפות במרחב הילברט  עבור קבוצה סופית , ו-  פונקציית ההסתברות, כלומר מקיימת  ומתקיים: .
 אי שוויון עיבוד הנתונים: , כאשר:  הוא ערוץ קוונטי יחידני.
 אי שוויון המשולש: עבור מערכת בי-פרטיטית  מתקיים

אנטרופיית פון נוימן היחסית
באנלוגיה ישירה לאנטרופיית שאנון היחסית, נגדיר את אנטרופיית פון נוימן היחסית:

אנטרופיית פון נוימן היחסית נותנת אינדיקציה לכמה קשה להבחין בין המצבים  ו- . אנטרופיה זו נודעת גם כאנטרופיה הקוונטית היחסית.

ראו גם
 אנטרופיית צאליס
 אנטרופיית שאנון
 אנטרופיית רניי

הערות שוליים 

סטטיסטיקה
תורת ההסתברות
תורת האינפורמציה