קוד האפמן

קוד האפמן הוא שיטה לקידוד סימנים, כגון אותיות מאלף בית מסוים, ללא אובדן נתונים. הקוד שייך למשפחה שימושית של קודים המכונה קודי תחיליות (ראו למטה), ובמשפחה זו הוא הקוד המספק דחיסת נתונים מרבית, כלומר מאחסן את הסימנים במספר מזערי של סיביות, על פי הקריטריון המפורט בהמשך. השיטה מתבססת על הקצאת אורך משתנה לסימנים על פי שכיחותם, כך שסימן נפוץ יוצג באמצעות מספר קטן של סיביות. לרוב ניתן לחסוך באמצעות שיטה זו בין 20% ל-90% משטח האחסון. קוד האפמן הוא גרסה כללית יותר של עקרון קידוד הנקרא "קידוד אנטרופיה". בשנת 1951, במסגרת לימודיו לתואר שני ב־MIT, למד דייוויד האפמן קורס בתורת האינפורמציה שהייתה אז בחיתוליה. המרצה בקורס רוברט פאנו הציע לתלמידים לבחור בין עבודה מסכמת ובין מבחן מסכם. העבודה שהציע פאנו הייתה בנושא מציאת הקוד הבינארי היעיל ביותר - בעיה שהייתה פתוחה באותו הזמן; הקוד הטוב ביותר שהיה ידוע נקרא קוד שאנון-פאנו. האפמן, שלא הצליח להוכיח שאף אחד מהקודים הקיימים הוא יעיל ביותר, עמד להיכנע ולהתחיל ללמוד לבחינה המסכמת, כאשר עלה במוחו הרעיון להשתמש בעצים בינאריים ממוינים על פי תדירות האותיות, כשבנייתם היא מהעלים כלפי מעלה. במהרה הוכיח כי שיטתו היא היעילה ביותר. האפמן עקף את המגבלה המרכזית בקוד שאנון-פאנו על ידי כך שבנה את העץ מלמטה למעלה, ולא להפך. במערכות סימנים מקובלות, כגון קוד ASCII, ניתן אורך אחיד לכל הסימנים במערכת. זו שיטה פשוטה, אך היא אינה יעילה מבחינת נפח האחסון שהיא צורכת: מוטב היה להקצות קוד קצר לסימנים הנפוצים, גם על חשבון הארכה של הקוד המתאים לסימנים הנדירים. יעילות של קוד כזה תלויה רק בשכיחות הסימנים בשפה, ולא בסדר שבו הם מופיעים בטקסט נתון. יישום של גישה זו קיים כבר בקוד מורס לטלגרף אלחוטי. לאות הנפוצה 'ו' משמש בקוד מורס הקוד . ("נקודה"), ואילו לאות 'ע' משמש הקוד · − − − ("נקודה-קו-קו-קו"). נמחיש את יעילותה של גישה זו באמצעות דוגמה פשוטה. נניח שבשפה מסוימת השכיחות של האות א' היא מחצית מכלל האותיות. בקוד ASCII, שבו לכל תו מוקדשות 8 סיביות, מספר הסיביות הנדרש להצגת טקסט באורך n הוא 8n. נקודד כעת את התווים בדרך חדשה: האות א' תסומן בסיבית יחידה שערכה 0, וכל תו אחר יסומן בקוד ה-ASCII הרגיל שלו, שבתחילתו תתווסף הסיבית 1 (תוספת זו הכרחית, כדי שנוכל להבדיל בין סיבית 0 שמציינת את האות א, ובין סיבית 0 באמצע תו כלשהו). אורך הקוד הזה יהיה (בתוחלת) רק 5n, שהם חיסכון של 3/8. קוד האפמן הוא קוד תחיליות, כלומר מחרוזת ביטים שמייצגת אות לעולם אינה מהווה תחילית של מחרוזת המייצגת אות אחרת. קוד כזה מבטיח אפשרות יחידה לפיענוח, ויתרה מזאת, הפיענוח מהיר, שכן מספיק לעבור על הרצף המקודד פעם אחת מההתחלה ועד הסוף תוך שמירת מעט מידע. קוד מסוג זה ניתן לייצג על ידי עץ בינארי, כאשר עלי העץ מייצגים את האותיות המקודדות, וצמתי העץ מסומנים ב-0 או 1. כאשר רוצים לפענח רצף ביטים כלשהו, הולכים על העץ על פי הביטים שנקלטים עד אשר מגיעים לעלה. האות המאוחסנת בעלה היא האות המפוענחת. כאשר הקוד הוא אופטימלי, העץ יהיה עץ מלא. כלומר, לכל צומת שאינו עלה יהיו בדיוק שני בנים. לדוגמה, נניח כי בקוד כלשהו לשורש של העץ יש רק בן אחד, שאליו מובילה הקשת 0. פירוש הדבר הוא שבקוד לא יהיו כלל אותיות שקידודן מתחיל ב-1, וזהו בזבוז של מקום (כי אפשר היה, לכל הפחות, לתת לאות כלשהי את הקידוד "1", ובכך לחסוך במקום). בהינתן שכיחות התווים בשפה, הבעיה האלגוריתמית היא בניה מהירה של קוד יעיל, הממיר את התווים לרצפים קצרים של סיביות. לאחר שהקוד נבנה, אפשר לבצע קידוד ופענוח במעבר אחד על התווים, ולכן הבעיה המשמעותית היחידה היא במציאת הקוד. היעילות של קוד תלויה כאמור במספר המופעים של כל תו בשפה, ולכן לא קיים קוד אחיד שנותן קידוד אופטימלי לכל קבוצת תווים: אם שכיחות התווים שונה, יש להפעיל את האלגוריתם ולבנות את הקוד המתאים מחדש. מבחינה פורמלית, הקלט לבעיה הוא אוסף תווים,   a 1 , a 2 , … , a n {\displaystyle \ a_{1},a_{2},\dots ,a_{n}} , ומספר הפעמים שכל תו מופיע בקבוצת התווים:   c 1 , c 2 , … , c n {\displaystyle \ c_{1},c_{2},\dots ,c_{n}} . הפלט הצפוי הוא קוד, שהוא אוסף   h 1 , h 2 , … , h n {\displaystyle \ h_{1},h_{2},\dots ,h_{n}} של מילים בינאריות. נסמן ב-   | h k | {\displaystyle \ |h_{k}|} את אורכה של המילה ה-   k {\displaystyle \ k} . היעד הוא שהקוד שיוחזר יהיה כזה כך ש-   ∑ k = 1 n c k ⋅ | h k | {\displaystyle \ \sum _{k=1}^{n}c_{k}\cdot |h_{k}|} יהיה מינימלי. הסכום הוא בדיוק מספר הביטים שנדרש לקידוד קבוצת התווים כולה, שכן עבור כל תו, אנו מכפילים את מספר המופעים שלו בקבוצה במספר הביטים שנדרשים כדי לייצג אותו. האלגוריתם של האפמן הוא דוגמה לאלגוריתם חמדן. הוא מבצע בכל שלב את הפעולה שנראית, נקודתית, כפעולה המשתלמת ביותר, ומתבסס על כך שפתרון אופטימלי עבור   n − 1 {\displaystyle \ n-1} אותיות יכול להפוך לפתרון אופטימלי עבור   n {\displaystyle \ n} אותיות. הרעיון באלגוריתם הוא כזה: נבנה את העץ הבינארי של הקוד "מלמטה למעלה". ראשית, נמצא את שתי האותיות שמספר המופעים שלהן מינימלי, וניצור צומת חדש, כך ששתי האותיות הללו יהיו בניו. כעת נתייחס לצומת החדש בתור אות חדשה, שמספר המופעים שלה הוא סכום מספרי המופעים של שתי האותיות שהן בניה. כך קיבלנו צמצום של הבעיה מבעיה ב-   n {\displaystyle \ n} אותיות לבעיה ב-   n − 1 {\displaystyle \ n-1} אותיות. נחזור על התהליך עד שנישאר עם צומת אחד בלבד - ראש העץ. לצורך פעולתו, האלגוריתם זקוק למנגנון שיאפשר לו למצוא במהירות את שתי האותיות בעלות המופעים המינימליים. לצורך כך ניתן להיעזר בתור עדיפויות (שניתן לממש על ידי ערימה). מבחינה פורמלית: צור תור עדיפויות   Q {\displaystyle \ Q} שיכיל צמתים המייצגים את כל האותיות, כאשר העדיפות בתור ניתנת לצומת שמייצג את האות בעלת מספר המופעים הקטן ביותר. כל עוד בתור העדיפויות יש יותר מצומת אחד, בצע: צור צומת חדש,   z {\displaystyle \ z} . הוצא מתור העדיפויות את שני האיברים העליונים,   x , y {\displaystyle \ x,y} . הפוך את   x , y {\displaystyle \ x,y} לבנים הימני והשמאלי של   z {\displaystyle \ z} . קבע את מספר המופעים של   z {\displaystyle \ z} להיות סכום מספרי המופעים של   x {\displaystyle \ x} ו-   y {\displaystyle \ y} . הכנס את   z {\displaystyle \ z} לתור העדיפויות. הצומת הבודד שנותר בתור העדיפויות הוא שורש עץ הקוד המבוקש. קבע את מילת הקוד עבור כל אות, לפי המסלול מהשורש, לעלה שמייצג את האות. אם הקשת ה n {\displaystyle n} ית מובילה לבן שמאלי, ערך הביט ה n {\displaystyle n} י יהיה "0". אם היא מובילה לבן ימני, ערכו יהיה "1". סיבוכיות האלגוריתם היא   O ( n log ⁡ n ) {\displaystyle \ O(n\log n)} פעולות. אם האותיות נתונות בצורה ממוינת, קיים אלגוריתם עם זמן ריצה ליניארי ב- n למציאת קוד האפמן. עבור סיביות מסדר N > 2 {\displaystyle N>2} (היכולות לייצג N ערכים), האנטרופיה של הקידוד תהיה S N = − ∑ i P ( i ) ⋅ log N ⁡ P ( i ) [ N b i t s s y m b o l ] {\displaystyle S_{N}=-\sum _{i}{P(i)\cdot \log _{N}{P(i)}}[{\frac {Nbits}{symbol}}]} והיא מהווה חסם תחתון נמוך יותר לדחיסה משמרת נתונים של המידע, מאשר שימוש בביטים. בניית קוד האפמן הפעם תתבצע על ידי יצירת הורה לN הבנים בעלי ההסתברות הקטנה ביותר, והכנסת סכום N ההסתברויות לתור העדיפויות. עבור מקור אותיות המייצר אותיות בקצב קבוע ובאופן בלתי תלוי, ההסתברות לקבלת כל אות נתונה על ידי: P ( A ) = 0.1 , P ( B ) = 0.2 , P ( C ) = 0.25 , , P ( D ) = 0.3 , P ( E ) = 0.15 {\displaystyle P(A)=0.1,\quad P(B)=0.2,\quad P(C)=0.25,\quad ,P(D)=0.3,\quad P(E)=0.15} . נקודד בעזרת טריטים אשר יכול להכיל את שלושת הסימנים ( + , 0 , − ) {\displaystyle (+,0,-)} . אנטרופיית המקור תחושב לפי הנוסחה: S 3 = − ∑ i = A E P ( i ) log 3 ⁡ P ( i ) ≈ 1.406 [ T r i t s s y m b o l ] {\displaystyle S_{3}=-\sum _{i=A}^{E}{P(i)\log _{3}{P(i)}}\approx 1.406[{\frac {Trits}{symbol}}]} . חישוב קוד האפמן יעשה על פי הסכימה הבאה: כך שהקוד הוא: C ( A ) = − − , C ( B ) = − + , C ( C ) = 0 , C ( D ) = + C ( E ) = − 0 {\displaystyle C(A)=--\quad ,C(B)=-+\quad ,C(C)=0\quad ,C(D)=+\quad C(E)=-0} . קצב שליחת המידע במקרה זה יהיה R = 2 ⋅ ( P ( A ) + P ( B ) + P ( E ) ) + 1 ⋅ ( P ( C ) + P ( D ) ) = 1.45 [ T r i t s s y m b o l ] {\displaystyle R=2\cdot (P(A)+P(B)+P(E))+1\cdot (P(C)+P(D))=1.45[{\frac {Trits}{symbol}}]} שאינו רחוק מהאנטרופיה של הקוד, שהיא כאמור החסם התחתון של קצב השידור. ניתן להוכיח כי קוד האפמן מחזיר תמיד קידוד אופטימלי, מבין כל צפני התחיליות. באופן כללי יותר, קוד האפמן נותן אורך ממוצע מינימלי של צופן בהשוואה לכל צפני החד-פענח (Uniquely Decodable). יש להיזהר בשימוש במילה "אופטימלי", שכן קיימים קידודים יעילים יותר במצבים מסוימים. האופטימליות של קוד האפמן פירושה שהוא הקוד היעיל ביותר שבו מייצגים כל אות על ידי רצף קבוע של ביטים, כך שלכל אות בטקסט מותאם רצף שכזה. הוכחת אופטימליות הקוד אינה מסובכת, ומתבססת על כך שבהינתן קוד אופטימלי כלשהו, ניתן לבנות ממנו קוד אופטימלי חדש על ידי כך שמעבירים את שתי האותיות בעלות מספר המופעים הנמוך ביותר למקום הנמוך ביותר בעץ הקוד. מכיוון שפעולה זו יכולה רק לשפר את עלות הקוד הכוללת, הקוד נותר אופטימלי. כך ניתן באינדוקציה לבנות קוד האפמן מתוך כל קוד אופטימלי ללא הגדלת העלות. קוד האפמן, באתר MathWorld (באנגלית)