פיצוח האניגמה היה מאמץ מתמשך שבו עסקו אנשי מודיעין ומדענים פולנים, בריטים ואמריקאים החל משנות השלושים ועד סוף מלחמת העולם השנייה כדי לפצח מסרים שהוצפנו בדגמים שונים של מכונות אניגמה - מכונות הצפנה שנודעו במיוחד בשל השימוש שעשו בהן הנאצים לקידוד מסרים בתקופת מלחמת העולם השנייה. ערך זה סוקר את השיטות שפותחו על מנת לפצח את האניגמה, וכן את הנסיבות ההיסטוריות שבהן יושמו.
לדיון במודיעין שנצבר מקריאת מסרי האניגמה ראו ערך אולטרה. לסקירת פרטי המכונה עצמה ראו ערך אניגמה.
עוצמת ההצפנה של האניגמה.
אניגמה תוכננה על מנת לאפשר להתגבר על שיטות פיצוח בסיסיות על ידי שינוי אלפבית ההחלפה. בדומה למכונות מבוססות רוטור אחרות, מימשה האניגמה צופן פוליאלפביתי בעל מחזור ארוך. הרוטורים בעלי החריץ הבודד אפשרו מחזור של 16,900. מחזור זה סייע להתגבר על אלפביתים חופפים.
החידוש שהציגה האניגמה היה טמון ברוטורים ובלוח התקעים. לכל רוטור היה מיקום התחלתי משתנה (למשל ABC במקום ACB). דגמים מאוחרים יותר הוסיפו "טבעת אלפבית" משתנה לכל רוטור. רוב מכונות האניגמה הצבאיות הכניסו גם לוח תקעים שהחליף אותיות זו בזו. למרות המורכבות שהציגה המכונה, ניתן היה להעביר בקלות את מפתח הצירופים המורכב למשתמש אחר על ידי חשיפת: הרוטורים בשימוש, סדר הרוטורים, מיקומי הטבעות, מיקומי ההתחלה וחיבורי לוח התקעים.
רמת האבטחה.
גרסאות שונות של מכונת האניגמה סיפקו רמות שונות של אבטחה. קיומו של לוח תקעים הגדיל משמעותית את מורכבות האניגמה. באופן כללי, ניתן היה לפצח הודעות שמקורן באניגמה ללא לוח תקעים באמצעות שיטות ידניות בלבד בעוד שפיצוח הודעות ממכונות עם הלוח היה מסורבל יותר ודרש לרוב שימוש במכונות ייעודיות.
למכונת האניגמה היו מספר תכונות שימושיות עבור המפצחים. ראשית, אות לעולם לא הייתה מקודדת לעצמה (למעט בדגמים A ו-B הראשוניים, שבהן לא היה משקף). הדבר היה לעזר רב עבור המפצחים בניסיונם למצוא עריסה - קטעים קצרים מטקסט המקור שעשויים להימצא במיקום מסוים בטקסט המוצפן.
תכונה נוספת של האניגמה הייתה אינוולוציה: תהליך ההצפנה היה זהה לתהליך הפיענוח. תכונה זו הטילה אילוצים על סוג הערבול שהאניגמה יכלה לספק בכל מיקום ולכן נוצלה התכונה במספר שיטות פיצוח.
חולשה של דגמי אניגמה רבים הייתה שהרוטור הימני ביותר הסתובב מספר קבוע של פעמים לפני שהרוטור הבא עשה זאת.
מעבר לתכונות הלא אידיאליות של המכונה, החולשה הגדולה ביותר של המכונה בפועל הייתה האופן שבו הופעלה. טעויות המפעילים היו שכיחות ומספר נוהלי הפעלה רשמיים היו פגומים והיוו נתיבים נוחים לפיצוח. כמה מהאנשים שנטלו חלק בפיצוח שהתבצע בבלצ'לי פארק טענו כי האניגמה הייתה בלתי ניתנת לפיצוח לולא היו מפעיליה טועים, ואילו נוהלי התפעול שלה היו מתוחכמים יותר.
אניגמה ללא תקעים.
גרסת האניגמה ללא התקעים הייתה יחסית פשוטה לפיצוח. הבריטים קראו הודעות של מכונות אלו כבר במהלך מלחמת האזרחים בספרד. במהלך מלחמת העולם השנייה עלה בידי הבריטים לקרוא מסרים איטלקיים (ראו ערך "מודיעין אולטרה").
אניגמה בעלת לוח תקעים.
הפתרון הפולני.
בראשית שנות ה-30 של המאה ה-20, החל הצבא הגרמני להשתמש באניגמה בעלת לוח תקעים במטרה להגדיל את רמת האבטחה שסיפקה המכונה. בעוד מאמצי הבריטים והצרפתים לפצח את המסרים של המכונה העלו חרס, עלה בידי עמיתיהם הפולנים לפצח את חיווטי הרוטורים ולקרוא את מסרי האניגמה הגרמנית.
פריצת דרך.
בדצמבר 1932 השיג מריאן רייבסקי, מתמטיקאי בן 27 שהצטרף לביורו שיפרוב הפולני בספטמבר, את אחת מפריצות הדרך החשובות ביותר בעולם הקריפטוגרפיה תוך שימוש בשיטות אלגבריות על מנת לפצח את החיווט של האניגמה.
באותה תקופה הייתה שיטת ה"אינדיקטור" כרוכה בהצפנת הודעה פעמיים באמצעות "תצורת ההודעה" שבחר המפעיל כאשר המכונה הייתה בתצורת הבסיס שלה. תצורה ההודעה הנבחרת הייתה נרשמת בראשית ההודעה. למשל, אם המפעיל בחר QRS כתצורת הודעה אזי האופרטור היה מכוון את המכונה לתצורת הבסיס שלה ואז מקליד QRSQRS. צירוף אותיות זה היה עשוי להיות מוצפן כ-JXDRFT. רייבסקי ניצל את העובדה שהדסקה זזה שלושה מיקומים בין שתי שלשות ה-QRS. הידיעה כי J ו-R היו במקור אותה אות הייתה חיונית. הגם שעל פי האותיות J ו-R לא ניתן היה לדעת מה היו האותיות המקוריות, היה ידוע שבעוד שקיימים צירופים רבים של תצורות רוטורים, הרי שהיו רק מעט חיווטי רוטורים שיכלו לשנות אות מ-J ל-R, מ-X ל-F ומ-D ל-T. רייבסקי כינה את הדפוסים הללו "שרשראות".
הפולנים נעשו מנוסים ביותר בניצול הפרצות והטעויות הקטנות ביותר של הגרמנים. טעות בוטה הייתה הדפסת אוסף מלא של מיפויי טקסט מקור לטקסט מוצפן כדוגמת אימון. רייבסקי הצליח להשיג עותק מודפס זה.
מציאת שרשראות מתאימות מבין 105,456 שרשראות אפשריות הייתה מטלה אימתנית. הפולנים, ובמיוחד רעיו של רייבסקי ג'רזי רוזיקי והנריק זיגלסקי פיתחו מספר שיטות לכך. הבריטים גם כן פיתחו טכניקה דומה כאשר הם הצליחו לפצח את האניגמה המסחרית, אך כשלו בפיצוח גרסאות האניגמה הצבאית.
מכונת הבומבה.
ניתוח אלפי אפשרויות באופן ידני כרוך בהקצאת כמות נרחבת של משאבים אנושיים. כדי להקל את המלאכה, המציא רייבסקי באוקטובר 1938 התקן אלקטרומכני שכונה "בומבה". באמצע נובמבר 1938 היו הבומבות הפולניות מבצעיות ואז החלה מחדש מלאכת השחזור של המפתחות היומיים. רייבסקי כתב אודות ההתקן:
"שיטת הבומבה, שהומצאה בסתיו 1938, נועדה למכן ולהאיץ את תהליך שחזור המפתחות היומיים. כל מכונת בומבה הייתה אגד של שש מכונות אניגמה. כל מכונה החליפה בערך 100 עובדים וקיצרה את הזמן הדרוש להשגת מפתח לשעתיים בערך." (Rejewski, in Kozaczuk, "Enigma" 1984, p. 290)
הפולנים היו מסוגלים לפענח נתח נכבד מתשדורות האניגמה החל מדצמבר 1932. לצורך שחזור החיווטים של האניגמה נעזר רייבסקי במסמכים שהושגו מהסוכן האנס תילו שמידט, ששהה בברלין ועבד עבור המודיעין הצבאי הצרפתי. לשמידט הייתה גישה להוראות הפעלה של האניגמה וכן לדפי המפתחות היומיים.
ברם, בשנת 1939 הגביר הצבא הגרמני את מורכבות הליכי ההפעלה של האניגמה. במקור היו בשימוש רק שלושה רוטורים, והסדר שלהם שונה באופן תקופתי. כעת נוספו שני רוטורים נוספים. שלושה רוטורים מתוך חמישה נבחרו בכל שימוש. הגרמנים אף חדלו לשדר בראש ההודעות את צמד השלשות אשר ציין את תצורת ההודעה. כך, מאותה עת, הפכה שיטת הפיענוח הפולנית לחסרת תועלת.
כפי שכתב רייבסקי בשנת 1979: "מהר מאוד גילינו את החיווטים של הרוטורים החדשים, אולם הכנסתם... הגדילה את מספר הסדרות האפשריות של תופים מ-6 ל-60... ולכן גם הגדילה מונים את המאמץ לגילוי המפתחות. כך שהשינוי לא היה איכותי אלא כמותי".
שכפולים של האניגמה.
המודיעין הפולני קרא קריפטוגרמות גרמניות מדצמבר 1932. עדכונים שהוכנסו במכונה ובשיטות הפעלתה יצרו מדי פעם ערפל מודיעיני, שהעלה את הצורך בקרב הפולנים (ואחרי יולי 1939 גם בקרב הבריטים) למצוא שיטות חדשות לפיצוח הצופן. באפריל ומאי 1939 כרתה פולין בריתות צבאיות עם בריטניה וצרפת. הפולנים, שהחלו להבין את הכיוון שאליו נושבת הרוח בזירה הפוליטית האירופית, החליטו באמצע 1939 לשתף אחרים בידע שצברו. ב-26 ביולי 1939, בעת כנס בוורשה, התחייבו הפולנים לתת לכל אחת מהמדינות בריטניה וצרפת מכונת אניגמה ששוכפלה בפולין, ובנוסף פרטים בנוגע לשיטות פיצוח צופן האניגמה כדוגמת ניירות זיגלסקי והבומבה.
שני ההעתקים של האניגמה נשלחו לפריז וגוסטב ברטראנד הביא העתק אחד ללונדון עבור הבריטים. עד אותה תקופה התייאשו הבריטים והצרפתים מלנסות לפענח את מסרי האניגמה הצבאית של הגרמנים. הם התעמתו עם האפשרות הקשה שהתקשורת הגרמנית תיוותר לוטה בערפל עבורם למשך המלחמה.
בין שני ענקים.
במהלך המערכה בפולין בספטמבר 1939 פונו אנשי מפתח בביורו שיפרוב דרום מזרחה. לאחר שהסובייטים פלשו למזרח פולין ב-17 בספטמבר הם פונו לרומניה. בדרך הם השמידו את ציוד הפיענוח ואת התיעוד הנלווה. לבסוף, לאחר חציית יוגוסלביה ואיטליה (שהייתה נייטרלית באותה תקופה) הם הגיעו אל צרפת. שם, באתר בשם "פיסי ברונו" מחוץ לפריז, הם חידשו את עבודת פיצוח הצפנים הגרמניים עד לקרב על צרפת.
מספר חודשים לפני הפלישה הגרמנית לצרפת, בינואר 1940, הגיע המתמטיקאי הבריטי אלן טיורינג ל"ברונו" לביקור בן מספר ימים על מנת להיוועץ עם עמיתיו, המתמטיקאים הפולנים.
לאחר שהושגה הפסקת אש, המשיכה לשכת הצפנים הפולנית את פעילותה ב"אזור החופשי" שבדרום צרפת ובאלג'יריה הצרפתית, תוך סיכון להיחשף ולהיכלא. כאשר השתלטה גרמניה גם על דרום צרפת בנובמבר 1942, היו צריכים הפולנים לברוח שוב. ראשי הביורו שיפרוב, אלוף-משנה גווידו לאנגר, רב-סרן מקסימיליאן צסקי וחלק מהצוותים הטכניים נשבו על ידי הגרמנים אולם למרות חקירות קשות, לא חשפו את סוד פיענוח האניגמה. המתמטיקאים רייבסקי והנריק זיגלסקי, הגיעו לבריטניה לאחר מסע ייסורים שבו עברו דרך צרפת, דרך השבי הספרדי, דרך פורטוגל וגיברלטר. ג'רזי רוזיסקי, מתמטיקאי שלישי, מת בטביעת אוניית נוסעים בעת החזרה בשנת 1942 לדרום צרפת משירות באלג'יריה.
בבריטניה עמלו רייבסקי וזיגלסקי לפצח את צפני ה-SS וה-SD במתקן פענוח פולני שהוקם בבוקסמור. הם לא הוזמנו לעבוד בבלצ'לי פארק.
מלחמת העולם השנייה.
מפצחים בריטיים אימצו את שיטות הפיצוח הפולניות, אך נאלצו לבצע בהן התאמות בשל התקדמויות קריפטוגרפיות בצד הגרמני. הצבא הגרמני שינה את נהליו (יותר רוטורים, מערכת אינדיקטורים בטוחה יותר ועוד). הצי הגרמני תמיד נקט בשיטות הפעלה בטוחות יותר.