עם פרוץ המלחמה מונה אברהם למפקד הגדוד ה-1 ברגימנט הרגלים ה-105, שהיה חלק מהדיוויזיה ה-72, וב-21 בנובמבר 1939 מונה למפקד הגדוד ה-2 ברגימנט הרגלים ה-266, שהיה אף הוא חלק מהדיוויזיה ה-72. ב-1 באפריל 1940 מונה אברהם למפקד הרגימנט ה-230, ולחם עמו במהלך המערכה על צרפת, כחלק מהדיוויזיה ה-76 במסגרת הקורפוס ה-23. במהלך מבצע ברברוסה לחם אברהם עם הרגימנט שבפיקודו כחלק מהדיוויזיה ה-76 במסגרת הקורפוס ה-11, ולאחר מכן במסגרת הקורפוסים ה-52, הקורפוס ה-4, וה-44 לסירוגין. בקיץ 1942 לחם אברהם עם הרגימנט שבפיקודו במבצע מקרה כחול כחלק מהדיוויזיה ה-76 במסגרת קורפוס הפאנצר ה-24 והקורפוס ה-51, ולאחר מכן בקרב סטלינגרד במסגרת הקורפוס ה-8. ב-6 בנובמבר 1942 מונה אברהם למפקד בית הספר השני למש"קים, וב-13 בנובמבר קיבל את עיטור צלב האבירים של צלב הברזל. ב-1 באפריל 1943 מונה אברהם למפקד הדיוויזיה ה-76 שהוקמה מחדש בצרפת, וב-1 ביוני הועלה לדרגת גנרל מיור. בדצמבר 1943 הועבר עם הדיוויזיה שבפיקודו לחזית המזרחית, שם לחם עמה בקרב דנייפר כחלק מהקורפוס ה-52 במסגרת ארמיית הפאנצר הראשונה, ולאחר מכן במסגרת הארמיות השישית והשמינית, וב-26 ביוני 1944 קיבל אברהם על פעולותיו בקרבות תוספת עלי אלון לעיטור צלב האבירים של צלב הברזל. במהלך מבצע יאשי-קישינב לחם אברהם עם הדיוויזיה שבפיקודו כחלק מהקורפוס הרומני ה-6, שאף פיקד עליו בחלק מהזמן, ולאחר מכן כחלק מקורפוס הפאנצר ה-57 במסגרת הארמייה השמינית. ב-21 באוקטובר 1944 הועבר לעתודת המילואים, וב-13 בדצמבר 1944 מונה למפקד הקורפוס ה-63. אברהם לחם עם הקורפוס שבפיקודו תחת פיקוד הארמייה ה-19 באלזס, ובפברואר 1945 הוכפף הקורפוס תחת פיקוד ארמיית הצנחנים הראשונה בהולנד. ב-1 במרץ 1945 הועלה אברהם לדרגת גנרל חיל הרגלים, ולאחר מכן לחם הקורפוס בקרבות בגרמניה, עד לכניעת כל כוחות קבוצת ארמיות B בכיס הרוהר, ב-18 באפריל 1945.