בפרוץ המלחמה פיקד פייפר על רגימנט הארטילריה ה-23, ולחם עמו במהלך המערכה בפולין כחלק מהדיוויזיה ה-23. ב-1 באוקטובר 1939 הוא מונה למפקד אגד הארטילריה ה-105, ולחם עמו במהלך המערכה על צרפת, וב-1 ביוני 1940 הוא הועלה לדרגת גנרל מיור. ב-1 בספטמבר 1940 הוא מונה למפקד הדיוויזיה ה-94, ובמהלך מבצע ברברוסה לחם עם הדיוויזיה שבפיקודו בתחילה בעתודת הOKH כחלק מהקורפוס הממונע ה-40 במסגרת הארמייה השנייה, ולאחר מכן תחת פיקוד הארמייה ה-17, עמה לחם בגזרה הדרומית. ב-1 ביוני 1942 הוא הועלה לדרגת גנרל לוטננט, ובמהלך מבצע מקרה כחול הוא לחם עם הדיוויזיה בתחילה כחלק מהארמייה ה-17, ולאחר מכן כחלק מארמיית הפאנצר הרביעית. בהמשך לחמה הדיוויזיה כחלק מהארמייה השישית בקרב סטלינגרד, וב-11 בדצמבר 1942 הוא הוטס אל מחוץ לכיס סטלינגרד, ומונה במקביל גם למפקד הדיוויזיה ה-306. פייפר לחם עם כוחותיו במהלך מבצע סופת חורף כחלק מפלגת הארמייה הולידט, וב-16 בינואר 1943 הוענק לו עיטור צלב האבירים של צלב הברזל. ב-29 בינואר 1943 נכנעו שרידי הדיוויזיה ה-94 לכוחות הסובייטים, וב-1 במרץ אותה שנה הוא מונה להקים את הדיוויזיה מחדש. בדצמבר 1943 הועברה הדיוויזיה לאיטליה, שם לחמה כחלק מהארמיות העשירית וה-14, ובכלל זה בקרב מונטה קאסינו. ב-1 במאי 1944 הוא מונה למפקד הקורפוס ה-6, וב-20 במאי 1944 הוא הועלה לדרגת גנרל חיל התותחנים. פייפר פיקד על הקורפוס במהלך מבצע בגרטיון, וב-28 ביוני 1944 נהרג במתקפה אווירית במהלך מתקפת מוהילב.