עם פרוץ המלחמה מונה פון גבלנץ מפקד "חטיבת נצה", אשר הפכה לאחר מכן לדיוויזיה ה-301, ולחם עימה במהלך המערכה בפולין כחלק מהקורפוס ה-3 במסגרת הארמייה הרביעית, אולם כעבור כמה ימים מונה למפקד העיר ברומברג. ב-1 באוקטובר 1939 הוא מונה למפקד הדיוויזיה ה-32, אולם כעבור חודשיים הוא מונה ב-1 בדצמבר למפקד הדיוויזיה ה-7, שאותה הוביל באביב 1940 במהלך המערכה על צרפת, כחלק מהקורפוס ה-11 במסגרת הארמייה השישית. ב-1 באוגוסט 1940 הועלה פון גבלנץ לדרגת גנרל לוטננט, וב-15 באוגוסט הוענק לו עיטור צלב האבירים של צלב הברזל. במהלך מבצע ברברוסה הוא לחם עם הדיוויזיה כחלק מהקורפוס ה-7 במסגרת הארמייה הרביעית, ואף לחם עמה בקרב ביאליסטוק-מינסק, בקרב סמולנסק ובמהלך הקרב על מוסקבה. ב-24 בדצמבר 1941 הוא מונה לפקד זמני של הקורפוס ה-27, ופיקד עליו עד ה-3 בינואר 1942. ב-10 בפברואר 1942 הוא מונה למפקד הדיוויזיה ה-384, ולחם עמה במתקפת הקיץ הגרמנית, כחלק מהקורפוס ה-44 במסגרת הארמייה ה-17 וארמיית הפאנצר הראשונה, ולאחר מכן לחם עמה בקרב סטלינגרד כחלק מהקורפוסים ה-8 וה-11 לסירוגין במסגרת הארמייה השישית. ב-16 בינואר 1943 הועבר פון גבלנץ לעתודת המילואים, ובאמצע מרץ 1943 הוא מונה למפקד הדיוויזיה ה-404. ב-1 ביולי 1944 הוא מונה למפקד הדיוויזיה ה-232, ולחם עמה בחזית האיטלקית עד סוף המלחמה.