בפרוץ המלחמה היה ויידלינג מפקד רגימנט הארטילריה ה-56, ופיקד עליו במהלך המערכה בפולין, כחלק מהדיוויזיה הממונעת ה-20 במסגרת הקורפוס הממונע ה-19. ב-1 באפריל 1940 מונה ויידלינג למפקד רגימנט הארטילריה ה-20, וב-1 באפריל 1940 מונה ויידלינג למפקד אגד הארטילריה ה-128, שהיה חלק מהקורפוס הממונע ה-40. במהלך המערכה על צרפת לחם ויידלינג במסגרת הקורפוס שהיה חלק מהארמייה הרביעית, ובמהלך המערכה בבלקן לחם עמו כחלק מהארמייה ה-12. במהלך מבצע ברברוסה פעל הקורפוס החל מספטמבר 1941 כחלק מהארמייה התשיעית, ובמהלך הקרב על מוסקבה לחם כחלק מארמיית הפאנצר הרביעית. ב-1 בינואר 1942 מונה ויידלינג למפקד הדיוויזיה ה-86, שפעלה תחת פיקוד הארמייה התשיעית כחלק מהקורפוסים ה-6, ה-23, ה-27, ה-41, וה-46 לסירוגין, וב-15 בינואר 1942 קיבל על פעולותיו את עיטור צלב האבירים של צלב הברזל. ב-1 בפברואר 1942 הועלה ויידלינג לדרגת גנרל מיור, וב-1 בינואר 1943 הועלה לדרגת גנרל לוטננט. במהלך בקרב קורסק לחם ויידלינג עם הדיוויזיה שבפיקודו כחלק מההקורפוס ה-20 במסגרת הארמייה התשיעית, ולאחר מכן הועברה הדיוויזיה תחת פיקוד קורפוס הפאנצר ה-56 שפעל כחלק מהארמייה השנייה. ב-15 באוקטובר 1943 מונה ויידלינג למפקד קורפוס הפאנצר ה-41 שהיה חלק מהארמייה התשיעית, וב-1 בינואר 1944 הועלה לדרגת גנרל חיל התותחנים. ב-22 בפברואר 1944 קיבל ויידלינג על פעולותיו בקרבות תוספת עלי אלון לעיטור צלב האבירים של צלב הברזל, ובמהלך מבצע בגרטיון ספג הקורפוס שבפיקודו אבדות כבדות והצליח לבלום את המתקפה הרוסית רק על נהר הויסלה. בין ה-28 ביוני ל-15 באוגוסט פיקד ויידלינג אף על הקורפוס ה-6, שהיה חלק מהארמייה הרביעית. ב-28 בנובמבר 1944 קיבל ויידלינג על פעולותיו בקרבות תוספת חרבות לעיטור צלב האבירים של צלב הברזל.