Den 24. november 1938, blev Vietinghoff udpeget til at lede 5. Panzer-Division, som skulle deltage i invasionen af Polen under Wilhelm Ritter von Leeb. Han blev forfremmet til general i juni 1940, hvorefter han ledede det tyske XLVI Panzer-Korps i Jugoslavien. Under Operation Barbarossa var hans korps en del af "Heeresgruppe Mitte" (Armegruppe Centrum) under general Fedor von Bock. På den tid kom han ud for en ulykke, hvorefter han fik kælenavnet "Panzerknacker" ("Panserbryder"). Von Vietinghoff var senere sammen med general Heinz Guderian i den tyske "2. Panzer-Armee".