Aan het begin van de Tweede Wereldoorlog in september 1939, werd hij tot stafchef van het "1. Armee" (1e Leger) in het Westen tijdens de "Sitzkrieg" (schemeroorlog) benoemd. Als stafchef van het 1e Leger stelde hij het vermoorden van de Joden door de "SS-Einzatsgruppen" aan de kaak. Hitler ontsloeg hem onmiddellijk. Hij werd gered uit professionele vergetelheid door Franz Halder, het hoofd van de Generale Staf, die hem tot een van zijn plaatsvervangers benoemde. In februari 1940 functioneerde hij als 1e Opperkwartiermeester in de Generale Staf van de Heer. Na de Slag om Frankrijk, werd Mieth op 25 juni 1940 tot coördinator van de wapenstilstandscommissie in Compiègne aangesteld. Mieth werd op 1 maart 1940 bevorderd tot "Generalleutnant"". Op 10 december 1940 werd hij tot commandant van de 112e Infanteriedivisie benoemd. Vanaf juni 1941 nam hij samen met het 2e Leger aan Operatie Barbarossa deel. De divisie nam aan de Slag om Kiev deel, en stootte in oktober 1942 ten zuiden van Toela door. Op 24 november 1942 werd Mieth als gevolg van de omsingeling van het "6. Armee" (6e Leger) in Stalingrad, tot "Befehlshaber des Rückwärtigen Heeresgebietes" (bevelhebber van het in de achterhoede gelegen legergebied) en commandant van de beveiligingstroepen in het "Heeresgebiet Don" benoemd. In het voorjaar van 1943 nam hij in de sector van het "Armee-Abteilung Hollidt" (Leger detachement Hollidt) de leiding over van de naar hem genoemde korps "Mieth".