Como un experimentado oficial del Estado Mayor, había captado la atención del Mariscal de campo Erich von Manstein, quien lo convirtió en jefe del Estado Mayor del 11.º Ejército cuando Manstein fue nombrado comandante de esta unidad. Wöhler sirvió junto a Manstein hasta abril de 1942, cuando fue asignado como jefe de Estado Mayor en el Grupo de Ejércitos Centro bajo el mando del Mariscal de campo Günther von Kluge. El primer mando de combate de Wöhler llegó cuando fue puesto al frente del I Cuerpo de Ejército, ocupando este puesto entre abril y agosto de 1943, antes de que recibiera el mando del 8.º Ejército el 22 de agosto de 1943. Durante el resto del año participó en la retirada alemana de Ucrania hacia el río Dnieper, y más tarde hacia Rumanía. En la primavera de 1944, si bien durante la 1.ª Ofensiva de Jassy-Kishinev las fuerzas a su mando lograron resistir la embestida soviética y mantener la frontera rumana, en agosto se produjo el gran desastre con la 2.ª Ofensiva de Jassy-Kishinev, que acabó provocando el cambio de bando de los rumanos. Entre el 28 de diciembre de 1944 y el 25 de marzo de 1945, Wöhler estuvo al frente del Grupo de Ejércitos Sur, combatiendo contra los soviéticos principalmente en Hungría.