Etter første verdenskrig gikk Kluge i 1919 inn i det nylig opprettede Reichswehr hvor han steg raskt i gradene. Han ble i 1933 forfremmet til generalmajor og i 1934 til generalløytnant og ansatt ved Wehrkreis (militærdistrikt) IV i Münster. Som artillerigeneral fikk han kommandoen over Armégruppe 6 i Hannover i 1938, senere samme år ble han midlertidig satt tilside da han støttet general Werner von Fritsch.