I desember 1919 gikk Groener ut av aktiv tjeneste, for deretter å inngå som transportminister i ulike regjeringer fra 1920 til 1923. I 1928 ble han Otto Gesslers etterfølger som forsvarsminister, en post han hadde til 1932. Fra 1931 var han i tillegg innenriksminister.