Etter krigen avanserte Abrams videre i gradene, og tjenestegjorde både ved utdannelsesinstitusjonene og ved de amerikanske styrkene i Europa. Han gikk ved US Army War College i 1953 deltok etter dette i avslutningen av Koreakrigen. Etter Koreakrigen var han ved Fort Knox fram til 1956. Han ble utnevnt til brigadegeneral i 1956, tjenestegjorde deretter ved Pentagon og ved tredje panserdivisjon, hvor han i 1960 ble utnevnt til generalmajor. Etter et år tilbake ved Pentagon, ble han i 1963 utnevnt til generalløytnant og sjef for Femte armekorps i Heidelberg i Vest-Tyskland, hvor han i 1964 ble utnevnt til general.