Erasmus was aanvanklik getroud met Christina Wiese van Melsetter in die destydse Suid-Rhodesië. Hulle het 'n seun en 'n dogter gehad. Op 9 Januarie 1946 trou hy met Cornelia Margaretha (Corrie) Naudé van Lydenburg. Hulle het drie dogters gehad.
In 1927 word hy as adjunk-prokureurgeneraal van Suidwes-Afrika aangestel. Daarna betree hy die politiek en word in 1933 tot die parlement verkies. Hy het in 1948 by D.F. Malan se kabinet aangesluit as die Minister van Verdediging. Hy word allerweë as onbevoeg beskou en was baie ongewild vanweë sy breë veranderings aan die weermag om wat hy die 'Britse invloed' genoem het, te verwyder. Dit sluit in die verwydering van items soos die Red Tabs (Rooi Luise) en die aflegging of afdanking van talle Engelssprekende offisiere en die aanstelling van Afrikaners in hul plek.