Embetet ble grunnlagt i 1947 da Krigsdepartementet, Marinedepartementet og det nyopprettede Flyvåpendepartementet ble underlagt et felles departement kalt (NME). NME endret navn til i 1949 fordi forkortelsen hadde den uheldige uttalelsen ( på norsk). I den samme reorganiseringen ble arméministeren (tidligere krigsministeren), marineministeren og flyvåpenministeren underlagt i posisjoner under forsvarsministeren og fjernet fra presidentens kabinett.