Som forsvarsminister arbeidet han blant annet for å minske landets forsvarsbudjett. I hans embedstid ble NATO og dets sørøstasiatiske motstykke SEATO, bygd massivt opp til avskrekking mot den truende sovjetiske ekspansjon. Wilson regnes som en av skaperne av den amerikanske avskrekkingskonseptet , som betraktet den gjensidig sikrede tilintetgjørelse som en garanti for freden (Garantert gjensidig ødeleggelse). Han formulerte et konsept der det skulle være en strategisk opsjon å benytte taktiske atomvåpen under «Armageddonterskelen»„. Den 2. oktober 1957 fratrådte Wilson som forsvarsminister.