Som forsvarsminister gav han blant annet ordre til spionasjeflyvninger med Lockheed U-2, og med nedskytningen av et slikt fly med piloten Gary Powers i det som blir kalt U2-affæren over sovjetisk luftrom i 1960, ble betegnet som en av de mest spente situasjonene i stormaktsrelasjonene i Gates sin tid som forsvarsminister. Han forlot embetet i januar 1961 sammen med resten av Eisenhowers kabinett, og ble erstattet av Robert S. McNamara. I tiden etter ble han ansatt i selskapet , som senere skiftet navn til JPMorgan Bank, og ble selskapets administrerende direktør. Først i egenskap av i 1962 og som i 1965.