Som sekretær for sir Samuel Hoare ble han, etter at kom tilbake til regjeringsmakt i 1931, kalt sammen med ham til regjeringens India-ministerium, der han i 1932 avanserte til understatssekretær (viseminister). I 1938 vekslet han over til utenriksministeriet, der han også ble understatssekretær. Forskjellig fra hans senere konkurrent Harold Macmillan, støttet Butler den appeasementpolitikk som statsminister Neville Chamberlain fulgte. Dette skulle med årene stadig vekk anføres mot ham og kan ha medført at han ikke nådde helt til topps politisk. Da Chamberlain trakk seg i 1940, forsøkte han uten hell å overtale utenriksminister Lord Halifax til å gå med til å påta seg å bli den neste statsminister. Han ytret seg også kritisk mot Chamberlains etterfølger Winston Churchill.