Webster støttet 1850-kompromisset utarbeidet av Henry Clay og Stephen Douglas, noe som førte til at han raskt ble upopulær blant abolisjonistene fra New England. Han forlot Senatet i stillhet i juli 1850 og ble innsatt som utenriksminister under Fillmore-administrasjonen like etter. Hans andre periode som utenriksminister ble preget av det anstrengte forholdet mellom USA og Østerrike som følge av amerikansk innblanding i Den ungarske revolusjonen i 1848. Han var for øvrig også aktiv med å etablere handelsforbindelser med Japan.