Da utenriksminister Lewis Cass valgte å gå av i midten av desember 1860 på grunn av uenigheter med Buchanans politikk ble Black utnevnt til ny utenriksminister kun få dager senere. Som kanskje den mest innflytelsesrike av president Buchanans offisielle rådgivere gikk han imot løsrivelse og oppfordret samtidig at Fort Sumter burde forsterkes og bemannes i forkant av den amerikanske borgerkrigen. I denne perioden instruerte han også de amerikanske diplomatene i utlandet om å advare de respektive regjeringer mot å gi sin støtte til Amerikas konfødererte stater. I februar 1861 forsøkte Buchanan å nominere Black til USAs høyesterett, men ble nedstemt i Senatet med kun én stemmes margin den 21. februar. Black gikk av sammen med resten av Buchanan-administrasjonen i begynnelsen av mars 1861 og ble erstattet av William H. Seward.