Bayard tjenestegjorde som senator til den 6. mars 1885 før han deretter ble utnevnt til landets neste utenriksminister under president Grover Cleveland, en stilling han beholdt til mars 1889. Som utenriksminister var han mest kjent for å ha utarbeidet fiskeriavtalen mellom USA og Canada som fastsatte fiskerettighetene i Nord-Atlanteren. Etter at han gikk av som minister arbeidet han som advokat i fire år, før han i Clevelands andre mandatperiode i 1893 ble utnevnt til USAs ambassadør til Storbritannia med kontor i London. I 1897 vendte han hjem og trakk seg tilbake fra det offentlige liv som følge av sviktende helse. Thomas Francis Bayard døde hos sin datter den 29. september 1898 Dedham i Massachusetts.