Hans ferdigheter innen finanser gjorde at han ble utnevnt til landets neste finansminister av president Thomas Jefferson i 1801 og igjen gjennom den neste presidenten James Madison i 1809. Gallatin satt som finansminister i 13 år helt til han gikk av fra Madisons kabinett 1814. Etter perioden som finansminister ble han utnevnt til to separate ministerstillinger for USA, hvor den første var i Frankrike i perioden 1815 til 1823, men den andre var i Storbritannia i perioden 1826 til 1827.