I mars 1825 ble Rush utnevnt til finansminister av John Quincy Adams, som hadde vært utenriksminister i USA i hele perioden som Rush var i London. Rush hadde en suksessrik tid som finansminister og klarte å få til budsjettoverskudd samtidig som nesten hele utenlandsgjelden ble betalt.