Blaines posisjon var ved valget i 1876 for øvrig blitt svekket gjennom at han ble beskyldt for korrupsjon på grunn «Mulligan-brevene», som viste hans nære relasjoner til to jernbaneselskaper, og motstandere hånet ham derfor med slagordet Gjennom ulike skandaler knyttet opp mot den sittende president Ulysses S. Grant gjorde det at de republikanske delegatene til slutt foretrakk den trygge Hayes til fordel for Blaines. Da Maines senator Lot M. Morrill gikk av fra senatet i 1876 til fordel for embetet som finansminister fikk Blaine hans plass i senatet. Han ble siden gjenvalgt og satt en hel mandatperiode frem til mars 1881 da han ble utnevnt til landets neste utenriksminister av president James A. Garfield.