Han ble medlem av USAs senat fra Delaware i perioden 1869 til 1885 som etterfølger av sin far, og i 1881 var han også Senatets (det vil si midlertidig leder) i tre dager. Han ble for øvrig gjenvalgt både i 1875 og i 1881. Bayard var også en demokratisk presidentkandidat frem mot presidentvalget i 1876, hvor han havnet langt ned på den demokratiske listen. Han fikk flere stemmer både ved presidentvalget i 1880 og presidentvalget i 1884, hvor han havnet på andreplass bak henholdsvis Winfield Scott Hancock og Grover Cleveland.