Etter å ha giftet seg overtok han driften av et vertshus i Bremen som ble et sentrum for faglig og politisk virksomhet. Samme år ble han partileder i Bremen og ved valget i 1896 var han SPDs førsterepresentant i Bremens borgerskap. Samme år deltok på sitt første landsmøte i SPD. Ved riksdagsvalget i 1898 stilte han til valg i den sikre kretsen Vechta og ble valgt inn i Riksdagen. Fra 1902 var Ebert medlem av SPDs styre som representant fra Bremen.