Han ble innvalgt i byrådet for Paris den 23. juli 1871 for Clignancourtkvarteret, et sete han beholdt til 1876 mens han steg i de politiske gradene fra sekretær og visepresident og ble byrådets president i 1875. Han protesterte og stemte mot fredsavtalen av 1871. Gjennom 1870- og 1880-årene ble han en førende opposisjonspolitiker på den borgerlige venstrefløy og kom i første rekke for alvor etter Gambettas død.