Etter press fra bl.a. Emile Ollivier ble Haussmann fjerna fra embedet rett før Napoleon IIIs fall, og han ble i stedet utnevnt til sendemann til Korsika. Haussmann forble bonapartist også under den tredje franske republikk. De siste åra av sitt liv brukte han på å skrive sine memoarer. Han ligger gravlagt på Père Lachaise-kirkegården i Paris.