Vuonna 1853 Haussmann määräsi rakennustyöt aloitettaviksi. Rakennustyöt aloitettiin Palais Garnierin ympäristöstä ja uloimpien esikaupunkien kunnostuksesta ja viemäröinnistä. Vuonna 1860 Pariisi sai nykyiset rajat, kun siihen liitettiin useita sen läheisyydessä sijainneita kuntia (nykyiset 13.–20. arrondissementit). Nämä liitosalueet, jotka jo sitä ennen olivat joutuneet 1840-luvulla rakennettujen puolustusmuurien sisäpuolelle, rakennettiin suurelta osin Haussmannin suunnitelmien mukaan. Myös Pariisin vanhoissa kaupunginosissa suoritettiin runsaasti purku- ja uudelleenrakennustöitä ja alueelle rakennettiin joukko uusia leveitä katuja ja bulevardeja. Uudet kadut olivat myös selvästi leveämpiä kuin keskiaikaiset kujat, minkä oli tarkoitus tehdä liikenteestä sujuvampaa, elämästä terveellisempää ja tulipaloista harvinaisempia. Myös olemassaolevia katuja levennettiin ja uudet rakennukset rakennettiin entistä korkeammiksi. Suunnitelma oli suurisuuntaisin sitten Lontoon suuren palon vuonna 1666.