Paul Sarkozy og Andrée Mallah slo seg etter krigen ned i Paris, og fikk tre sønner: Guillaume, født i 1951, som er entreprenør innen tekstil-industrien, Nicolas, født i 1955, og yngstesønnen François, født i 1957 (ansatt i et konsulentselskap innenfor helsevesenet). I 1959 forlot Paul Sarkozy sin kone og deres tre barn. Han giftet seg senere på nytt tre ganger og fikk to barn i disse ekteskapene. Hans tredje kone, Christine de Ganay, var gift med USAs ambassadør Frank G. Wisner.