Gauck giftet seg i 1959 med Gerhild «Hansi» Radtke i Rostock og ekteparet fikk fire barn: Christian (f. 1960), Martin (f. 1962), Gesine (f. 1966) og Katharina (f. 1979). Ekteparet ble separert i 1991. Fra 2000 er Gauck samboer med den tyske journalisten Daniela Schadt, men uten å være skilt fra Gerhild Radtke.