Sundt var sønn av teologen Eilert Sundt, og dattersønn av forfatteren Maurits Hansen. Han var gift med Therese Ellingsen og de ble foreldre til fjellklatrer og forretningsmann Eilert Sundt. Han døde av lungebetennelse på forretningsreise til Stockholm og ble gravlagt på Eidsvoll. Før reisen til Stockholm skrev han ned erindringer om oppvekst og familie.