Helmut Schmidts far Gustav (1888–1981) var sønn av den jødiske bankmannen Ludwig Gumpel og en servitrise. Gustav ble adoptert av familien Schmidt, hvor far i huset var havnearbeider. Han gikk i lære i et advokatkontor for å bli kontorsjef og utdannet seg etter den første verdenskrigen videre til folkeskolelærer. Etter kveldsskole tok han høyskoleeksamen i økonomi. Gustav og Ludovica Schmidt var protestanter. Deres sønner Helmut og den yngre Wolfgang, gikk på folkeskole i Wallstrasse øst for Aussenalster og gikk deretter videre på Lichtwark-Oberschule i Winterhude.