Ole Gjems-Onstad ble født 8. august 1950. Han er sønn av Erik Gjems-Onstad, som var motstandsmann, advokat og stortingsrepresentant for Anders Langes parti. Hans mor er Borgny Gjems-Onstad (født Pedersen; 1921–2003), som var jurist, sekretær for finansrådmannen i Oslo, direktør for Ullevål Sykehus (to års vikariat) og dommer i Trygderetten. Hun var datter av tidligere ordfører i Stavanger, Birger Pedersen.