Knut Vollebæk er sønn av prost Leif Martinsen (1918–2016) og sykepleier Elsa Rigmor Simonsen (1917–), og vokste opp i Søndre Land. Etter examen artium i 1964 ble han siviløkonom fra Norges handelshøyskole (1972). Han studerte fransk språk og litteratur i Paris 1965–1966 og statsvitenskap ved University of California, Santa Barbara 1972–1973.