Herman Van Rompuy er sønn av Victor Van Rompuy og Germaine Geen. Han ble uteksaminert i 1965 fra i Brussel og studerte så ved Katholieke Universiteit Leuven der han tok bachelorgrad i filosofi i 1968 og i 1971 mastergrad i økonomi.