Han er utdannet siviløkonom ved Handelshøjskolen i København og California State University. Etter endt utdanning tok han ett år som lærling i treforedlingsindustrien i USA før han flyttet tilbake til Norge. Heiberg begynte sin karriere som markedsanalytiker i Norsk Hydro (1965–1966). Etter det hadde han flere lederstillinger i Borregaard (ett år i Paris og seks i år Østerrike), før han begynte som viseadministrerende direktør i Norcem i 1972. Han ble administrerende direktør 1973 og konsernsjef i 1987 for det fusjonerte Aker Norcem.