Han har avgangseksamen fra videregående skole, ex.phil. og ufullstendig grunnfag i statsvitenskap fra Universitetet i Oslo. Kaldheim var rådgiver og partner i Geelmuyden.Kiese 1990–1995, styreleder i Nedre Romerike Vannverk AL 1996–1999, daglig leder i Geelmuyden.Kiese 1999–2001, direktør i Telenor Plus i 2001, direktør i Telenor Broadcast Holding 2004–2005 og direktør i Integrerings- og mangfoldsdirektoratet (IMDi) 2005–2010. Fra 2010 til 2017 var Kaldheim rådmann i Drammen kommune.