Dalheim var ordfører i Drammen fra 1975 til 1979. Før han begynte som heltidspolitiker, arbeidet han som dreier og reparatør i kabelindustrien. Han var blant annet klubbformann på Norsk Kabelfabrikk 1966-1975 og formann i Drammen faglige samorganisasjon 1980-1984. Etter tiden på Stortinget, arbeidet han som konsulent og rådgiver for næringslivet.