Undheim ble ansatt som førsteamanuensis i organisk kjemi ved Universitetet i Oslo i 1965 og ble i 1971 utnevnt til professor i farmasøytisk organisk kjemi ved Institutt for farmasi. I 1973 ble han professor i organisk kjemi ved Kjemisk institutt, en stilling han hadde frem til han ble professor emeritus i 2002. Han har gjennom sin karriere veiledet en rekke doktorgradsstudenter og bidratt til oppbyggingen av moderne laboratoriefasiliteter ved universitetet.