Han ble valgt til NITOs president på representantskapsmøtet i Kristiansand i 1975 og gikk av som president i 1979. Han ble utnevnt til æresmedlem i NITO i 1981. Harlem var aktiv rundt etableringen av Yrkesorganisasjonenes Sentralforbund i 1977 etter å ha brutt med en ungdomstid i Arbeiderpartiet. Motivet var å danne en motvekt til alliansen LO–Arbeiderpartiet. Han var også formann i Akademikernes Fellesorganisasjon (AF) 1976–1977.