Fra 1946 var han major i hæren, fra 1952 kurs ved The armored School i USA, derpå ved Senior Officer School i England i 1954. Harlem ble oberstløytnant i Brigaden i Nord-Norge fra 1955, fra 1956 ble han oberst og var frem til 1963 nærforsvarsinspektør i Flyvåpenet. I 1964 var han ved Forsvarets høgskole, deretter var han sjef ved Veidirektoratets militærkontor frem til 1971. Harlem var norsk forbindelsesoffiser ved FN-styrkene UNEF I i Gaza fra 1965 til 1966.