With gjorde tjeneste som konstituert hjelpeprest i Narvik fra 1947 og hjelpeprest ved Tromsø domkirke fra 1949. I 1950 ble han rektor ved Den samiske folkehøgskolen i Karasjok. Fra 1957 var han sokneprest i Tana, før han i 1961 ble generalsekretær i Norges Samemisjon. Han var forstander ved Diakonissesykehuset i Oslo fra 1968 til 1975. Fra 1975 var han domprost i Nidaros, og han etterfulgte Per Juvkam som biskop i Bjørgvin i 1977.