Larsen er vokst opp på Høyenhall i Oslo (den gang en del av Aker). Han ble cand.theol. ved Det teologiske menighetsfakultet i 1966, og ordinert til prest i 1967. Larsen var ungdomssekretær i Oslo krets av Indremisjonsselskapet fra 1968 til 1972. Fra 1972 til 1979 var han residerende kapellan på Høybråten, fra 1979 til 1986 var han studentprest tilknyttet Menighetsfakultetet. Fra 1986 til 1992 var han sokneprest på Furuset. Han ble utnevnt til biskop i Sør-Hålogaland i 1992 og gikk av som biskop 1. desember 2006.