Karlsen studerte orgel med Arild Sandvold fra tolvårsalderen og fram til organisteksamen i 1931. Examen artium avla han i 1930 ved Fagerborg gymnas. Organist i Høvik kirke, Ris kirke, Trefoldighetskirken i Oslo, senere utnevnt til domkantor i Oslo domkirke hvor han tiltrådte i 1966 og virket fram til 1982.