Paulsen var elev av blant annet Edvard Grieg og Ludvig Mathias Lindeman, og han studerte ved musikkonservatoriet i Leipzig. Han var en periode organist i Jakob kirke i Oslo, inntil han i 1888 emigrerte til USA. Fra 1895 var han kordirigent Bethania i Chicago.