Som barn fikk Carsten undervisning på piano og orgel av metodistmenighetens organist. På hans konfirmasjonssøndag ble organisten brått syk, og Carsten måtte veksle mellom å delta i konfirmasjonshandlingene og å spille orgel under seremonien. Ikke lenger etter fikk han fast ansettelse som Elims nye organist. Da han var 18 år gammel ble han ansatt som organist i Bryn kirke og Tanum kirke i Bærum, og forble i denne stillingen fra 1910 til 1918. Han studerte så komposisjon med blant andre Gustav Lange og Per Winge, samt klaver og fiolin ved Musikkonservatoriet i Oslo. Deretter studerte han to år ved et konservatorium i Paris.