Han vokste opp i beskjedne kår i Hamburg, sammen med faren Sally Dessau, som var tobakkshandler, og dennes andre kone. Med økonomisk støtte fra slektninger, kunne Paul tidlig få fiolinundervisning. Senere studerte han ved Klindworth-Scharwenkakonservatoriet i Berlin. Deretter arbeidet han som korrepetitør ved operaene i Hamburg (1913–1914) og Köln (1919–1923). Han arbeidet senere som kapellmester for operette og film, først i 1912 på Hamburg Stadttheater, etter første verdenskrig ved Stadttheater i Köln, og perioden 1925–1933 ved Städtische Oper i Berlin. Samtidig begynte han å komponere, og dette opplevde han snart som sitt egentlige kall. Han komponerte sin første symfoni over en frase i den tradisjonelle Kol-Nidre-melodien, og skrev et stykke for mannskor og orkester, til bruk i synagogen.