Walter jurmann studerte først medisin, men hadde en sterk musikkinteresse. Han avbrøt studiene og begynte som yrkesmusiker, først som barpianist. Hans talent gjorde inntrykk på tekstforfatteren Fritz Rotter som tilbød et samarbeid i Berlin. Allerede deres første slager, som ble framført av Richard Tauber ble en stor suksess. Jurmann ble spådd en lysende framtid av Richard Strauss og Emmerich Kálmán.