I 1894 flyttet han til Berlin for å studere med klaverpedagoger der. Men ifølge Erpekum Sem selv fikk han etter noen års klaverstudier en håndskade under et opphold i Sveits, og dette satte en stopper for planene om å bli pianist. Han begynte i stedet å ta sangundervisning i Paris og deretter i Wien. Som sanger debuterte han i rollen som Max i av Carl Maria von Weber, på Bremen Stadtteater.