Tidlig i sin karriere ble Romberg engasjert av brødrene Shubert til å skrive musikk for deres musikaler og revyer, inkludert flere for Al Jolson. For brødrene Shubert tilpasset han også flere europeiske operetter for et amerikansk publikum, blant de suksessfulle (1917) og (1921), sistnevnte var kjent i Europa som med musikk av Franz Schubert. Hans tre operetter fra midten av 1920-tallet, navngitt over, er i stilen til Wien-oprettene, men hans andre verker fra denne tiden er preget av stilen til amerikanske musikaler for deres tid. Han skrev også filmmusikk.