I 1920-årene fikk han et gjennombrudd med flere sanger han skrev for Richard Tauber. I 1931 startet han sitt eget musikkforlag, Edition Franz Grothe. Dette måtte han oppgi i 1933 da hans jødiske forretningspartnere måtte emigrere etter den nasjonalsosialistiske maktovertakelsen. Han hadde meldt seg inn i NSDAP i 1933. Grothe drog så til Wien, senere til Hollywood. Han returnerte imidlertid til Østerrike og måtte finne en løsning med nazistene etter anschluss for å få flere oppdrag. Fra 1940 til 1945 var han leder for Deutsches Rundfunk-Tanz- und Unterhaltungsorchester i Berlin.