Da NSDAP kom til makten i Tyskland i 1933 ble jødiske befolkningen i Tyskland gradvis og systematisk fratatt rettigheter, og Gersons karriere bremset dramatisk. Hun ble svartelistet fra ariske filmer, og hun begynte å spille inn musikk for et lite jødisk plateselskap. Hun spilte også inn på yiddish på denne tiden, og sang i 1936 «Der Rebe Hot Geheysn Freylekh Zayn», som ble høyt skattet av jøder i Europa på 1930-tallet. Gersons mest minnerike innspillinger var de tyske sangene «Backbord und Steuerbord» og «Vorbei», en følelsesladet ballade som kommenterte forholdene i Tyskland.