Grünbaum nagyon gyakran ingázott Berlin és Bécs között. Berlinben filmekben szerepelt, dalszövegeket és forgatókönyveket írt, Bécsben különféle kabarékban dolgozott. 1933-től szövegei egyre többet foglalkoztak politikával. Egyik utolsó fellépésén a bécsi Kabarett Simplben a "Metro Grünbaum – Farkas gúnyos híradója" című műsorban még azzal viccelődött egy áramszünet alatt, amikor kialudtak a fények: „Nem látok semmit, abszolút semmit, biztos eltévedtem a nemzetiszocialista kultúrában”. 1938. március 10-én, a német csapatok Ausztriába vonulása előtti napon Karl Farkasszal még egyszer utoljára együtt játszott a "Simplicissimus"ban. Ezt követően a Birodalmi Kultúrkamara betiltotta a zsidó művészek fellépését. Egy nappal később Grünbaum megpróbált feleségével Csehszlovákiába menekülni, de a határon visszautasították. Egy ideig Bécsben bujkált; aztán elárulták és 1938 május 24-én Dachaui koncentrációs táborba deportálták. Később Buchenwaldba vitték, majd visszakerült Dachauba. 1941. január 14-én halt meg – a halotti anyakönyvi kivonat szerint „szívbénulás” következtében. Szilveszterkor még egyszer utoljára fellépett szenvedőtársai előtt. Tuberkulózistól kimerülve halt meg, de éles nyelve sosem hagyta el. Konferált például arról, hogy miként kívánja legyőzni az „ezeréves birodalmat”, vagy hogy a cukorbetegség ellen a teljes nélkülözés és a szisztematikus éhezés a legjobb gyógymód. Amikor a koncentrációs tábor őre visszautasított tőle egy szappant, Grünbaum így válaszolt: „Ha nincs pénzed szappanra, akkor ne tarts fenn egy koncentrációs tábort”. Sírja a Bécsi Központi Temetőben található (1. kapu; régi izraelita részleg, 20. parcella, 23. sor, 22. sír).