Das NS-Regime und seine österreichischen Anhänger begannen sofort mit der massiven Diskriminierung, Entrechtung, Beraubung und Verfolgung der jüdischen Bevölkerung. Das (jüdische) Sanatorium Loew wurde geschlossen, der jüdische Direktor des AKH, Otto Glaser, wurde ebenso wie seine jüdischen Ärztekollegen seines Amtes enthoben. Die Vereinssynagoge Müllnergasse wurde während des Novemberpogroms 1938 von einem SS-Trupp in Brand gesteckt. Hatten sich 1923 noch 25,1 % der Bezirksbevölkerung (23.746 Menschen) und 1934 23,3 % (rund 19.400 Menschen) zum Judentum bekannt, so waren am 1. Oktober 1939 nur noch 12.191 Juden auf dem Bezirksgebiet sowie im benachbarten 8. Bezirk registriert. 1943 waren nur noch 7.242 Personen jüdischen Glaubens am Alsergrund verblieben. Der Großteil von ihnen wurde in der Folge in den nationalsozialistischen Konzentrationslagern ermordet.