Die meisten der dann in Wien verbliebenen Juden fielen der Tötungsmaschinerie des NS-Regimes zum Opfer. Nach Kriegsbeginn 1939 fingen die Vorbereitungen für die Deportationen an. Im Oktober 1939 wurden 1500 jüdische Männer nach Polen abgeschoben und schließlich durch einen deutschen Kugelhagel zur sowjetischen Demarkationslinie vertrieben. Mit dem Überfall auf die Sowjetunion im Jahr 1941 begann das systematische Aufgreifen, die Ausgrenzung, Umsiedlung und Tötung aller im Reich lebenden Juden. Im September gab Adolf Hitler die Order, das gesamte Reichsgebiet „judenrein“ zu machen, was schließlich in der Wannsee-Konferenz mündete.