Ostrý zlom nastal po anšlusu Rakouska nacistickým Německem, kdy byla téměř celá komunita zlikvidována. Část židovstva emigrovala, většina však zahynula během holokaustu. Většina přeživších druhou světovou válku emigrovala do Izraele. Současná židovská populace v Rakousku čítá asi 9000 osob. Část současné populace tvoří imigranti ze zemí bývalého Sovětského svazu.