Суседно Опште гробље у Верингу било је растављено 1920-их и претворено у Верингер парк. С друге стране, јеврејско гробље је остало нетакнуто, због јеврејских закона о светом земљишту. У нацистичком периоду, међутим, значајан део гробља је уништен. Отприлике 1.500–2.000 гробница уништено је припремом терена за ватрогасно језеро које никада није изграђено. Јеврејска заједница је претходно ексхумирала одређени део гробница, а земне остатке је превезла на Централно гробље након масовног организовања камиона и горива, где су сахрањени у масовној гробници. Материјал за ископ језера коришћен је за грађевинске радове на тргу Урбан-Лориц. Посмртне остатке још 200 мртвих, нацисти су донели у Природњачки музеј у Бечу на анализу и истраживање у области „расних студија“. Посмртни остаци су касније такође покопани на Централном гробљу. Током 1942. године, уследила је експропријација целе парцеле; јеврејска заједница била је принуђена да гробље прода граду. Након што је храбри градски службеник територију гробља прогласио уточиштем за птице, барем је преостало земљиште могло бити сачувано.