בית הכנסת נהרס, יחד עם עוד 80 בתי כנסת נוספים בווינה, במהלך הפוגרומים שהתבצעו בליל הבדולח בשנת 1938 לאחר סיפוח אוסטריה לגרמניה הנאצית. במהלך בנייה של בניינים חדשים למגורים בשנת 1998, שוקמו חלקים מן החזית הישנה של בית הכנסת, אך בעלי הדירה שבית הכנסת ממוקם לידה (ברחוב נוידגרגאסה) התנגדו לשחזור מלא של המבנה.