בית הכנסת נבנה בין השנים 1825–1826. המבנה המפואר נבנה בתוך קבוצת בתים בסמטה צדדית ללא חזית מפוארת הנגלית לעין, זאת בעקבות צו שהוצא על ידי הקיסר יוזף השני, שקבע כי רק למבני דת קתוליים תינתן הזכות לבנות חזיתות מפוארות הפונות לרשות הרבים. באופן אירוני, דווקא האיסור הזה הוא שהציל את בית הכנסת מחורבן גמור בליל הבדולח. מאחר שלא ניתן היה להצית את בית הכנסת מבלי שהאש תעבור לבניינים הצמודים לו; וכך ניצל המבנה, היחיד מתוך 93 בתי כנסיות ומקומות תפילה יהודיים שהוחרבו על ידי הנאצים בעיר ווינה בליל הבדולח ובמהלך מלחמת העולם השנייה.