De synagoge is gebouwd in 1825-1826 als schuilkerk. Ze is gevestigd tussen twee appartementencomplexen en daardoor tamelijk onopvallend in het straatbeeld. De rooms-katholieke keizer Jozef II had namelijk per edict verordend dat alleen rooms-katholieke gebedshuizen een voorgevel mochten hebben die direct aan een openbare weg stond. Ironisch is dat juist dit decreet ertoe geleid heeft dat het gebouw ruim een eeuw later, tijdens de "Kristallnacht" in november 1938, niet vernietigd werd, omdat daarbij onvermijdelijk ook de belendende huizen in vlammen op zouden zijn gegaan. Daardoor is de Stadttempel het enige joodse gebedshuis in Wenen dat de Tweede Wereldoorlog heeft overleefd; alle andere 93 synagogen zijn door de nazi's vernietigd.