Nachdem das Damenstift 1837 an den heutigen Klosterwall verlegt worden war und 1840 auch Johanneum und Bibliothek einen Neubau auf dem heutigen Domplatz bezogen hatten, wurden die Klostergebäude einschließlich der Kirche bis 1841 abgerissen. Die entstandene Freifläche hieß zunächst Johannis-Platz und wurde nach dem Großen Stadtbrand von 1842 vorübergehend mit Notunterkünften bebaut. Im Zuge der anschließenden Neugestaltung der Innenstadt wurde der Platz neu geplant und erhielt um 1843/44 den heutigen Namen. Das namensgebende Rathaus als Ersatz für das beim Brand zerstörte alte Rathaus an der Trostbrücke wurde jedoch erst 1886 bis 1897 erbaut; zuvor bildete das bereits 1841 fertiggestellte (und heute hinter dem Rathaus gelegene) neue Börsengebäude lange Zeit den südwestlichen Abschluss des Platzes.