Riksdagen besluttet derfor å fortsette arbeidet med å finne en egnet tomt, og først i 1881 kom man til en løsning da man kom til enighet med grev Raczyńskis sønn og arving om kjøp av eiendommen øst for Kongeplassen. Det ble utlyst en ny arkitektkonkurranse i 1882, og av 190 innsendte bidrag ble et forslag fra Paul Wallot fra Frankfurt valgt. Grunnstenen ble lagt ned av keiser Vilhelm I i 1884. Bygningen fikk en stor kuppel av stål og glass, et teknisk mesterverk i sin tid. Etter ti års byggetid kunne bygningen tas i bruk i 1894.