Bygningen ble åpnet i 1888 og var tegnet av Adolf Leonard van Gendt (Dolf van Gent) og inspirert av Neue Gewandhaus i Leipzig. Byggingen begynte i 1883, og 2186 pilarer av tre ble banket ned i bakken som fundament. Bygningen var ferdig i 1886, men utfordringer med adkomsten gjorde at den offisielle åpningen var 11. april 1888. Husorkesteret, Concertgebouworkest holdt sin første konsert 3. november 1888.