Byggingen kom i gang etter en arkitektkonkurransene Carnegie utlyste. Vinnerbidraget var en nyrenessansebygning av den franske arkitekten Louis M. Cordonnier, og bygningen ble konstruert av den nederlandske arkitekten Van der Steur. Omgivelsene ble designet av Thomas Hayton Mawson. Alle nasjoner skulle bidra med byggematerialer; for Norges vedkommende ble det granitt.