Biblioteket ligger i den nordlige delen av Universitetsparken, hvor dets 45 meter høye gule boktårn med magasiner er et landemerke. I parken foran biblioteket ble det i 1976 og 1984 bygget underjordiske magasiner, og i 2000 ble et medisinsk bibliotek åpnet i den tidligere fødselsklinikken i den sydlige del av universitetsparken. Frem til 1963 hadde Statsbiblioteket lokaler i bygningen som i dag huser Erhvervsarkivet.