I 1898–1906 ble det oppført en ny bygning til Det Kongelige Bibliotek på tomten etter tegninger av Hans J. Holm, og biblioteket flyttet fra sine lokaler i Frederik IIIs gamle biblioteksbygning til den nye bygningen. I 1920 anla havearkitekt Jens Peder Andersen og arkitektene Thorvald Jørgensen og Johannes Magdahl Nielsen et haveanlegg foran biblioteket på det område hvor krigshavnen tidligere hadde ligget. Et lite basseng midt i haven minner om havnen.