Biblioteket ble grunnlagt i 1921 og er etterfølgeren til Beograds universitetsbibliotek fra 1844. Biblioteket har ligget på dagens plassering siden 1926.