Biblioteket er bygget med økonomiske ressurser fra forretningsmannen og filantropen Andrew Carnegie. Beograd var en av de første tre byene i Europa med et Carnegie-bibliotek, og det er det eneste Carnegie-biblioteket i Sentral- og Øst-Europa.