Biblioteket ble etablert i 1714 etter dekret fra Peter den store, som «Hans majestets bibliotek» (). I 1725 skiftet det navn til Det keiserlige biblioteket i St. Petersburg, og i 1747 Biblioteket for St. Petersburgs vitenskapsakademi. Sitt nåværende navn fikk det først i 1917, og deretter i 1992 etter en periode som Det sovjetiske vitenskapsakademiets bibliotek (1925–1992).