Do roku 1830 byl Mali Zvornik součástí Bosny a Hercegoviny a poté byl připojen k Obrenovićovskému Srbsku. V roce 1918 se stal součástí Jugoslávie, po roce 1941 pak byl okupován Německem. Ve skále poblíž města byl v roce 1931 vybudován bunkr tehdejší jugoslávské královské rodiny, který měl soužit v případě napadnutí země pro její ochranu a jako velitelské stanoviště jugoslávské armády. Během dubnové války v roce 1941 a napadení Jugoslávie Německem a Bulharskem byl tento kryt použit.