In 1878 raakte de naam van de stad voorgoed verbonden aan de Sandžak, toen het Congres van Berlijn dit gebied de naam "Sandžak van Novi Pazar" gaf. Tussen 1878 en 1908 werd deze Sandžak van Novi Pazar bestuurd door Oostenrijk-Hongarije. In 1908 werd het weer onderdeel van het Ottomaanse Rijk, dat het in 1912 verloor aan Servië tijdens de Eerste Balkanoorlog. Na de Tweede Wereldoorlog werd Novi Pazar al snel een veel minder belangrijke stad.