En las elecciones generales de noviembre de 2001 en Kosovo, su partido obtuvo el 25,7 % de los votos, el segundo después de Ibrahim Rugova, de la Liga Democrática de Kosovo, y Rexhepi fue nombrado primer ministro por la Asamblea de Kosovo el 4 de marzo de 2002.