Xhaferi war Offizier in der Jugoslawischen Volksarmee von 1985 bis 1991 und von 1992 bis 2001 bei den Mazedonischen Streitkräften. Während des albanischen Aufstands in Mazedonien 2001 schloss er sich den Rebellen der paramilitärischen UÇK an und desertierte aus der mazedonischen Armee wenige Tage nach dem Massaker von Vejce vom 28. April 2001. Xhaferi war noch am Tag des Vejce-Massakers Kommandant der Kaserne von Tetovo.