FC Prishtina ble stiftet i 1922. Klubben er regnet som den mest suksessfulle klubben i Kosovo. Klubben spilte stort sett i den nest øverste divisjonen i det tidligere Jugoslavia. Fra 1922 til 1939, spilte dem i lokale regionale ligaer i Kosovo. I en kort periode fra 1940 til 1945 spilte laget i den Albanske serien, som var okkupert av Italia. Da andre verdenskrig var over, ble Prishtina på nytt overført til den Jugoslaviske ligaen. Det resulterte i at Prishtina vant den lokale Kosovoalbanske serien i 1946 og 1947 under navnet Proletar. Etter suksess i Kosovo, rykket Prishtina opp til den nest øverste divisjonen i det Tidligere Jugoslavia. Det endte nesten med opprykk i flere sesonger fra 1967 t.o.m 1974. Etter mange tiår i den nest øverste divisjonen kom gjennombruddet i sesongen 1982/83, da laget ble avdelingsmester i den nest øverste divisjonen, noe som resulterte i opprykk til Eliteserien.