Klubben ble stiftet 4. mars 1945 av studenter fra Universitetet i Beograd, etter at noen klubbene ble oppløst da første verdenskrig var over. Klubben har frambrakt flere spillere som har hevdet seg på europeisk toppnivå, blant andre Dragoslav Šekularac, Dragan Džajić, Dragan Stojković, Dejan Savićević, Vladimir Jugović, Siniša Mihajlović, Darko Pančev, Dejan Petković, Dejan Stanković, Darko Kovačević, og Nemanja Vidić.