I 1928 ble det ikke spilt kretskamper, men FFK vant en turnering som ellers besto av Moss, Kvik og Sarpsborg og FFK ble dermed uoffisielle kretsmestere 1928. Først og fremst vil likevel året huskes som året IL Sparta ble etablert. Splittelsen skulle få store konsekvenser, fordi den gjorde at Sarpsborg FK mistet posisjonen som det naturlige topplaget for alle i industribyen. Utover på 1920-tallet hardnet nemlig frontene mellom arbeidere og funksjonærer til. Sarpsborg FK hadde alltid vært en klubb for ingeniørene og borgerskapet. Arbeidsløse unggutter stiftet i 1928 IL Sparta, som ble innmeldt i Arbeidernes Idrettsforbund (AIF). Fram til 1940 spilte ikke AIF-klubber kamper mot Sarpsborg FK og de andre i Landsforbundet for Idrett. I en hovedfagsoppgave pekte forskeren Per Vold på at dette var en viktig faktor som gjorde FFK til ledende klubb i Østfold på 1930-tallet: I Fredrikstad avga de gode gatelagene sine beste spillere til FFK, og byen hadde ingen AIF-klubber som hevdet seg. I Moss og Sarpsborg ble derimot Rapid og Sparta de dominante klubbene i AIF på landsbasis. I AIF-mesterskapene ble Sparta raskt en ledende klubb. Cupfinalene i 1930, 1934 og 1935 ble tapt, men i 1936, 1937 og 1938 ble Sparta mestre.