I 1935 ble Sparta tilsluttet Norges Bandyforbund og den lokale bandykretsen, og omtrent samtidig ble Brakerøyabanen anlagt. Spartas bandyaktivitet foregikk på Brakerøyabanen, en hjemmebane de forøvrig delte med nabo og rival Bragerøens Ballklubb. Sparta debuterte i kretsserien i 1935/36-sesongen, vant umiddelbart og spilte seg opp i 2. divisjon. I sesongen 1937/38 fikk Sparta sitt gjennombrudd som bandyklubb. De vant sin 2.divisjonsavdeling, og etter seire i kvalifiseringskamper mot B.14 og Moss var de klare for spill i 1. divisjon. Plassen i den øverste divisjonen ble sikret greit, og ved krigsutbruddet i 1940 ble Sparta regnet blant landets beste lag. Da man startet opp igjen med bandy etter frigjøringen, beholdt Sparta posisjonen blant de bedre norske klubbene. I 1947/48-sesongen kom de til semifinalen i NM, men tapte der 4-2 mot Frigg. Resultatet kvalifiserte imidlertid Sparta til deltagelse i den svensk-norsk serien. Dette var en årlig turnering mellom de beste norske klubbene og utvalgte svenske lag. Turneringen eksisterte i perioden mellom 1937 og 1940, samt mellom 1946 og 1950. Sparta klarte seg ganske godt mot de presumptivt bedre svenske klubbene og oppnådde hederlige ettmålstap i begge kampene med svensk motstand.