Raith Rovers' beste sesong i ligaen var 1921/1922-sesongen, da de ble nummer tre i 1. divisjon. Klubben klarte imidlertid ikke å holde seg i toppsjiktet, og rykket ned i 1926. De neste tiårene ble det flere opp- og nedrykk. Da ligaen ble omstrukturert i 1975, rykket Raith ned i den nye Second Division (nivå tre). I 1993 rykket klubben opp i øverste divisjon igjen, for første gang siden 1970. To år etter vant Raith Rovers den skotske ligacupen, og fikk dermed spille i UEFA-cupen for første gang. De ble slått ut av Bayern München, som til slutt vant UEFA-cupen 1995/96. Raith Rovers rykket ned fra øverste divisjon for siste gang så langt i 1997.