I desember 2002 gikk Rubins over til FK Spartak Moskva på en «». Etter tre måneder og uten at ha spilt en eneste kamp for Spartak Moskva ble Rubins videresolgt til et annet russisk lag, Sjinnik Jaroslavl, hvor han i løpet av to sesonger spilte 51 kamper og lagde fire mål. I januar 2005 vendte Rubins tilbake til Spartak Moskva da han skrev under på en fireårskontrakt med klubben. Denne gangen spilte Rubins kun fem kamper for Spartak Moskva før han ble utlånt tilbake til Sjinnik Jaroslavl, og deretter ble han utlånt til latviske Liepājas Metalurgs.