Andrejs Rubins startet inn karriere i FK Auda før han i 1997 tok overgang til svenske Östers IF hvor han spilte 11 matcher. I 1998 flyttet Rubins tilbake til Latvia hvor han signerte en kontrakt med Skonto Riga. I løpet av de neste tre år vant han den latviske ligaen tre ganger og den latviske cupen to ganger. Totalt spilte Rubins 67 kamper og scoret 14 mål for Skonto.