Starkovs gjorde sit navn kendt som holdtræner med Skonto FC, som han bragte frem til utallige lettiske mesterskaber. Han arbejdede også med Letlands nationale U-21 fodboldlandshold, og i 2001 blev han udnævnt til landsholdstræner for Letlands fodboldlandshold. Han overtog det lettiske fodboldlandshold efter dets katastrofale indsats i kvalifikationsrunderne til VM i fodbold i 2002, og førte holdet til sin største succes nogensinde, hvor de kvalificerede sig til EM i fodbold i 2004 med en sejr over bronzevinderen fra Tyrkiet.