Nella sua carriera Starkovs ha allenato lo Skonto Riga (dal 1993 al 2004) e la Lettonia (dal 2001 al 2004). Rilevò la panchina della nazionale lettone dopo la disastrosa performance alle qualificazioni per i Mondiali 2002 e condusse la squadra al più importante successo di sempre, la qualificazione a Euro 2004 con una vittoria ai play-off sulla terza classificata ai Mondiali 2002, la Turchia. Dopo questo successo come CT, fu ingaggiato dallo Spartak Mosca. Nell'aprile 2006 è stato costretto a dimettersi a causa dell'ostracismo totale da parte dei tifosi. Quasi un anno dopo le dimissioni dalla squadra russa, Starkovs è tornato sulla panchina della Lettonia.