Valmennusuransa Chovanec aloitti syksyllä 1996, kun hänestä tuli Vlastimil Petrželan potkujen jälkeen AC Sparta Prahan päävalmentaja. Hän johdatti Spartan mestariksi kaudella 1996/97. Kesken seuraavan kauden Chovanec jätti seuran ja siirtyi Tšekin maajoukkueen päävalmentajaksi. Hän johdatti maan EM-kisoihin 2000, mutta tie katkesi alkulohkoon. Chovanec sai kuitenkin jatkaa tehtävissään, mutta sai potkut vuonna 2001 Tšekin jäätyä rannalle MM-kisoista 2002.