Reconverti par la suite comme entraîneur, Chevtchenko occupe un poste d'adjoint au sein de l'encadrement technique du Lokomotiv entre 1986 et 1992 avant de partir pour le Club Bolívar où il remporte le championnat bolivien en 1992. Il s'en va ensuite pour l'Israël entre 1994 et 1996, occupant notamment le poste d'entraîneur de l'Hapoël Beer-Sheva. Retournant ensuite en Russie en , il effectue de brefs passages à l'Ouralmach Iekaterinbourg, au Gazovik-Gazprom Ijevsk et à l'Ouralan Elista avant de rejoindre en 1999 le Torpedo Moscou où il passe trois saisons et demi, amenant notamment l'équipe à la troisième place du championnat russe en 2000. Les années qui suivent le voit ensuite passer au Saturn Ramenskoïe, au FK Rostov et au Terek Grozny, avec entre-temps un bref passage en Ukraine au Metalurh Donetsk. Il dirige par la suite le Tchornomorets Odessa entre et avant de connaître son dernier poste entre juin et en tant qu'entraîneur du Rotor Volgograd.