Nach seiner aktiven Karriere trainierte Jarzew im Jahr 1996 Spartak Moskau und gewann mit dem Verein die russische Meisterschaft. Von 2003 bis 2005 war Jarzew Trainer der Russischen Nationalmannschaft und nahm mit dieser an der Fußball-Europameisterschaft 2004 teil. 2007 trainierte er Torpedo Moskau und 2013/14 den FC Milsami aus der Republik Moldau.