Devenant déjà brièvement adjoint durant son passage au Ponnistus Helsinki en fin d'année 1995, Davydov prend également un poste d'adjoint dans l'encadrement technique d'Anatoli Bychovets en parallèle de celui de joueur lors de son retour au Zénith Saint-Pétersbourg en 1997. S'y consacrant par la suite entièrement après sa fin de carrière professionnelle, l'engagement de Bychovets par l'équipe nationale en le voit mettre entre parenthèses son poste au Zénith, amenant Davydov à être nommer dans un premier temps entraîneur principal par intérim avant d'être confirmé dans ses fonctions au mois de novembre, après le non-renouvellement du contrat de Bychovets. Quelques mois après sa prise de poste, il amène l'équipe à la finale de la Coupe de Russie en , qu'il remporte finalement face au Dynamo Moscou. Ses performances en championnat sont cependant plus décevantes, le club finissant notamment huitième en 1999. Le début de la saison suivante s'avère tout aussi décevant et amène à son renvoi en . Il est cependant maintenu dans l'organigramme du club, entraînant notamment les équipes de jeunes jusqu'en 2001.