En parallèle de sa nomination dans l'encadrement de la sélection, Tarkhanov devient l'entraîneur principal du CSKA Moscou au mois de . Terminant la saison à la dixième place, il amène par la suite le club à la sixième puis à la cinquième position. Il occupe par ailleurs le poste de président entre le mois d' et l'année 1996. Il quitte par la suite son poste d'entraîneur en pour rallier l'autre équipe moscovite du Torpedo. Finissant onzième au terme de l'exercice 1997, les mauvaises relations avec sa direction amènent par la suite à sa démission au mois de .