Avant même la fin de sa carrière de joueur, Trofimov devient dès 1950 entraîneur de l', un poste qu'il occupe jusqu'en 1980 à l'exception d'un passage de deux ans comme adjoint d'Ivan Davydov entre 1952 et 1954. Sous ses ordres, le club remporte le championnat soviétique à quatorze reprises entre 1951 et 1978 ainsi que trois coupes d'Europe en 1975, 1976 et 1978. En parallèle, il entraîne également la en 1954 puis de 1964 à 1981, amenant l'équipe à huit titres de champion du monde d'affilée entre 1965 et 1979. Il exerce également brièvement un poste d'entraîneur assistant au sein de la sélection soviétique de football entre et , notamment dans le cadre de l'Euro 1964 dont les Soviétiques atteignent la finale.