De retour à la vie civile, il s'inscrit dans la classe de maître de Sergueï Ioutkevitch et Mikhaïl Romm à l’Institut national du cinéma (VGIK). Diplômé en 1952, Tchoukhraï entre aux studios Mosfilm où il travaille comme réalisateur à partir de 1953. En 1960, son film de guerre "La Ballade du soldat" est projeté au Festival de Cannes où il reçoit le prix de la meilleure participation pour la sélection soviétique. Il fait également partie de la sélection du Festival international du film de San Francisco.