Cuando estalló la guerra con el comienzo de la Operación Barbarroja, Zajárov estaba al mando de varios ejércitos en el sur del país.