В июле 1941 года был назначен на должность заместителя начальника штаба — начальника оперативного отдела штаба 20-й армии, которая принимала участие в боевых действиях в ходе Смоленского сражения и Вяземской оборонительной операции, во время которых оказалась в окружении, где продолжала вести оборонительные боевые действия. С частью войск Шмыго вышел из окружения на Можайскую линию обороны и после расформирования полевого управления армии в конце октября был назначен на должность заместителя начальника штаба — начальника оперативного отдела штаба Северо-Западного фронта, который вёл оборонительные боевые действия на демянском направлении, а затем принимал участие в ходе Торопецко-Холмской и Демянской наступательных операций.