Cuando la Alemania Nazi invadió la Unión Soviética en junio de 1941, Rokossovski fue nombrado comandante del 16º ejército estacionado en Smolensk.