Poco después del comienzo de la Operación Barbarroja, Shepílov ingresó en la "Milicia Popular" en julio de 1941, sirviendo como comisario político de su unidad de Moscú durante la Batalla de Moscú en 1941-1942.