El 22 de junio de 1941, el día en que Alemania invadió a la Unión Soviética, Pecherski fue conscripto en el Ejército Rojo bajo el rango de Лейтенант (teniente). Para septiembre de 1941, fue promovido al rango de intendente (clase II). A inicios del otoño boreal de 1941, rescató a su comandante herido de ser capturado por los alemanes; sin embargo, no recibió ninguna medalla por esta hazaña. Uno de sus compañeros supuestamente declaró: «Sasha, si lo que has hecho no te convierte en un héroe, ¡no sé quien lo sería!». En octubre de 1941, durante la Batalla de Moscú, su unidad fue rodeada y capturada por los alemanes en el centro de la ciudad de Viazma, óblast de Smolensk.