Napoleon kwam op 7 juni 1812 in Danzig aan en informeerde Rapp dat de oorlog met Rusland was begonnen. Rapp sloot zich weer aan bij de keizer in Smolensk en nam deel aan de Slag bij Valoutina-Gora. Tijdens de Slag bij Borodino incasseerde Rapp in negentig minuten tijd vier verwondingen.