Při Napoleonově tažení do Ruska Rajevskij velel 7. pěchotnímu sboru, náležejícímu k 2. armádě knížete Bagrationa. V předvoji zodpovídal za zpomalení Davoutova postupu k Moskvě. Po bitvě u Saltanovky ustoupil ke Smolensku, kde se zúčastnil bitvy o město. Během bitvy u Borodina bránil pravé křídlo ruské armády na pozici, známé jako Rajevského baterie. Za to byl vyznamenán řádem sv. Jiří III. stupně. Později pronásledoval ustupující Francouze a zúčastnil se bitev u Malojaroslavce a u Krasného, kde pomohl porazit maršála Neye.