Mianowany hrabią Cesarstwa, na wezwanie Napoleona wrócił 8 marca 1809 do czynnej służby wojskowej. W bitwie pod Aspern odznaczył się prowadząc do boju fizylierów cesarskiej Gwardii; podczas uroczystości zawarcia pokoju w Schönbrunn powstrzymał zamachowca chcącego pchnąć nożem Napoleona. W Rosji, w bitwie pod Borodino, został ranny od trafienia czterema kulami naraz. Powtórnie uratował życie cesarzowi odrzucając atak Kozaków pod Horodnią, ale został ponownie ranny w bitwie nad Berezyną, wspierając siły marszałka Neya w straży tylnej. Powróciwszy do Gdańska, Rapp wytrzymał oblężenie rosyjsko-pruskie do grudnia 1813. Wzięty do niewoli był więziony na Ukrainie do 1814, ale już w lipcu wrócił do Francji.