Po zakończeniu kampanii egipskiej Rapp pozostał pod rozkazami Desaixa, aż do śmierci tego ostatniego 14 lipca 1800 w bitwie pod Marengo. Wówczas został adiutantem "Pierwszego Konsula", utrzymując się na tym stanowisku do 1814. Jako adiutantowi Napoleon powierzał mu wiele ważnych, tajnych misji, jak np do Wandei, Szwajcarii i Belgii. W 1803 otrzymał stopień generała brygady, a w grudniu 1805 poprowadził sławetną szarżę szaserów i mameluków Gwardii w bitwie pod Austerlitz, dziesiątkując kawalerię carskiej Gwardii Imperialnej i biorąc do niewoli księcia Repnina. Awansowany do stopnia generała dywizji, walczył w bitwie pod Jeną 14 października 1806. Brał udział w kampanii w Polsce oraz Prusach i został ranny pod w bitwie pod Gołyminem. Był gubernatorem Torunia (28 lutego - 15 maja 1807) i Wolnego Miasta Gdańska (2 czerwca 1807 - 2 grudnia 1813).