Terug in Frankrijk in juni 1797 werd hij "aide de camp" voor zijn oom, generaal d'Harville, later brigadecommandant (juli 1799) en streed mee tijdens het conflict om de Rijn. Op vijfentwintigjarige leeftijd was hij kolonel van het 2de regiment karabiniers, een elite-eenheid van de Franse ruiterij. Caulaincourt liep een verwonding op nabij Weinheim, maar wist zich later te onderscheiden onder generaal Jean Victor Moreau tijdens de Slag bij Hohenlinden.