Parti pour la campagne de Russie avec la Grande Armée, il est nommé major des grenadiers à cheval de la Garde impériale le . Au lendemain de la bataille de la Moskowa, le , il est nommé général de division, et prend le commandement de la division de cavalerie légère (), à la tête de laquelle Murat fait son entrée dans Moscou le 14 septembre. Blessé à Vilna, Exelmans ne peut tenir à cheval et fait une partie de la retraite à pied. Il obtient un congé de convalescence qu'il va passer à Paris. En 1813, il rejoint l'armée à Dresde : il prend part à la bataille de Bautzen et s'illustre encore à Leipzig et Hanau. Sa brillante conduite dans la campagne de Saxe (1813) lui valut le cordon de grand officier de la Légion d'honneur.