Au nombre des faits d’armes qui l'ont distingué, on peut citer le passage de la Lahn, où il charge l’arrière-garde ennemie, la culbute, la poursuit avec impétuosité et lui fait 130 prisonniers ; le combat de Rauch-Eberach où, chargé par le général Jourdan de débusquer un corps ennemi, il se précipite à l’instant sur lui, le bat et le met en fuite ; la prise et le combat de Subbach, où il s’établit, puis contraint l’ennemi de se retirer et d’aller chercher un refuge derrière les rochers. On cite la brillante défense de la tête du pont de Neuwied qu’il fait à l’armée de la Moselle en ; la prise audacieuse des redoutes et du village de Bendorff, où il se signale en à l’armée de Sambre-et-Meuse, celle plus importante et plus difficile de Wetzlar, qu’il fait avec sa brigade seule en . On cite encore les succès qu’il obtient avec sa division en 1798 sur les rebelles de la Calabre, qu’il bat et disperse complètement après leur avoir pris fusils ; et les services qu’il rend à l’armée lors de la retraite dirigée par Macdonald. Ce dernier fait d’armes lui vaut le grade de général de division le . On cite enfin les prodiges de valeur que fait le général Olivier à la Bataille de La Trébie les 30 prairial et 1er messidor an VII (18-) où sa division appuie la gauche de la ligne de bataille, et où il a une jambe emportée par le dernier boulet français au moment où il prodigue ses soins aux blessés sur le champ de bataille.