Après de bonnes études à Toulouse, il s'engage dans l'armée au sein du régiment de hussards. En 1805, il participe à la campagne contre les Autrichiens et reçoit plusieurs blessures à Holzheim puis à Austerlitz. En 1806, son régiment est engagé contre les Prussiens et les Saxons à Saalfeld. Au cours de la retraite ennemie, il somme le prince Louis-Ferdinand de Prusse de se rendre mais ce dernier riposte par un coup de sabre. Au cours du duel qui s'ensuit, Guindey inflige plusieurs coups mortels à son adversaire.