Figlio del celebre generale napoleonico Jean Lannes, Gustave Olivier crebbe col mito della figura del padre che morì quando lui aveva appena cinque anni e decise pertanto di seguirne le orme. Entrò come volontario nel corpo di cavalleria dell'esercito francese al tempo della Restaurazione, prendendo parte alla Spedizione di Algeri del 1830, ove si distinse in una serie di piccoli combattimenti, ottenendo il grado di capitano degli "spahis".