Bourbakin isä oli kreikkalainen eversti, joka kaatui Kreikan vapaussodassa. Bourbaki opiskeli vuosina 1834–1836 La Flèchen ja Saint-Cyrin sotilasakatemiassa ja valmistuttuaan luutnantiksi liittyi zouave-joukkoihin Algeriassa. Osoittettuaan rohkeutensa Sétifin taistelussa vuonna 1840 hän sai 1842 ylennyksen kapteeniksi. Vuonna 1845 Bourbaki oli lyhyen aikaa kuningas Ludvig Filipin adjutanttina, mutta palasi sen jälkeen Algeriaan. Vuonna 1851 hänet ylennettiin everstiksi ja nimitettiin ensimmäisen zouaverykmentin komentajaksi. Bourbaki osallistui myös Krimin sotaan ja sai 1854 Alman taistelun jälkeen ylennyksen prikaatinkenraaliksi. Hän haavoittui Sevastopolin valtauksen yhteydessä ja palasi sen jälkeen vielä kerran Algeriaan, jossa hänestä tuli 1857 divisioonankenraali. Vuonna 1859 Bourbaki osallistui Italian sotaretkeen ja tuli seuraavana vuonna toisen divisioonan komentajaksi Grenoblessa.