Galliffet trat 1848 in die Armee ein, wurde 1853 Sous-lieutenant, 1860 Capitaine, 1863 Stabsoffizier und nahm am Feldzug in Mexiko teil. Galliffet stieg 1865 zum Lieutenant-colonel und 1867 zum Colonel auf. Er befehligte dann das 3. Regiment der Chasseurs d’Afrique. Seit dem 30. August 1870 Général de brigade, führte er am 1. September während der Schlacht bei Sedan an Stelle des tödlich verwundeten Général de division Margueritte die französische Kavallerie bei den Angriffen auf die bei Floing stehende preußische Infanterie und zeichnete sich auch hierbei durch stürmische Tapferkeit und rücksichtsloses Einsetzen der eigenen Person aus. Nach der Kapitulation von Sedan blieb Galliffet bis zum Schluss des Krieges in deutscher Kriegsgefangenschaft, übernahm dann den Befehl über eine Brigade der Armee von Versailles und führte diese während der Niederschlagung des Aufstandes der Pariser Kommune.