Billot tjenestegjord i Algerie og Mexico, og ble av Léon Gambetta satt i spissen for 18e armékorps i 1870. I 1871 ble han brigadwgeneral, og i 1878 divisjonsgeneral. Etter den fransk-tyske krigs slult ble Billot innvalgt for det republikanske venstre i nasjonalforsamlingen. Han ble i 1875 senator på livstid og var 1882-83 og 1896-98 krigsminister. På Billots initiativ ble det i 1878 påbegynt en omorganisasjon av den franske generalstaben etter tysk mønster. I 1898 trådte Billot ut den aktive tjeneste.