Han satt i Den nasjonale forsvarsregjeringen etter Napoleon IIIs fall under Den fransk-prøyssiske krig. Han var undervisningsminister i flere perioder, og som et ledd i en antiklerikal og antikatolsk skolepolitikk utstedte han i mars 1880 de dekreter som gjerne omtales som Jules Ferrys lover. Han avskaffet i 1882 religionsundervisningen i de offentlige skoler, i tillegg til at han stoppet statsstøtten til de private skoler som fortsatt underviste i religion. Tiltakene var innrettet særlig mot å svekke den katolske jesuittordenens skolevesen.