Allerede i tenårene hadde Gaillot en lengsel etter å bli prest. Etter gymnasiet påbegynte han sine prestestudier ved seminaret i Langres. Mellom 1957 og 1959 avtjente Gaillot sin obligatoriske verneplikt; han var postert i Algerie under dette lands selvstendighetskrig.