Jean-Baptiste ble presteviet i Laterankirken den 8. april 1871. Hans første oppdrag var som viserektor ved presteseminaret i Luxembourg, og i 1876 ble han sogneprest i Pintsch.