Joannes Gijsen ble presteviet 6. april 1957. Frem til 1959 var han kapellan i Valkenburg, deretter lærer ved forberedelsesseminaret i abbediet Rolduc ved Kerkrade. Han studerte teologi og kirkehistorie i Vest-Tyskland ved Rheinische Friedrich-Wilhelms-Universität i Bonn og ved Westfälische Wilhelms-Universität i Münster. Han tok doktorgrad i kirkehistorie med en avhandling om biskop Joannes Augustinus Paredis (1795-1886).