Grocholewski ble presteviet 27. mai 1963 og virket deretter i tre år som kapellan i Poznań før han ble sendt til Roma for fordypningsstudier ved Det pavelige universitet Gregoriana. Der tok han doktorgrad i kirkerett. I årene 1972 til 1999 arbeidet han i forskjellige stillinger (notar, kansellist, sekretær, prefekt i Den katolske kirkes «høyesterett» (Den apostoliske Signatur). Han underviste samtidig i kirkerett ved Gregoriana og ved Lateranuniversitetet, og var også vesentlig medvirkende ved utarbeidelsen av den reviderte utgave av den katolske kirkelov som kom i 1983.