Zenon Grocholewski ble født i Bródki i Storpolen og var sønn av Stanisław og Józefa (født Stawińska) Grocholewski. Han studerte filosofi og katolsk teologi ved presteseminaret i Poznań.