Jan Graubner ble født i Brno i en søskenflokk på seks barn, men vokste opp i småstedet Strážnice. Etter å ha fullført i Strážnice i 1967, lot ikke myndighetene ham begynne på høyere studier. Graubner måtte jobbe som arbeider i ett år før han under fikk begynne å studere katolsk teologi i Olomouc.