Conrad Gröber var sønn av en snekkermester. Han gikk på gymnasiet i Konstanz og studerte teologi i «Collegium Germanicum» og ved det pavelige universitet Gregoriana i Roma. Han ble presteviet i Freiburg den 28. oktober 1897.