Johannes Maria Gföllner begynte på gutteseminaret på Freinberg i Linz i 1879. Han ble uteksaminert fra Collegium Germanicum i Roma og studerte ved Det pavelige gregorianske universitet fra 1887 til 1894. I 1890 ble han tildelt sin doktorgrad i filosofi, og i 1894 til sin teologiske doktorgrad.