Mayer begynte først på Eberhard-Ludwig-Gymnasium i Stuttgart, men dette var preget av en sterk antikatolsk holdning, så da han var 16 år, sendte faren han til gymnaset i Ravensburg. Han ble uteksaminert derfra i 1894 med svært gode resultater, og fortalte så faren at han ønsket å bli jesuitt. Faren sa at han heller ville at han skulle bli sekulærprest, og så eventuelt gå inn i en orden på et senere tidspunkt. Rupert gikk med på dette, men understreket at det var farens beslutning. Han startet på studiene med å studere filosofi, teologi, historie og katekese ved universitetet i Fribourg i Sveits, før han studerte teologi på universitetene i München og Tübingen. Først i 1898, i sitt siste studieår, begynte han på det katolske seminaret i Rottenburg.