Joseph Werth begynte på prestestudier i hemmelighet i Litauen under ledelse av en leder for undergrunnsjesuittene, som også i all hemmelighet tok innlemmet ham i jesuittordenen. Senere fullførte han studiene ved seminaret i Kaunas.