Joseph McGucken var sønn av Joseph A. og Mary Agnes ( Flynn) McGucken. Han gikk på Polytechnic High School i hjembyen Los Angeles, deretter studerter han ingeniørfag ved University of California, Los Angeles i to år, før han begynte på prestestudier ved St. Patrick's Seminary i Menlo Park. Han fortsatte studiene ved Pontifical North American College i Roma, og tok doktorgrad i Roma i 1928.