Stephen Yang Xiangtai kom fra en katolsk familie som bodde i en landsby som den gang hørte inn under bispedømmet Weihui som ble pastorert av italienske PIME-misjonærer. Han gikk fra 1933 på den katolske grunnskolen i Wu'an. I 1935 begynte han på bispedømmets gutteseminar, og forsatte etterpå studiene i filosofi og teologi på presteseminaret i Kaifeng i Henan i 1940.