Ma stammet fra en ledende katolsk familie i Jiangsu. I en alder av 11 år begynte han på en av jesuittenes skoler i Shanghai, Collège de Saint-Ignace.