与之相比，来自法国的天主教传教机构则显得相当庞大。耶稣会早在上海开埠之前的1842年，鸦片战争尚未结束时，就已经秘密潜入上海附近浦东、松江等地的乡村。1847年，他们选中上海西郊的村庄徐家汇建立江南传教区的总部，耶稣会会院，其中附设图书室（以后发展为徐家汇藏书楼）。1849年，耶稣会神甫在会院内开设了读经班，次年，圣依纳爵公学正式对外招生。此后，在附近地段陆续建成包括大、小男修道院，2所女修道院（拯亡会和圣衣会），徐家汇藏书楼，气象台，土山湾印书馆，男子中学，女子中学，育婴堂等数十个教会机构，形成一大片教会