861年10月被迫北迁到献县城东1千米的张庄，1863年10月2日开始兴建哥特式大教堂—献县张庄耶稣圣心主教座堂，到1866年3月28日祝圣。主教座堂长50米，宽21米，可容纳2000余人。主教座堂尚未建成，由于在1862年，来访的江南代牧区年文思主教染霍乱身亡，于是在1864年9月9日，郎怀仁主教调任江南代牧区。杜巴尔（Eduard Dubar）接任直隶东南代牧区主教。1865年3月，郎怀仁到达上海，就任江南代牧区主教。他乘坐法国军舰到长江沿岸的安庆、南京等地，拜会当地的官员，要求在这些地方兴建天主教