谷在上海法租界被日本宪兵会同法国警察逮捕，舆论哗然，日本及汪精卫方面被迫释放了张若谷。1943年，畲山进教之佑圣母大殿由圣座册封为乙级宗座圣殿，张若谷为此创作《畲山圣母歌》两首，词曲皆为其所作。1945年抗日战争胜利后，张若谷赴南京任南京总教区总主教于斌的私人秘书，天主教《益世报》南京版编辑。中华人民共和国成立后，1955年9月8日，张若谷因宗教原因被抄家，并被遣送到东北劳改农场劳动改造。在劳动改造期间，张若谷坚持信仰天主教，和其他教友暗自念诵玫瑰经。后来，经上海市高级人民法院复查，撤销原判，无罪释