人民共和国成立，栅栏墓地已先后埋葬了数百名西方传教士，成为明清以来西方传教士在东方安息的一个最为集中的所在。1949年中华人民共和国成立之后，外国神父鉴于当时的政治环境被迫撤离了中国。1954年，墓地内的墓碑只有利玛窦、汤若望、南怀仁三块依照政务院文化教育委员会宗教事务处的指示被保留在原地。文化大革命期间，利玛窦墓碑被红卫兵平埋于地下，使其「永世不得翻身」。1973年，马尾沟教堂被拆，墓碑更是无人照管。1978年10月，邓小平、李先念等五位中共中央领导「批准」重修利玛窦墓。1979年后，墓地得到了修复，