人民共和国成立之后，外国神父鉴于当时的政治环境被迫撤离了中国。1954年，墓地内的墓碑只有利玛窦、汤若望、南怀仁三块依照政务院文化教育委员会宗教事务处的指示被保留在原地。文化大革命期间，利玛窦墓碑被红卫兵平埋于地下，使其「永世不得翻身」。1973年，马尾沟教堂被拆，墓碑更是无人照管。1978年10月，邓小平、李先念等五位中共中央领导「批准」重修利玛窦墓。1979年后，墓地得到了修复，并列入了北京市文物保护单位。利玛窦墓现位于北京西城区阜成门外的中共北京市委党校院内。如今公墓东边墓碑数十块。西边有墓碑