楼的名字分别取自其建筑平面形状，最初将府右街的法国圣母会和修道院迁来安置在这两栋楼中，后来山字楼被刘克明神甫买下兴办文声学院，口字楼继续作为圣母修道院。马尾沟教堂的文声学院曾经是中国北方最重要的神学院之一，培养了大量本土神职人员，前中国天主教爱国会主教傅铁山便毕业于此。1937年抗日战争爆发后，整个马尾沟教堂和栅栏墓地均被日军占领，教士被遣散，文声学院的学生流落社会，马尾沟教堂开始衰落。1949年后，马尾沟教堂的外国教士离开中国，整个教堂由中国教会人士管理。1954年，教会将山字楼和口字楼出售给中共