东、西两部份之后，罗马主教的地位在西罗马帝国继续得到巩固，但在东罗马帝国，君士坦丁堡主教的地位渐渐上升，与罗马主教常常分庭抗礼。11世纪发生东西教会大分裂后，东方教会以君士坦丁堡主教（普世牧首）为首，使用正统教会的名称，西方教会以罗马教宗为首，继续使用大公教会的名称。16世纪出现宗教改革运动，新教蓬勃发展，新教人士常使用“旧教”、“罗马教会”的名称来称唿此天主教会，「罗马公教」、「罗马天主教」、「罗马天主教会」等别名由此而来。天主教人士较少使用这样的称唿。大公教会传教士进入中国的时候，将「大公教会」