每逢时节，周围的百姓都会祭拜他，睹碑生情，莫不流泪，羊祜的继任者、西晋名臣杜预因此把它称作堕泪碑。
历史.羊祜作为晋征南大将军镇守襄阳，爱民如子，深得民心，连敌方吴军统帅陆抗也称赞羊祜的德行度量：“虽乐毅、诸葛孔明不能过也”。。咸宁四年（278年），羊祜病逝后，襄阳百姓为纪念羊祜，在其生前游息之地岘山建庙立碑，即是堕泪碑。堕泪碑在后世几存几废。晋永兴年间，荆州刺史刘弘令幕僚李兴重撰羊祜碑记，刻立祠前。此篇碑记为晋文名篇《晋故使持节侍中太傅鉅平成侯羊公碑》。南北朝时一度被割据襄阳