征南大将军镇守襄阳，爱民如子，深得民心，连敌方吴军统帅陆抗也称赞羊祜的德行度量：“虽乐毅、诸葛孔明不能过也”。。咸宁四年（278年），羊祜病逝后，襄阳百姓为纪念羊祜，在其生前游息之地岘山建庙立碑，即是堕泪碑。堕泪碑在后世几存几废。晋永兴年间，荆州刺史刘弘令幕僚李兴重撰羊祜碑记，刻立祠前。此篇碑记为晋文名篇《晋故使持节侍中太傅鉅平成侯羊公碑》。南北朝时一度被割据襄阳的张敬儿毁坏，南梁大同十年（544年），堕泪碑又被重新竖立，由刘之遴撰文记述碑重立的始末。五代十国时期，堕泪碑在战乱中再次被毁，北宋景祐年