抗期间，荆州战线处于和平状态。后晋武帝想封羊祜为南城郡侯（领泰山郡的南武阳、牟、南城、梁父、平阳五县），不过羊祜以汉高祖封张良留侯为例，请封鉅平县侯。与唐《晋书》本传的追封诏一样。晋咸宁四年十一月辛卯日（278年12月27日）羊祜病重临死之前推举杜预担任镇南将军。杜预果真不负羊祜举荐，奇袭西陵，三陈平吴，在其后的灭吴战争中担任西线统帅，计取江陵，招降交、广。晋灭吴后，武帝流着泪说：“此羊太傅之功也。”
堕泪碑.羊祜病逝后，襄阳百姓为纪念羊祜，在羊祜生前游息之地岘山建庙立碑，