关于74师师长张灵甫之死则是个谜,一直没有权威的结论,主要有以下三种说法:一是自杀,这是一个侥幸突围的74师副团长向国防部报告的,另有1位就在师部门口的74军连长回忆是张灵甫命令副官刘立智将张灵甫、蔡仁杰和卢醒打死的;二是击毙,张灵甫和警卫坚守师部所在山洞,解放军攻击时多人伤亡,只好投入手榴弹然后乱枪扫射将其击毙,这是5月30日陈毅、粟裕向中央报告的;三是被俘后被杀,4纵30团曾于16日报告华野司令部俘虏张灵甫,后又告失踪,据查押解途中6纵特务团副团长何凤山因自己部队伤亡很大,气愤不过将其枪杀。这一论点的根据是陈毅曾于5月29日在团以上干部会议就此进行过严肃批评,陈毅说:“此次对俘虏政策的破坏达到了相当严重的程度,对放下武器的自由杀害,各级干部不加责备,不追究责任。”此战由于74师顽强抵抗,解放军参战各部伤亡都相当严重,战斗结束后枪杀俘虏以报仇的事情屡屡发生,因此张灵甫被杀也在情理之中。粟裕在解放后接受《红日》的作者吴强采访时被讲到,张灵甫的致命伤口是汤姆森枪从左脑后打进,右下颚穿出(与张灵甫杀妻之弹道如出一辙)。而张灵甫身材高大,这样的弹道只有在他下蹲或弯腰姿态才有可能形成。——张灵甫的尸体被掩埋在沂水县野猪旺村后山冈上,解放军还在坟墓前树立一木牌,上书“张灵甫之墓”,以便其家属认领。蒋介石为其颁发第3号旌忠状,在南京玄武湖畔为其修建纪念碑(解放后被拆毁),将山东蒙阴县改名为灵甫县,并将英国援助的1艘驱逐舰命名为灵甫号。1949年国军退至台湾,建军人祠,张灵甫为“烈士”第一人。