死前有遗书：「十余万之匪向我勐扑，今日战况更趋恶化，弹尽援绝，水粮俱无。我与仁杰决战至最后一弹，饮诀成仁，上报国家与领袖，下答人民与部属。老父来京未见，痛极！望善待之。幼子望养育之。玉玲吾妻，今永诀矣！ 灵甫绝笔 五月十六日 孟良崮」。然而曾任国军第二绥靖区人事处长的吴鸢则撰文回忆称，遗书是第二绥靖区司令王耀武在与他以及第二绥靖区副参谋长罗幸理、第四兵站副总监郑雍若、秘书主任钟晓林等人商议之后令译电科科长李啸梓伪造的。两天后，根据时任华东野战军6纵副司令员皮定均的命令，张灵甫的遗体被裹以新白布、用4寸厚的楸