那坎坷的路旁。现在蜀道阻远，不适合运回乡里，可以直接就埋在这里，够埋头发和牙齿就足矣。务必薄葬就好，以完成我的心愿。人的一生，要对人有敬畏之心，如果有不好的事情发生在自己身上，只需以正道之行坦然接受。」儿子们遵从遗嘱，把他葬在河南郡梁县，就在那边安家。将作大匠翟酺等人和诸位儒学门生追录他的生平行事，谥曰宪文。一说谥文父。
轶事.张霸任会稽太守时，入海追捕盗贼，海风强劲、天色昏暗，水波大量涌出，士兵们惊讶地告诉张霸，张霸说：「没有必要恐慌，我们奉法追贼，这点风必定不会害我们。」弹指之