海葬于大、小金门间水头湾海水域中。7月，中国国民党中央委员会褒扬状称：「本党中央委员胡琏……保卫金门古宁头……战绩彪炳……」9月21日，总统严家淦颁发褒扬令：「陆军一级上将胡琏……督战古宁头，一举歼灭来犯……」蒋经国巡视金门时，裁定建立一座「伯玉亭」于金城镇，以为永久纪念。1978年6月22日，俞大维撰、黄杰写「胡伯玉将军纪念碑记」竖立于「伯玉亭」。
家庭.原配吴秀娃，1925年嫁给18岁的胡，婚后当年，吴秀娃鼎力资助胡报考黄埔军校。之后，吴秀娃未见于史料续娶曾广瑜生下3子