1974年进入台湾大学历史系研究所旁听，结识史学家李守孔，成为晚年好友。
逝世.1977年6月22日，胡因心脏病突发于台北逝世，享寿七十岁。逝世后，家属亲友遵从其遗嘱，将遗体火化，海葬于大、小金门间水头湾海水域中。7月，中国国民党中央委员会褒扬状称：「本党中央委员胡琏……保卫金门古宁头……战绩彪炳……」9月21日，总统严家淦颁发褒扬令：「陆军一级上将胡琏……督战古宁头，一举歼灭来犯……」蒋经国巡视金门时，裁定建立一座「伯玉亭」于金城镇，以为永久纪念。1978年6月22日，俞大维撰、