中央纪律委员会委员、政策委员会委员、中央评议委员。1965年（民国54年），升任监察院副院长。1972年（民国61年）5月至1973年3月，代理监察院院长。在学术方面，1968年（民国57年）任中华学术院诗学研究所所长，此后历任中国传统诗学会名誉理事长、诗经研究会名誉理事长、中国孔孟学会监事、船山学会监事。张维翰善于作诗、书法，晩年研究佛学。1979年（民国68年）9月1日上午，张维翰在台湾病逝。享年94岁（满92歳）。