只得离开上海音乐学院，今虞琴社也不得不废社。1980年复社时，张子谦出任社长，之后再度受聘于上海音乐学院，龚一、成公亮、李禹贤和戴晓莲等都曾是他的学生。1988年将近90岁高龄的张子谦因身体欠安，而移居长子张家镇在天津的家中。到达天津的第二天接受天津音乐学院聘请，成为该校的客座教授，在该校任职期间收下最后一个弟子李凤云。1991年在天津的家中逝世。