1964年任中国人民解放军总后勤部副部长兼中国人民解放军后勤学院院长。1965年至1975年，任中国人民解放军总后勤部副部长。是中国共产党第九届中央委员会委员，第四届、第五届全国政协委员。1955年被授予中将军衔，获二级八一勋章、一级独立自由勋章、一级解放勋章。1980年7月8日，张天云在北京病逝，享年67岁。1980年7月16日，张天云同志追悼会在八宝山革命公墓礼堂举行，追悼会由中国人民解放军总后勤部政委王平主持，总后勤部部长洪学智致悼词。