1日易帜，出任国民革命军独立第九师师长。1927年四一二事变后，张联升响应事变，砸毁了中国国民党襄阳县党部、各区党部以及各区农民协会，捣毁中国共产党党员集中的湖北省立第十中学，通缉并逮捕中国共产党人。5月17日，张联升将襄阳县农民协会主席董振杀害于襄阳县城西门外。同年9月，国民革命军第二集团军总司令冯玉祥南下来到襄阳，张联升乃投靠冯玉祥部，出任总司令部副总参谋长，但因没有实权而回到天津闲居。抗日战争期间，日军占领山东后，劝张联升出任山东省主席，被其拒绝。1940年，张联升回到宝坻，并带头减租减息