生。后来，张联升赴芦台从军。因为追剿义和团有功，被擢升为牌头，后来进入北洋将弁学堂学习。1905年，升任统领，随长江提督姜桂题南下，张联升带三个营驻浦口。1908年，提督换人，张联升变为张勋的部下。1911年辛亥革命后，张联升改归湖北陆军第九师师长黎天才，担任旅长，驻襄阳。此后，张联升依靠吴佩孚而获任命为襄郧镇守使，所部为陆军第十七混成旅，后来张联升升任第五师师长。自此，张联升靠着吴佩孚的势力并笼络地方势力，创立军绅政权，以自筹军饷的名义，控制了襄郧沿汉江一带的厘金局，并勒令郧阳县等县种鸦片，还经营汽车