荐其才能，于咸丰五年（1855年）升任庆远知府。任内剿平土匪王得胜等，升左江道，改代理右江道。不久庆远失守，革职留任。咸丰八年（1858年），连同按察使蒋益澧重新攻克庆远，官复原职，代理按察使，不久正式任职，又迁布政使。同治元年（1862年），巡抚刘长佑赴浔州筹划剿抚，张凯嵩率兵配合，克复阳朔，因功接替刘长佑任巡抚。同治二年（1863年），征召布政使刘坤一围剿大成国余党黄鼎凤等部。同治三年（1864年），攻克天平寨，生擒黄鼎凤。贵县平定，朝廷赏头品顶戴。疏陈左右江积匪未清，议三路进兵，以刘坤一统七营留防