番禺县东墺（今广州市越秀南路清水濠）出生。干隆五十八年（1793年）名列广东番禺童子应试榜首，知县因而赐张“南山”之名。道光二年（1822年）中壬午恩科进士。道光丙戌（1826年）张父病逝，张离职守制，回乡治丧，于清水濠旧居之东数百步建新居。道光十年（1830年）同林则徐、黄爵滋、龚自珍等在北京结宣南诗社。于江西南康府知府任内，被清廷派任台湾担任台湾府知府，不过他以母年高望阙拜辞。
晚年.道光十六年（1836年）辞官归广州，租住在芳村的潘家东园（六松园），临近羊城八景之