垂拱元年（685年），中明经五经举，授平乡县尉。不久贬官。长安年间，受侍御史张循宪举荐，拜张嘉贞为监察御史，迁兵部员外郎。任中书舍人，出任梁、秦二州都督、并州长史。唐玄宗初，并州设天兵军，以嘉贞为天兵军节度使、加上柱国。开元八年（720年），宋璟、苏颋离职。升中书侍郎、同中书门下平章事，数月后加银青光禄大夫，迁中书令。开元十年（722年），嘉贞弟张嘉祐入朝为金吾将军，兄弟并居将辅之位，极为显赫。十一年（723年），以贪赃事贬为幽州刺史。十二年（724年），回京任户部尚书兼益州长史，掌益州都督府。