南阳郡（治所在今河南省南阳市）人。生于天宝十年（751年），出身官宦之家，曾祖张大礼，官至坊州刺史，祖父张绍贞，官至尚书右丞。父张泚，官至苏州司马。兄长张式于大历七年壬子科进士第一名。张正甫于贞元二年（786年）丙寅科状元及第，山南东道节度观察使樊泽招为从事，举荐李绛。贬为彬州长史。历任殿中侍御史、户部员外郎。大和五年（831年）任检校兵部尚书、太子詹事。卒于大和八年（834年）。赠太子太师。韩愈称之“正直之性，怀刚毅之姿。嫉恶如仇雠，见善若饥渴。备更内外，灼有名声。”有子张毅夫。