丹徒人。其父张九征是顺治十二年乙未科中进士。玉裁九岁通《五经》。康熙五年丙午科乡试中举。康熙六年（1667年）丁未科缪彤榜进士第二人（榜眼），阅卷考官叹曰：“此长沙痛哭书也。”，授翰林院编修。后以疾归隐丹徒，一病不起，年仅四十。有《礼存文集》。有弟张玉书。