至扬州安定书院就读。干隆二十四年（1759年），二十五岁中举人，任国子监教习。干隆二十八年（1763年）师事戴震，与钱大昕、邵晋涵、姚鼐、刘台拱、汪中等学者有往来。干隆三十六年（1771年），段玉裁任贵州玉屏县知县。两年后调四川省，任四川富顺、南溪及巫山等知县，任职期间清正廉明，并完成了古音学之作《六书音均表》，结合了顾炎武、江永的成果，分古韵为17部，提出“古无去声”、“同声必同部”等见解。代理富顺县知县期间开始撰写《说文解字注》，每至深夜，—灯荧然，写成五百四十卷。干隆四十五年（1780年），4