政事练达明敏才佩服顺从。二年（1797年）以江西星子县知县署理建昌府南丰县知县。署任南丰县时鼓励农民耕种，县城外每人赏酒三卮、金花采布各一，慰劳如同家人，用四天完成城池四周劝农。政务闲暇时就前往义学考核督促生徒，并增加拨给学费预算、严明教条。正好遇到乡试举行，黎世序在河边为考生张綵设幄、举乐行酒、各赠考试所需花费，生员都欢欣鼓舞。有豪暴青年为患乡里，黎世序侦查知悉后将姓名榜列在各城门、关口共一百多人，于是终其任期再无胆敢肆虐者。四年（1799年）回星子县本任。六年（1801年），调江西南昌府南昌