与六合一起属于堂邑郡。东晋侨置肥如县。前秦南侵，晋朝谢玄领命北伐后，率领东晋军队，从广陵出发，经大仪、铜城、龙岗直取三阿，在今天长市境内展开三阿之战击退前秦军。南朝宋、齐在此侨置南沛郡、沛县；西部与六合一起属于南兖州秦郡。梁改南沛郡为泾城郡、泾州，陈改泾城为沛郡 （梁陈之间短暂属于北齐东广州）。北周改沛郡、县为石梁郡、县。隋朝时属于扬州永福县和江阳县 (隋朝)。唐初改永福县为石梁县，不久撤销并入扬州的江都县、六合县和高邮县。天长正式置县是唐玄宗天宝元年（公元742年），为纪念玄宗李隆基生