朝宋元嘉十六年（439年），分长沙郡北部的巴陵、蒲圻、下隽县和江夏郡的沙阳县置巴陵郡。郡治设在巴陵城，从此岳阳城区一直作为郡治所。但吴昌、罗县仍属长沙郡，安南县（南安县改）仍属南平郡。后分罗县等地置湘阴县，齐时属长沙郡。梁时又分罗县、吴昌县新置玉山县、岳阳县（非今岳阳县）、湖滨县，并以此五县及湘阴县建岳阳郡。郡治设岳阳（今汨罗长乐镇）。
隋唐时期.隋文帝开皇九年（589年），废郡为州，撤消吴昌县、湖滨县，并入罗县；又废岳阳郡，将玉山县、湘阴县并入岳阳县，改岳阳县为湘阴县。并废除巴陵