又置谯郡，治蒙县（今梁园区蒙县故城）。北魏永安二年（529年），元颢在睢阳登基称帝，建元孝基。北齐天保元年（550年）废谯郡。隋开皇三年（583年）废梁郡入亳州。开皇十六年（596年）于故梁郡置宋州，治睢阳县。开皇十八年（598年）改睢阳县为宋城县。大业三年（607年）复改梁郡。唐武德二年（619年），王世充称帝建大郑，改梁郡置梁州。武德四年（621年）改梁州为宋州。天宝元年（742年）改宋州为睢阳郡。干元元年（758年）复为宋州。建中二年（781年）于宋州置宣武军。兴元元年（784年）宣武军移治汴州。