泰始元年（265年），封宗室司马逊为谯王，复改为谯国。至此，谯国领七县：谯、城父、酇、山桑、龙亢、蕲、铚。十六国时期，谯郡（或谯国）先后为后赵（325年－350年）、冉魏（350年－351年）、东晋（351年－359年）、前燕（359年－370年）、前秦（370年－384年）所有。前秦建元六年（370年），分兖州、豫州置南兖州，谯郡改属南兖州。建元二十年（384年），谯郡入东晋，改属徐州，复称谯国。东晋后期，省併谯、城父、酇、山桑、龙亢、铚六县（豫州谯国、历阳郡境内则置有其同名侨县），梁国宁陵县、陈