献帝建安后期，分沛国置谯郡，属豫州，治谯县（今亳州市谯城区）。辖境相当今安徽、河南两省灵璧、蒙城、萧县、五河、鹿邑、永城等县市间地。魏文帝黄初三年（222年），进封谯县公曹林为谯王，改谯郡为谯国。黄初五年（224年），降封谯王为县王，复为谯郡。魏明帝景初二年（238年），沛国宋县、陈郡苦县改属谯郡。晋武帝泰始元年（265年），封宗室司马逊为谯王，复改为谯国。至此，谯国领七县：谯、城父、酇、山桑、龙亢、蕲、铚。十六国时期，谯郡（或谯国）先后为后赵（325年－350年）、冉魏（350年－351年）、东晋