建武初年（公元25年），皖县复为侯国，后复为县；元和二年（公元85年），改属六安国；章和二年（公元88年），复属庐江郡。三国仍为庐江郡。舒、皖二县地为魏、吴兵争之地，建安十九年（公元214年）前属魏，后属吴。
两晋、南北朝.西晋复汉制，属庐江郡舒、皖及龙舒县地；永嘉乱后，皖县废。东晋安帝义熙年间（公元405～418年），刘裕平桓玄之乱后，分庐江郡置晋熙郡及怀宁县于皖县故地，属晋熙郡。南北朝宋武帝割扬州大江以西为豫州，晋熙郡怀宁县属之；南齐沿宋制，怀宁县属豫州晋熙郡；其后