先后修筑了吕蒙城和皖口城，是长江北岸的军事要塞。后在战争结束后被废弃。西晋平吴，复置舒县，属庐江郡舒县及皖县。永嘉末（313年），皖县废。东晋义熙年间（405－418年），于皖县旧地立怀宁县（怀宁之名始见于此，县治在今潜山市）及新冶县（今望江县），并置晋熙郡。分属庐江郡舒县及晋熙郡怀宁县（郡治）。南朝宋初，于舒县侨立阴安县，隶晋熙郡。宋、齐时属晋熙郡阴安县、怀宁县（宋时郡治）。梁置豫州，复改晋州，治晋熙郡怀宁。北齐以晋州为江州，陈又为晋州。属晋熙郡怀宁县、枞阳郡阴安县。隋开皇初，改晋熙郡为熙州，领怀宁、