淮南郡于丹阳的于湖（今当涂县南19公里处）。
隋唐宋.隋文帝开皇九年（589年），废原芜湖（城）为当涂县属镇，唐代因之。五代，南唐昇元年间复置芜湖县，属江宁府，由此历代沿置不改。宋太祖开宝八年（975年）以芜湖属宣州。太平兴国二年（977年）改隶太平州。由此至民国，芜湖县均隶属太平（元代为路、府，明清均为府）。宋代，芜湖开始修筑城墙，后毁于兵火。
明清.明代，芜湖重筑城垣，1581年（万历九年）建成，其规模甚小，周围739丈，略呈梯形。但是，由