镇县的垓下之战中败给刘邦，自刎于乌江（今安徽和县）。打败项羽后，刘邦建立汉朝。汉武帝时东瓯国举国迁到卢江郡（安徽西部的舒城地区）。汉朝末年与魏晋南北朝时期，，寿春成为军阀袁术的基地。袁术后来自称皇帝，但不久病死， 寿春归属军阀曹操（今安徽亳州人，三国中魏国的实际开创者）。五胡十六国期间，从4世纪开始的几百年间，几支北方游牧民族在中国北方相继建立政权，南方则一直保持着汉人的王朝。安徽北部成为南北方对峙的前线，战火不断。383年在北方的前秦和南方的东晋之间展开的淝水之战就是其中非常重要的一次战役。