在合肥(今合肥市)设立，范围为安徽省长江以北的地区加上属今南京市的六合县和江浦县。1950年2月，起属华东军政委员会。1951年12月9日，皖南人民行政公署从芜湖迁往合肥市，与皖北行署合署办公。1952年8月7日，皖北行政区与皖南行政区合并成立新的安徽省，省会仍为合肥。