建设期间，新政权开始了大规模的基础设施建设，在“大兴水利”“水利是农田的命脉”等毛泽东思想的指导下，水利建设得到更多的重视。1951年5月，中央组织治淮视察团去治淮工地视察，毛泽东作出了“一定要把淮河修好”这一着名指示，在淮河的南源皖西大别山区修建以大型水库为龙头的山谷水库群的计划被写入了治淮方略。淠河是淮河的一条重要支流，“每逢汛期，十年九灾”，治淮委员会工程部在进行多次查勘后决定在霍山县县城南17公里，佛子岭镇南2.5公里淠河东源上修建水库蓄洪，佛子岭水库这一重点工程很快得到了国家计委和水利部的批准