山氏国，市区东部属钟离国。今蚌埠地域曾为淮夷族聚居区。传说大禹治水南下淮泗，在今怀远县境涂山娶涂山氏女为妻，并生启。
春秋至战国.今一市三县地域曾分别为徐方、鲁、宋、吴、越、楚等国的邑地。
秦至明.秦王朝建立后统一实行郡县制，今淮河南岸怀远、蚌埠地域属九江郡曲阳、钟离等县分领，今淮河北岸怀远、蚌埠、固镇、五河地域为泗水郡蕲、徐等县分领。后迭经变更，历经西汉、东汉、两晋南北朝、隋、唐、五代十国，至南宋宝祐五年（1257年），始置怀远军及荆山县，辖今怀远县