三县地域曾分别为徐方、鲁、宋、吴、越、楚等国的邑地。秦朝建立后统一实行郡县制，今淮河南岸怀远、蚌埠地域属九江郡曲阳、钟离等县分领，今淮河北岸怀远、蚌埠、固镇、五河地域为泗水郡蕲、徐等县分领。后迭经变更，历经西汉、东汉、两晋南北朝、隋、唐、五代十国，至南宋宝祐五年（1257年），始置怀远军及荆山县，辖今怀远县及蚌埠市区西部、固镇县一部，今蚌埠市区东部属濠州钟离县；南宋咸淳七年（1271年）始置淮安军及五河县。南宋、金对峙时期，今固镇县先为宿州蕲县、灵璧县及泗州虹县分领，后为宿州、灵璧、荆山、五河等县分领。