阳、符离、夏丘、下邳诸县领辖。三国时期属于魏之下邳。西晋属沛国；东晋属阳平郡。南北朝改阳平郡为谷阳郡，又置连城、高昌二县，灵璧县南郊隶属连城县。梁置临潼郡，北齐废为县，后又置潼郡，辖今县境北部。隋初属彭城郡；后改属下邳郡。唐初属谷阳县，隶徐州。唐高宗显庆元年（656年），夏丘更为虹，废谷阳入蕲县，灵璧县分属虹、蕲两县。元和四年（809），虹县部分属宿州，隶河南道。五代十国，灵璧县分属宿州、泗州之地。宋元祐元年（1086年）析虹县的零璧镇置零璧县，属宿州，隶淮南东路；建炎后没于金。元初复立灵璧