西汉时地属临淮郡（郡治在徐县，今泗洪县南半城）和泗水国（治所在凌县，今泗阳县西北），属徐州刺史部。东汉属下邳国。唐朝属于河南道徐州。北宋属属淮南东路宿州，部分属于京东西路徐州。金国时属于山东西路。元朝时属于河南江北行省。明朝时属于南直隶凤阳府泗州直隶州，清初属于江南省，后划入新成立的安徽省。中华民国初期属于安徽省淮泗道。1940年10月，中共皖东北地委和专署（后改为淮北苏皖边区党委和行政公署）建立，境内先后设置了泗南、泗宿、泗阳、洪泽等敌后抗日根据地边区县。1947年6月，泗南县与洪泽县