郡治在徐县，今泗洪县南半城）和泗水国（治所在凌县，今泗阳县西北），属徐州刺史部。东汉属下邳国。唐朝属于河南道徐州。北宋属属淮南东路宿州，部分属于京东西路徐州。金国时属于山东西路。元朝时属于河南江北行省。明朝时属于南直隶凤阳府泗州直隶州，清初属于江南省，后划入新成立的安徽省。中华民国初期属于安徽省淮泗道。1952年属安徽省宿县专区，1955年划归江苏淮阴专区。1970年属淮阴地区，1983年属淮阴市。1996年8月，泗洪县由淮阴市划属宿迁市。2004年3月，陈集镇从泗洪县划归宿城区。