属吴国、越国、楚国治下。秦代属淮阴县地，汉武帝时析置射阳县。晋代祖逖在此筑城，并设山阳县。隋炀帝开凿隋唐大运河后，这里逐渐兴盛起来，隋唐、五代、北宋均置楚州，治山阳县。靖康之变后，金兵大举南侵，此地频遭战祸，人烟凋敝，遂改楚州为淮安州，元代再改为淮安路。明清时，漕运复兴，城市再度繁荣，设淮安府，府治依然在山阳县。但随着近代海运和铁路运输的兴起，运河的作用下降，这里亦开始衰落。民国二年（1913年），全国废府，故裁撤淮安府，山阳县也因与陕西山阳县重名，而于1914年改名为淮安县。新的淮安县政府驻地为原淮安府衙