时设立了淮阴县（今淮阴区码头镇）， 盱眙县和东阳县（今安徽省天长市西北到盱眙县马坝）。西汉又置淮浦县（今涟水县）等县。淮阴城正对泗水入淮口，东面的末口则是连接淮河与长江运河的起点，具有重要的交通位置。秦汉时期，这里出过不少名人：辅佐刘邦建立汉朝的大将韩信；枚乘，枚皋和陈琳（建安七子之一）。
魏晋南北朝.淮安处于南北对峙前线，长期战争带来“千里长淮，赤地千里”的景象。晋代末年，祖逖筑山阳城，即今日所谓老城，四面各1600米。南齐永明七年（489年），“割直渎、破釜以东，淮