记·张仪列传》的有关记述，荥阳城最晚在战国时期的公元前320年已由韩国建成，以位于荥泽之阳得名，是当时的北方军事重镇和水陆交通要道。秦灭韩后，设三川郡，荥阳城属之，有说法称荥阳为三川郡郡治所在。秦末，刘邦、项羽曾反复争夺荥阳城，其间刘邦被困城中，手下大将纪信为救刘邦脱险，冒充刘邦诈降项羽，使刘邦得以从荥阳城西门安全逃出，而自己则在被俘后拒绝投降，被项羽用火烧死。两汉时期，荥阳城为荥阳县治所，得到进一步的修筑，并在西门外设立河南郡的第一个大型冶铁作坊。三国和西晋时期，荥阳城更升为荥阳郡治所。北魏太和十七年