I 364 f.Kr. ble byen hovedstad for staten Wei, og fikk da navnet . Da Wei-staten gikk under, ble byen helt forlatt. Men en ny by, med navnet 汴, ble grunnlagt i 781 under Tang-dynastiet. Denne byen ble utvidet under Song-dynastiet. I dette dynastiets tidlige fase (, 960—1127) ble Kaifeng gjort til landets hovedstad. Byen ble da kalt eller , og fikk snart en befolkning på over 400 000, som bodde dels utenfor bymurene, og fortsatte å vokse. Folketettheten og forholdene ellers var slike at tyfus ble et akutt problem.