称帝灭后晋，建立后汉，再以晋阳为北京；郭威灭后汉后，刘知远之弟刘崇于晋阳建立北汉，北宋建立后，赵匡胤、赵光义相继讨伐北汉，并于太平兴国四年因北汉皇帝投降而占领晋阳，赵光义于五月十八下令火烧晋阳并引汾河、晋水冲灌城池废墟，古城被彻底毁灭。明朝初期，晋王朱㭎曾计划在晋阳古城废墟上重建太原，因大风吹坏工程设施而放弃，后在古城遗址南部建太原县城（今晋源东街、北街、西街、南街四村所在晋源老城），古城遗址上形成古城营、棘针、城北、罗城、壑里、东关、南城角、晋阳堡、东城角、梁家寨、赵家山、箱子、北河下、北瓦窑等村落。