元顺帝弃大都北遁后,黄河流域还有山西王保保、陕甘李思齐、张思道三支元朝残余力量。驻跸上都的顺帝命令王保保夺回大都,就在王保保军队前往北平途中,徐达得到太原城空虚的消息,遂会师太原,回师救援太原的王保保军队驻扎城外与徐达军队列阵,却在夜晚被明军偷袭,王保保兵败北逃。随后元太原守将豁鼻马投降,太原由此纳入明朝版图。
明代初期的太原城是宋朝新建城,周长十一里,土城墙环绕。洪武三年太祖第三子朱棡受封晋王;洪武九年,朱棡的岳父谢成被派往太原负责老城的扩建,扩建的明代太原城在宋代城的基础上向南、北、东三个方向扩展,扩建后太原城周长二十四里,外侧包砖,共八门。
扩建太原城的同时,也营建了晋王府,朱棡于洪武十一年就藩太原后,开启了王府近三百年的历史。晋王府位于明代太原城东北角,其西墙就是宋代太原城的东墙,大致位于精营街一带,即今以山西医科大学第二附属医院宿舍为中心的肖墙街以内的一片地方。王府开三门,其地今称南华门街、东华门街、西华门街。它城外有外城墙,今称东肖墙、南肖墙、西肖墙、北肖墙;现称东丹墀、西丹墀是宫殿台阶所在地;东夹巷、西夹巷是宫内的东、西夹道;肖墙内有祭天地的天地坛街;管理膳食的典膳所街和官府花园的杏花岭街。
清顺治三年四月十二日夜,晋王府失火,如大同代王府、长治沈王府、西安秦王府一样在清初的浩劫中化为灰烬。雍、乾年间,太原的清军清理晋王府废墟,该晋王府旧址为精兵营,也就是现在太原精营街名称的由来。
如今晋王府已经没有建筑遗迹,旧址上也建起了铜锣湾购物中心,除了一些与晋王府有关的地名外,只剩下府墙外的四棵明代老槐还默默地见证着王府的变迁。