Ved begynnelsen av Ming-dynastiet (1368–1644) fikk den navnet (府; , som betyr «hovedby») og beholdt det navnet til 1912. Det var i Ming-tiden at bymuren ble til (1568). Under Ming-dynastiet og Qing-dynastiet var Taiyuan Fu hovedstad for Shanxi. Under republikken (etablert i 1911) ble navnet endret til , et navn som ble bevart til 1947.