嘉靖五年，王子乔后裔王瑶在晋祠圣母殿右下侧，建晋溪书院，则广招学子，振兴教育。1902年，清朝以庚子赔款，在山西太原兴建山西大学堂，后成为国立山西大学，建国后其文理学院成为了今天山西大学的基础，工学院成为太原理工大学的基础，医学院成为山西医科大学的基础。晋系军阀阎锡山在近代创建山西省立国民师范学校，徐向前、薄一波、程子华、王世英均由该校毕业。太原的教育由太原市教育局统筹管理，除去山西大学和太原理工大学外，太原市还有中北大学、山西医科大学、山西财经大学、太原科技大学、太原师范学院、山西中医学院、太原工业学