市教育局统筹管理，除去山西大学和太原理工大学外，太原市还有中北大学、山西医科大学、山西财经大学、太原科技大学、太原师范学院、山西中医学院、太原工业学院、太原学院。其中山西大学和中北大学属于省部共建大学，而太原理工大学是山西唯一的211工程重点院校。山西省实验中学、太原成成中学、太原五中、山西大学附属中学等多家省级重点中学也位于太原市。这些院校中有一部分已搬入太原教育园区。太原的图书馆有山西省图书馆、太原市图书馆、山西博物院古籍图书馆、山西大学图书馆、太原理工大学图书馆等。太原市图书馆为中国国家一级图书馆