建于1902年5月8日，最初名为山西大学堂，是中国创办最早的三所大学堂之一，其他的两所国立大学是京师大学堂（北京大学前身），北洋大学堂（天津大学前身）。它也与武汉大学前身自强学堂、上海交通大学前身南洋公学等属同时期的近代新式高校。1901年9月，山西巡抚岑春煊奉旨筹办山西大学堂，费用来自英国拨还的庚子拳乱赔款。1902年5月8日，山西大学堂正式成立。后来，岑春煊接受英国传教士李提摩太的建议，增设西学书斋，原有的部分称中学书斋。李提摩太为西学书斋总理，西斋于1902年6月26日开学。最初校址设立在太原