隋炀帝大业年间（605—618年），改为道教场所，更名“嵩阳观”。宋仁宗景祐二年（1035年），成为学府，名“嵩阳书院”。与河南商丘的商丘书院、湖南长沙的岳麓书院、江西九江的白鹿洞书院，并称“中国古代四大书院”。以后，书院一直是历代学者讲授儒家经典之地。明朝末年，书院毁于兵火。清代重修。清末废除科举制度，设立学堂，书院教育的千载历史宣告结束。2009年10月，郑州大学设立嵩阳书院，开设国学班。
建筑.嵩阳书院盛时，除主体院落外，还包括周围广阔地域的多个建筑群，如位于书院东北逍遥