始四年（268年），初名“慧光明寺”，为会稽郡剡县人（今浙江省嵊州市附近）竺法崇所建，自此湖南始有佛寺，故被称为“汉魏最初名胜，湖湘第一道场”之称。麓山寺是湖南佛教发源地。竺法崇之后有高僧法导、法愍二人曾接任主持大师。
隋朝.隋文帝开皇九年（589年），智顗法师来到麓山寺讲经布道，宣扬《妙法莲华经》的“三谛圆融”奥义。仁寿时期，天竺上献佛陀舍利子，隋文帝在全国建佛寺供奉，岳麓山在仁寿二年（602年）也建立了佛塔保存舍利子。 
唐朝.唐朝初期改名“麓山寺”。