孝文帝时期，称“大文殊院”。唐太宗贞观五年（631年），法云法师重建，为“真容院”。北宋景德年间，宋真宗敕建并设文殊像并赐额“奉真阁”。明永乐年间，改名为“敕改建大文殊寺”。明朝以降，沿称“大文殊寺”。清朝顺治十三年（1656年），改为藏传佛教喇嘛庙。康熙皇帝赐菩萨顶大咧嘛提督印，并命山西全省包括山西巡抚、大同总兵、代州道台一并向其进贡。清朝皇帝、王公、喇嘛每逢朝礼五台，一般都住该寺。康熙二十二年（1683年）改覆本寺大殿琉璃黄瓦、并设军队保护，其地位凸显尊贵。大照壁上行，为108级石台阶层，十分陡峻。