化寺佛阁在武宗灭佛中废毁，蒙山大佛遂暴露在风雨中。唐干宁二年（公元895年），盘踞并州的河东节度使、后来追封后唐武皇帝的晋王李克用参拜蒙山大佛后，命人重建开化寺佛阁。历经五年，佛阁终于建成。后晋开运二年（公元945年），镇守太原的北平王、后来的后汉高祖刘知远到开化寺焚香礼佛后，出资重修佛像和佛阁，留有苏禹珪所撰《重修蒙山开化寺庄严阁记》。北宋淳化元年（公元990年），开化寺中新修二座高二丈释迦如来舍利塔（即今开化寺连理塔）。元朝末年，开化寺毁废，只有僧房舍利塔尚在。通常认为，蒙山大佛在这时一齐被毁。明洪武十