在西魏、北周、隋朝和唐朝时期均经历过大规模的开凿。唐朝时期，须弥山一带还曾经建造过规模很大的景云寺。宋朝和西夏时期，须弥山石窟曾有多次装修和修复活动，当地也曾建有多处寺庙。在这一时期，藏传佛教传入固原地区，这一时期在部分石窟当中出现了藏传佛教风格的壁画。明朝时，在景云寺附近还曾经修建过三重楼阁。正统八年（1443年），原景云寺的僧人重新修建寺庙，明英宗朱祁镇将该寺庙赐名为圆光寺。此外，石窟周围还曾建有相国寺。清朝时，须弥山石窟受到大规模修复，这次修复之后在当地还立有碑文予以记载。明清时期，须弥山一带曾开凿有