孝明帝孝昌三年（527年），禅宗尊为西天二十八祖的菩提达摩来到少林寺，他在跋陀开创的基础上，广集信徒，传授禅宗，寺院的规模也逐渐扩大，僧侣日益增多，少林寺逐渐成为禅宗祖庭。达摩在少林寺修行多年，东魏孝静帝天平三年传法于慧可，从此禅学在少林寺落迹流传。在南北朝佛教发展高峰期，北周武帝采纳还俗沙门卫元嵩删寺减僧的建议，在建德三年（574年）下令禁止佛教传流，史称建德毁佛，少林寺毁坏严重。580年，北周静帝恢复少林寺，将其改名为陟岵寺。
隋唐宋.隋文帝崇佛，复改陟岵寺为少林寺，并赐给少林