隋代大兴佛教,敕令复少林之名,赐柏谷坞良田百顷,成为北方一大禅寺。唐初秦王李世民消灭王世充割据势力时,曾得寺僧援助,少林武僧遂名闻遐迩。高宗及武则天亦常驾临该寺,封赏优厚。唐会昌年间,武宗禁佛,寺大半被毁,迄唐末五代,寺渐衰颓。宋代略有修葺。元皇庆元年(1312),世祖命福裕和尚住持少林,封赠为大司空开府仪同三司,统领嵩山所有寺院。一时中外僧众云集,演武礼佛,僧众常有两千人左右。元末农民起义,红巾军至少林,僧众散逃。明代先后有八位皇子到寺内出家,屡次诏令大修,寺院规模有所发展。清代康熙、雍正、乾隆诸帝亦很关心少林寺,或亲书匾额,或巡游寺宇。1928年因遭兵燹,天王殿、大雄殿等许多建筑、佛像、法器被毁。寺内现存有山门、客堂、达摩亭、白衣殿、地藏殿及千佛殿等。千佛殿内有明代五百罗汉朝毗卢壁画。寺旁有始建于唐贞元七年(791)的塔林,有塔220余座,还有初祖庵、二祖庵,以及附近的唐法如塔、同光塔、五代法华塔、元代缘公塔等。寺内保存唐以来碑碣石刻甚多,重要的如《唐太宗赐少林教碑》《武则天诗书碑》《戒坛铭》《少林寺碑》《灵运禅师塔碑铭》《裕公和尚碑》《息庵禅师道行碑》和近年建立的《日本大和尚宗道臣纪念碑》等。