随禅宗在日本普及，正安元年（1299年），鎌仓幕府执权北条贞时定净智寺为「五山」是史料上最早的「五山」。
京都五山和鎌仓五山.
鎌仓时代.鎌仓幕府的五山制度详细状况不明，但是，鎌仓的建长寺・圆觉寺・寿福寺及京都的建仁寺4寺包含在「五山」之内。同様的，后醍醐天皇的建武新政也制定「五山」，南禅寺和大德寺两寺定为五山笔头，包含东福寺和建仁寺。
室町时代.之后，开创室町幕府的足利尊氏建立天龙寺，希望在五山之内加上天龙寺。历应4年（1341年）