南镇会稽山，西镇吴山，北镇医巫闾山，冀州镇霍山，并分别立祠。隋朝确立东西南北镇，又将霍山定为冀州镇，是为了调和《周礼》中“五岳四镇”和九州镇山除诸岳之外尚有五座的矛盾。唐代礼制，有时只采用四镇，如《开元礼》中明确祭祀五岳四镇，有时则将五镇同等对待，如天宝八年，将“九州镇山，除入诸岳外”都封为公。到北宋干德六年，将霍山定为中镇，与五方五岳相配的五方五镇自此明确定立。隋唐时期，吴山在诸镇中地位最高。隋代，诸镇中只有吴山跟五岳一样设有令官。安史之乱中，唐肃宗将吴山改为西岳。宋代，吴山于元丰八年（1085年）