下辖桂阳县、阳山县、连山县、宣乐县、洊安县、熙平县、武化县、桂岭县、开建县九县。隋炀帝时改为熙平郡，隋末废除熙平县、武化县、宣乐县三县。唐朝改熙平郡为连州，桂岭县改属贺州、开建县改属封州、洊安县改属齐州。连州辖境相当今广东省连州市、连山壮族瑶族自治县、阳山县等地，下辖桂阳县、阳山县、连山县三县。天宝、至德时连州一度改为连山郡。马楚、南汉、宋朝沿置连州。元朝至元十三年（1276年），置安抚司，直隶行中书省。十七年（1280年），废安抚司，升为连州路。十九年（1282年），降为散州，隶广东道宣慰司。明朝时隶广州