Under Sui-dynastiet ble fylket oppgradert til prefektur, og det hadde da navnet (虔州). Under Song-dynastiet skjøt tilflytningen av han-kinesere fra nord fart, og de lokale stammer ble drevet opp i fjellandet. Særlig etter at Det nordlige Song-dynastis hovedstad Kaifeng falt, økte den han-kinesiske tilflytningen dramatisk. Navnet ble offisielt endret til Ganzhou under Det sørlige Song.