Fylket ble dannet i 1753 fra den nordlige delen av fylket Anson County. Det ble navngitt etter Matthew Rowan, fungerende guvernør for North Carolina fra 1753 til 1754.