Fylket ble grunnlagt i 1889 av land som ble skilt ut fra Elbert County og det har fått sitt navn etter pelsjegeren og pioneren Kit Carson (1809–1868).