Fylket ble grunnlagt i 1874 av land som ble skilt ut fra fylkene Douglas og Greenwood. Det har fått sitt navn etter guvernør Samuel H. Elbert.