Fylket ble grunnlagt i 1869 av land fra fylkene Antrim, Emmet og Otsega. Det har fått sitt navn etter den franske misjonæren Pierre François Xavier de Charlevoix.