Fylket ble grunnlagt i 1748 av land som ble utskilt fra Prince Georges county. Det har fått sitt navn etter den 6. baron av Balitmore, Frederick Calvert. I 1776 ble fylket delt i tre deler som ble til fylkene Washington, Montgomery og Frederiks County. I 1837 ble en del av fylket utskilt til Carrol county.