Fylket ble opprettet den 25. mars 1853 fra deler av fylkene Contra Costa County og Santa Clara County. På den tiden lå administrasjonssenteret i byen Alvarado. I 1856 ble det flyttet til San Leandro. I perioden 1872–1875 lå senteret i Brooklyn. Brooklyn er nå en del av Oakland.