San José sai maaliskuussa 1850 kaupunkinoikeudet, ensimmäisenä Kaliforniassa. Kaupungissa oli tuolloin 5 000 asukasta. San Josén taloutta kasvatti kultaryntäys ja 1864 San Franciscosta tullut rautatie. Kaupungista kehittyi erityisesti maatalouskeskus. Siellä viljeltiin muun muassa aprikooseja, luumuja ja viinirypäleitä. Lisäksi kaupunki oli ennen toista maailmansotaa maailman suurin säilykkeiden ja kuivahedelmien tuottaja sekä merkittävä maatalouslaitteiden valmistaja.