Podczas trzęsienia ziemi w 1906 r. miasto nie ucierpiało tak poważnie, jak pobliskie San Francisco, poniosło jednak pewne straty. Powyżej 100 osób zginęło w szpitalu Agnews po tym, jak zawalił się dach i ściany budynku. Podczas II wojny światowej, wielu Japończyków zamieszkujących San Jose zostało internowanych i przymusowo umieszczonych w specjalnych obozach. W 1943 antymeksykańskie zamieszki miały także miejsce w San Jose.