Fue fundado en el 1906 por refugiados del terremoto de San Francisco cuyos se establecieron en lo que era entonces el Rancho San Pablo de Don Víctor Castro y lo llamaron «"Camp Rust"» (Campo Rust). Los colonistas lo llamaron Rust cuando incorporaron su aldea como ciudad en 1917 por su líder y alcalde el fundador Wilhelm F. Rust, un emigrante alemán. Sin embargo lo cambiaron porque en el inglés es un homónimo con óxido y los habitantes no lo encontraron halagüeño. Entonces denominaron su pueblo como El Cerrito en referencia al Cerrito de San Antonio (el actual «Albany Hill» [Cerro Albany]) un gran peñón del área.