Het huidige gebouw is een vervanging van het vorige stadhuis uit 1899 dat instortte tijdens de aardbeving van 1906. Het oorspronkelijke stadhuis was groter dan het huidige en had eveneens een grote koepel. Na de aardbeving ontstonden er al snel plannen voor de wederopbouw van het stadhuis. Men koos voor het neoclassicistische ontwerp met vele beaux-artselementen van Arthur Brown. De bouw begon in 1913 en het stadhuis was voltooid in 1915, op tijd voor de Panama-Pacific International Exposition, de wereldtentoonstelling van San Francisco.