Gwin flyttade 1849 till Kalifornien i samband med guldrushen. Kalifornien blev sedan USA:s 31:a delstat och till de två första senatorerna valdes Gwin och John C. Frémont. Delstatens lagstiftande församling lyckades inte med att välja en efterträdare åt Gwin år 1855. Demokraterna i Kalifornien var länge splittrade i frågan och dödläget gynnade populistiska knownothings. Till sist fick Gwin tillträda på nytt som senator i januari 1857. Han efterträddes 1861 av James A. McDougall.