I slutten av 1930-årene begynte han å engasjere seg i det republikanske ungdomsarbeidet. I 1938 ble 26 år gamle Anderson valgt til Minnesotas viseguvernør, mens 31 år gamle Harold Stassen ble guvernør. Anderson satt frem til 1942, og han var på nytt viseguvernør under Edward Thye og Luther Youngdahl. Da Youngdahl trakk seg for å tiltre en føderal dommerstilling i 1951, rykket Anderson opp til guvernør. Han ble gjenvalgt i 1952, men tapte guvernørvalget i 1954. Han var som guvernør spesielt opptatt av det psykiske helsevernet og kriminalomsorgen i delstaten.