I 1909 var Halvorsen blant grunnleggerne av Frisinnede Venstre. Det året ble han gjenvalgt til Stortinget fra Bakklandet krets, som Høyre og Frisinnede Venstres kandidat. Han var formann i både stortingsgruppen og hovedstyret i partiet fra 1910 til 1912. Han var styreformann i i Trondheim, som ble en av partiets viktigste aviser, fra 1913 til 1922.