Mjøen var ordfører i Gjøvik 1902–1904 og hadde i tillegg en rekke andre kommunale verv. Han var stortingsmann for Totens krets 1912–1921, for Oppland fylke 1922–1924 og 1928–1936. Hele tiden var han medlem av militærkomiteen, hvorav formann fra 1919. Han representerte først Venstre, men gikk senere over til Radikale folkeparti, også kjent som . Dette partiet ble grunnlagt i 1912 av Johan Castberg, som også kom fra Gjøvik. I den siste perioden sin på Stortinget var han partiets eneste representant.