Mjøen ble student fra Kristiania katedralskole i 1888. Han gikk inn i det militære i juli 1888 og fikk sin første offiserutnvenelse i 1891. 1899-1900 tjenestegjorde han ved et infanteriregiment i Tyskland. I 1911 hadde han et militært stipend for å studere bruk av militære styrker i sivile og offentlige arbeider i USA. Han steg i gradene og ble utnevnt til oberstløytnant i 1924 og oberst i 1934. Samme år ble han utnevnt til generalkrigskommissær, en stilling han satt i til 1939.