I valgperioden 1903–1906 var Fyhn vararepresentant til Stortinget fra bykretsen Sarpsborg. Seinere blei han fast representant for samme krets i perioden 1916–1918. Han var ei kort tid med i sosialkomiteen, deretter i næringskomiteen.