Han var innvalgt på Stortinget fra Søndre Trondhjems amt 1886–1888, 1898–1909 og 1913–1915 (i periodene 1907–1909 og 1913–1915 fra Strinda krets innenfor amtet). Han hadde imidlertid møtt allerede i 1884 som varamann for Diderik Iversen Tønseth. Fjermstads viktigste innsats i komitéarbeidet ble lagt ned i Stortingets veikomité, hvor han i sin siste stortingsperiode var formann. Fjermstad ble oppnevnt av Knudsen-regjeringen som medlem av vassdragskommisjonen av 1909, som uttalte seg i konsesjonssaker, og til medlem av stortingskomiteen som forberedte vassdragsreguleringsloven av 1917.