Soelberg var medlem av Nedre Stjørdal herredsstyre i 38 år, i årene 1864–1867 og 1872–1875 som ordfører. I likhet med Lars Bentsen var Soelberg blant de velhavende i Stjørdal, men pleide nær kontakt med bondestanden. Han var valgmann ved 15 stortingsvalg i Nordre Trondhjems amt (Nord-Trøndelag). Etter å ha møtt som varamann for P.A. Sæther 1878–1879, ble han selv valgt til stortingsmann for periodene 1880–1882 og 1886–1894. Han var medlem av Stortingets tollkomité og Lagtinget. Han var bondevenn, radikal venstremann, en av «de tretti tyranner» og støttespiller for Johan Sverdrup. Av Soelbergs øvrige verv kan nevnes forlikskommissær i Nedre Stjørdal, medlem av Norges Banks representantskap, administrator ved Norges Hypotekbanks avdeling i Trondhjem og medlem av matrikkelkommisjonen for Inderøy fogderi.