Ab 1849 war Smyth in der Stadt Manchester politisch aktiv. Zwischen 1852 und 1854 war er Bürgermeister dieser Stadt, ein Amt, das er im Jahr 1864 noch einmal ausüben sollte. Damals entstanden in der Stadt die ersten Gehwege und Straßenbeleuchtungen sowie eine moderne Wasserversorgung. Zwischen 1857 und 1858 war er als Mitglied der Republikanischen Partei Abgeordneter im Repräsentantenhaus von New Hampshire. Im Jahr 1860 war Smyth Vorsitzender des regionalen Parteitags der Republikaner in New Hampshire. 1862 war er einer der US-Vertreter auf der Weltausstellung in London. Im Jahr 1865 wurde er zum Gouverneur seines Staates gewählt.