I 1913 kom han med i heradstyret og var med i 35 år. Ved heradsvalget i 1919 stilte Hjelle som niende kandidat for valglisten for Voss venstrelag. Senere representerte han Bondepartiet. I 1937 ble han valgt til varaordfører og overtok som ordfører i 1938, da ordfører Mads Haga måtte trekke seg tilbake på grunn av sykdom.