Gilleberg var medlem av kommunestyret i Kvæfjord fra 1963 til 1971. Han ble valgt inn på Stortinget høsten 1965 og gjenvalgt i 1969 og 1973. De to siste gangene stilte han på felleslister med henholdsvis Kristelig Folkeparti og Venstre. Han var medlem av sosialkomiteen, med unntak av en periode i 1971–72 da han satt i administrasjonskomiteen.