Gjestvang var også generalsekretær i Den Norske Veterinærforening fra 1945 til 1948, og medlem og leder (fra 1958) av hovedstyret fra 1954 til 1966. Han ledet Norges Rytterforbund fra 1976 til 1982, Dyrenes Beskyttelse fra 1982 til 1986, og var visepresident i Norges Dyrebeskyttelsesforbund fra 1984 til 1988. Han var også engasjert i Røde Kors og Rotary, og satt i Stange kommunestyre fra 1972 til 1983. I 1993 ble han valgt som leder for den lokale Høyre-avdelingen.