Gjestvang ble født i Eidsvoll og fullførte sin videregående utdanning i 1934. Han begynte deretter militær utdannelse i ingeniørkorpset og underviste ved leiren på Hvalsmoen. Fra 1935 studerte han ved Norges veterinærhøgskole og oppnådde cand.med.vet.-graden i 1941. Under den tyske okkupasjonen av Norge var han medlem av Milorg, hvor han fungerte som "pionérleder" i Distrikt 13.