Fra 1901 til 1902 var Gjelsvik medlem av komitéen angående Norges tiltredelse til Haag-konvensjonen. Han var konsulent for Nobelinstituttet fra 1904 til 1906, og var sekretær ved Karlstadforhandlingene. I 1906 var han medlem av konsesjonskomitéen. Her leverte han et utførlig responsum i spørsmålet om private brukseiere skulle ha anledning til å regulere vannstanden i Mjøsa. I 1915 var han medlem av Forsvarsdepartementets forsvarskomité.