Gjelsvik war Geologiestudent an der Universität Oslo, als Norwegen von der deutschen Wehrmacht besetzt wurde. Im Jahr 1940 nahm er an verschiedenen Kampfhandlungen im Østfold teil. Gjelsvik war einer der ersten, der Widerstandsgruppen aufbaute. Im Oktober 1940 gelang ihm die Verbindung zu einer der ersten norwegischen Widerstandsgruppe, der R-Gruppe in Oslo. Er konnte deren Kontakte auf das ganze Land ausdehnen. Er war in der Sivorg ein zentrales Mitglied und hatte mit der Milorg und der XU Verbindung. 1943 war er Mitglied des Koordinationskomitees (KK) und später Leiter des KK-Sekretariats. Nach der weitgehenden Vernichtung der Widerstandsorganisationen durch die Deutschen im Jahre 1944 arbeitete er an deren Wiederaufrichtung. Er kämpfte gegen den Arbeitsdienst. Im Herbst 1944 war er eines der letzten vier überlebenden Mitglieder des KK. Im Januar 1945 wurde Gjelsvik beinahe von der Statspolitiet, der norwegischen Geheimen Staatspolizei verhaftet, konnte jedoch angeschossen nach Schweden flüchten. Kurze Zeit später kehrte er nach Norwegen zurück und nahm Kontakt mit Alf Sanengen und der Heimatfrontbewegung auf.