Ferdighetene han tilegnet seg i Spania benyttet Sunde seg av som sabotør og spesialagent i kampen mot okkupasjonsmakten, og som leder av Osvald-gjengen under andre verdenskrig. Han ble fra 1941 en av lederne for den kommunistiske Wollweber-gruppen i Norge, grunnlagt av den tyske kommunisten Ernst Wollweber i samarbeid med Sovjetunionen. Opprinnelig ledet nordmannen Martin Rasmussen Hjelmen den norske delen av Wollweber-organisasjonen, med sabotasjeaksjoner i Norge fra mars 1938. Da Hjelmen ganske tidlig ble tatt av tyskerne, ble Sunde Wollweber-organisasjonens operative leder i Norge. Sunde skapte av dette den såkalte Osvald-gruppen, et navn som ble brukt av den tyske okkupasjonsmakten på den kommunistiske motstandsgruppen i Norge. Organisasjonen dominerte sabotasjevirksomheten i Norge 1941–1944, og med 39 konkrete sabotasjehandlinger var gruppen ansvarlig for brorparten av sabotasjen mot den tyske okkupasjonsmakten. Erik Gjems-Onstad mener at Sunde og gruppens hans stod bak anslagsvis 200 sabotasjeaksjoner.