Da krigen nådde Norge ble Røse en av de sentrale sabotørene i Osvaldgruppen. I dette illegale arbeidet gikk han blant annet under dekknavnet «Ole». Han deltok i en rekke aksjoner fram til gruppen ble oppløst i 1944, og var blant annet med Sunde på deres første sprengningsaksjon mot jernbanelinjen på Nyland i Groruddalen i Oslo 20. juli 1941.