Han måtte se sine kampfeller slått i Spania, men tilbake i Sverige var han bestemt på å fortsette striden mot fascismen. Han sluttet seg til det illegale, antifascistiske arbeidet som foregikk i tilknytning til den hemmelige Wollweber-gruppen. Der gikk han under dekknavnet «Erik». Under opptakten til krigen drev organisajonen sabotasje mot tyske skip. De utførte også aksjoner bak de finske linjene i Finland. I de fleste land ble organisasjonen revet opp i 1940, men i Norge fortsatte virksomheten gjennom motstandsarbeidet til den såkalte Osvald-gruppen.