Han måtte se sine kampfeller slått i Spania, men tilbake i Sverige var han bestemt på å fortsette striden mot fascismen. Han sluttet seg til det illegale, antifascistiske arbeidet som foregikk i tilknytning til den hemmelige Wollweber-gruppen. Under opptakten til den andre verdenskrigen drev organisasjonen sabotasje mot tyske skip. I de fleste land ble organisasjonen revet opp i 1940–1941, og i Sverige ble mer enn 70 arrestert og 11 dømt. Staf ble pågrepet ved opprullingen, men klarte å prate seg ut av situasjonen.