Da han ble løslatt arbeidet han i Bremen med reparasjon av båter og gjenopptok sitt arbeide for Kommunistpartiet (fra 1933 forbudt). Da andre verdenskrig begynte etablerte han et motstandsnettverk sammen med Hans Neumann og Gustav Böhrnsen (den senere ble borgermester i Bremen) i grupper på tre til fem personer, og koblet de til den Hamburg-baserte Bästlein-Jakob-Abshagen gruppe.