I august 1940 var han tilbake i Oslo og ble aktiv i motstandsbevegelsen gjennom AUF. Senere gikk han over til en kommunistisk gruppe og startet med organisert motstandsarbeid. I 1943 måtte han gå i dekning etter at flere av hans kamerater var arresterte og henrettet. Samme år bad Peder Furubotn Arne Taraldsen om å bli med i hans motstandsgruppe, som holdt til i Sollia Pensjonat i Søndre Land. Taraldsen ble i Valdres til krigen sluttet.