Pettersen engasjerte seg tidlig i AUF på hjemstedet Melbu, men var stadig i opposisjon i diskusjonene om Arbeiderpartiets program. Da han flyttet til Oslo ble han i 1934 medlem av Norges Kommunistiske Ungdomsforbund. I 1937 studerte han ved Björknäs Folkhögskola utenfor Stockholm, der de nordiske kommunistpartienes drev et felles skoleringstilbud. Året etter ble han valgt inn i NKUs sentralstyre.