Knudsen dro til sjøs 16 år gammel, og seilte utenriks til han ble 22 år. Da fikk han jobb som elektrisk sveiser, før han begynte å jobbe på brygga. Der ble han tillitsvalgt i fagforeningen. Han var en tid med i AUF, inntil han i 1938 gikk inn i Norges Kommunistiske Ungdomsforbund og Norges Kommunistiske Parti. I NKP var han spesielt engasjert i støttearbeidet for den spanske republikken i kampen mot Franco-fascistene.