Karl Marthinsen ble født 25. oktober 1896 i et læstadiansk miljø på Karlsøy i Troms. I Marthinsens første leveår flyttet familien til et lite fiskevær i Nordkapp kommune, og da han var 14–15 år, flyttet familien videre til Mehamn i Finnmark. I 1918 tok han eksamen ved 6. divisjons underoffiserskole og ble utnevnt til sersjant. Han tok deretter handelsskole og arbeidet i fire år i administrasjonen på et fiskemottak i Mehamn, før han vendte tilbake til det militære. Her ble han stasjonert i Kirkenes og tjenestegjorde som etterretningsoffiser i lokalforsvarsstaben i Øst-Finnmark forsvarsavsnitt.