Larsen voksten opp i Kristiania (Oslo) og begynte å arbeide i jernbanen etter middelskoleeksamen som sekstenåring. Han jobbet i jernbanen hele yrkeskarrieren, fra 1939 som stasjonsmester ved Oslo Ø. Under andre verdenskrig drev han illegalt arbeid med flyktningetransport og kurervirksomhet, og han ble arrestert både i 1942 og i 1944. Etter sistnevnte arrestasjon satt han fengslet krigen ut, først på Akershus og så på Grini.