Han var født på Espa og vokste opp i Gudbrandsdalen, hvor faren Iver Pedersen var stasjonsmester i NSB. Han arbeidet selv for NSB ved Hamar stasjon 1913-1935. Han ble valgt inn i kommunestyret i Vang i 1925, men flyttet kort tid etter til Hamar. I 1929 ble han valgt inn i kommunestyret i Hamar, og tre år senere ble han formannskapsmedlem. Den borgerlige siden og venstresiden hadde like mange representanter, og valget av ordfører ble gjort ved loddtrekning. I 1933 vant Ap, og Pedersen ble ordfører. Etter kommunestyrevalget 1934 fikk partiet flertall, og Pedersen kom tilbake som ordfører i 1935.