Jon Larsen er mest kjent som stortingsmann. Han satt på det første storting i Norge (1815–1817) og var således den første stortingsmann fra Vefsn og sammen med biskop Mathias Bonsach Krogh i Alstahaug og amtmann Johan Ernst Berg i Bodø den første fra Nordland. Det sies at da han var kommet hjem fra Kristiania, møtte han frem på kirkebakken etter gudstjenesten og fortalte om det som Stortinget hadde drøftet og vedtatt. Folk lyttet til ham med stor oppmerksomhet.