Han var sekretær i Ringsaker Arbeiderparti 1973–1976, styremedlem i Hedmark Arbeiderparti 1973–1996, nestformann i AUF 1975–1977 og medlem av AUFs sentralstyre 1975–1981. Han var 1. vararepresentant til Stortinget fra Hedmark fra 1973, og møtte fast som Stortingets yngste for Odvar Nordli fra 1976. I 1977 ble Johnsen valgt inn på eget mandat, og ble medlem i Stortingets kommunal- og miljøvernkomité. Gjennom 1980-årene hadde han ulike roller i Stortingets finanskomité, og var dennes nestleder 1986–1990. Foran Arbeiderpartiets landsmøter i 1989 og 1992 var han også på tale som kandidat til nestledervervet i partiet.