Han var innvalgt på Stortinget fra Finnmark fra 2009 til 2021 etter å ha vært ordfører i Båtsfjord 2007–2009. Bakke-Jensen satt i Stortingets næringskomité som Høyres fiskeripolitiske talsmann.