Han var valgt til Folketinget fra Vestjyllands storkrets 2011–2019, etter å ha blitt nominert fra Viborgs østre krets. Han var Dansk Folkepartis talsmann i kirke- og statsborgerskapssaker og formann i Folketingets statsborgerskapsutvalg. Ved Dansk Folkepartis valgnederlag i 2019 ble ikke Langballe gjenvalgt til Folketinget, og vendte tilbake til prestegjerningen.