Legarth var borgermester i Vamdrup 2002–2006, medlem av Kolding kommunestyre 2007–2009 og medlem av Folketinget 2007–2015, valgt fra Sydjyllands storkrets. Som de konservatives finans- og skattepolitiske talsmann i Anders Fogh Rasmussen og Lars Løkke Rasmussens regjeringstid stod Legarth sentralt i forhandlingene om finansloven. Han var også medlem av Folketingets delegasjon til Nordisk råd. I 2015 ble han ikke gjenvalgt til Folketinget.