Haarder har vært minister i alle Venstre-regjeringer siden 1980-årene. Med over 20 år som minister er han den nest lengst sittende ministeren i Danmark etter systemskiftet. Haarder var undervisningsminister 1982–1993, minister for flyktninger, innvandrere og integrasjon 2001–2005, på nytt undervisningsminister 2005–2010 og innenriks- og helseminister 2010–2011. Dessuten var han europaminister 2001–2003, utviklingsminister 2004–2005, kirkeminister 2005–2007 og minister for nordisk samarbeid 2007–2010. Fra 2015 til 2016 bestyrte han to ministerier som kultur- og kirkeminister.