Nielsen var valgt til Folketinget fra Nordjylland 2005–2010, etter å ha blitt nominert fra Aalborgs vestre krets. Han fikk 387 personlige stemmer ved valget i 2005, senere 6 585 personlige stemmer i 2007. Han fungerte som Det Konservative Folkepartis arbeidsmarkeds-, kultur- og boligpolitiske ordfører, og satt som nestformann i Folketingets boligutvalg. Fra september til november 2007 var han transport- og energiminister i Anders Fogh Rasmussens andre regjering, deretter helseminister i Anders Fogh Rasmussens tredje regjering og Lars Løkke Rasmussens regjering frem til februar 2010. Avgangen som minister ble fremskyndet av partileder Lene Espersen, til overraskelse fra Nielsen selv.