Gregg ble valgt inn i Representantenes hus i 1980, og satt der i fire perioder, fra 1981 til 1989. Han stilte til valg til Senatet i 1992 og ble gjenvalgt i 1998 og 2004 med stor margin. Han stilte ikke til gjenvalg i 2010. President Barack Obama nominerte Gregg til handelsminister i Barack Obamas regjering i 2009, men Gregg trakk seg fra nominasjonen.