I 2003 ble han på nytt valgt inn i Nøtterøy kommunestyre. Han ble valgt til stortingsrepresentant for Vestfold i 2005 og gjenvalgt i 2009. Han satt sin første periode i Stortingets næringskomité, deretter i Stortingets arbeids- og sosialkomité. Ved valget i 2013 mistet Arbeiderpartiet sitt tredje mandat fra Vestfold, og Gullvåg ble vararepresentant.