Sandberg ledet Stortingets justiskomité 2009–2013 og Transport- og kommunikasjonskomiteen 2005–2009. Han ble den 6. mai 2006 valgt til 1. nestleder i Fremskrittspartiet etter at Siv Jensen tok over som partileder. Sandberg gikk av som nestleder 13. august 2018. Han var også parlamentarisk nestleder i partiet fra 1. oktober 2005 til 30. september 2017.