Sandvik meldte seg inn i AUF i 1987, og ble valgt til leder i AUF i Sør-Trøndelag i 1990. Han var blant EU-motstanderne i Arbeiderpartiet og kom til å stå Trond Giske nært. Sandvik var ungdomssekretær i LO i Sør-Trøndelag fra 1995 til 2000 og visepresident i ungdomsorganisasjonen til Den europeiske faglige samorganisasjon.