Sangen har blitt beskrevet som revolusjonær i sin kombinasjon av ulike musikalske elementer, dens ungdommelige, kyniske lyden av Dylans stemme, og likefremheten i spørsmålet i refrenget «How does it feel?» («Hvordan føles det?»). Sangen «Like a Rolling Stone» omformet Dylans karriere og er i dag betraktet som en av de mest innflytelsesrike komposisjoner i etterkrigstidens musikk og har siden dens utgivelse både i musikkindustrien og en milepæl i populærindustrien mens det hevet Bob Dylans bilde og omdømme opp til ikonisk status. Sangen har blitt spilt av en rekke andre musikere uten at disse har nådd originalens friskhet og ekthet, blant annet av Jimi Hendrix, The Rolling Stones, The Wailers og Green Day.