Dylan spilte "I Threw It All Away" første gang live under den 7. juni 1969. "I Threw It All Away" var andre sang Dylan spilte med The Band under Isle of Wight Festival 31. august 1969. På samme konsert spilte de også en sang til fra , Lay Lady Lay. Denne opptredenen ble samme år udødeliggjort av den franske artisten Michel Delpech i sangen Wight is Wight. Dylan spilte en opprocket versjon av "I Threw It All Away" 16. mai 1976, som del av the Rolling Thunder Revue, en konsert som senere ble utgitt på livealbumet Hard Rain. Sangen var også med på repertoaret under turneen i 1978. Dylen hentet i 2002 sangen inn på repertoaret igjen under The Never Ending Tour, hvor han valgte å fremføre den rent akustisk.