En una reseña en retrospectiva, Stephen Thomas Erlewine de AllMusic afirmó que «incluso para aquellos que disfrutaron de "Rid of Me", "4-Track Demos" es una experiencia reveladora, ya que sin duda capta la emoción cruda de las canciones mejor el registro oficial».