En una reseña del álbum "No Code" que apareciera en la revista Allmusic, "Off He Goes" fue calificada como una de las canciones del álbum que ""[era] igual a las primeras piezas maestras del grupo.""