En el sitio web "Allmusic", William Ruhlmann señala que «Lay All Your Love On Me» es la única canción del álbum que se acerca a un estilo dance y la señala como una de las mejores canciones del álbum.