"With the Lights Out" recibió buenos comentarios por parte de los críticos musicales, de los cuales muchos lo vieron como un valioso eslabón de la evolución musical de la banda, pero que también creyeron que contenía mucho material de "segunda mano" para lanzamiento oficial.