Dead Horse fue escrita por Axl Rose, en esta, el vocalista toca una guitarra acústica (como se ve en el video de 1993), en esta canción, las guitarras eléctricas no llegan hasta que Axl canta "Sometimes i feel like i'm beatin' the dead horse".