To τρίτο single από το album ήταν το Rabbit Heart (Raise It Up). Μέρος της μελωδίας του κομματιού, καθώς και ο στίχος ""How quickly the glamour fades"" ήταν μέρη του τραγουδιού ""House Jam"" του νεοϋορκέζικου συγκροτήματος ""Gang Gang Dance"" χωρίς ωστόσο να υπάρχει το όνομα της μπάντας στα credits του ""Lungs"". Τα μέλη του συγκροτήματος το παρατήρησαν και το ανέφεραν στην δισκογραφική εταιρεία των Florence and the Machine. H Island Records αναγνώρισε την παραβίαση των πνευματικών δικαιωμάτων και δέχτηκε να πληρώσει μέρος από τα κέρδη του τραγουδιού στους Gang Gang Dance. H Welch παραδέχτηκε πως έσφαλε και δήλωσε πως πρόθεσή της ήταν να αποτίσει φόρο τιμής.