The song grew out of Hozier's frustration with the Catholic Church's teachings which, although he himself was raised in the Protestant Quaker faith, dominated the social and political outlook of the Irish state.
Το τραγούδι δημιουργήθηκε από την αγανάκτηση του Hozier απέναντι στα διδάγματα της Καθολικής Εκκλησίας τα οποία, αν και εκείνος μεγάλωσε ως Προτεστάντης, κυριαρχούσαν στην κοινωνική και πολιτική κατάσταση της Ιρλανδικής πολιτείας.