Selv om andreplata ble en suksess både blant kritikere og platekjøpere skulle etter hvert ting begynne å gå dårlig for bandet. Den etterlengtede tredjeplata lot vente på seg, og i stedet kom bare den 4 spor lange EP-en . O'Riordan giftet seg med Elvis Costello og forlot bandet. Hun ble erstattet med Darryl Hunt, og dessuten fikk bandet et nytt medlem, Terry Woods (mandolin) fra bandet Steeleye Span. Den største trusselen mot bandets videre karriere var likevel den utsvevende livsførselen og uberegnelige oppførselen til bandets frontfigur, låtforfatter og kreative midtpunkt, Shane MacGowan.