Την 10η Απριλίου 2001 οι Garbage συγκεντρώθηκαν και ξεκίνησαν τις εργασίες για τον τρίτο δίσκο τους, ενώ παραμέρισαν τα σχέδια για δίσκο με Β-πλευρά επειδή η Almo Sounds πωλήθηκε στην UMG. Η Μάνσον έγραφε σε ιστολόγιο στο ίντερνετ κατά την ηχογράφηση του άλμπουμ με τίτλο "Beautiful Garbage". Τότε επικαλέστηκαν έναν όρο του συμβολαίου για να αφήσουν την Almo, και μήνυσαν την UMG όταν δεν αποδέχτηκε τη λήξη του συμβολαίου. Η UMG προειδοποίησε ότι θα χρησιμοποιήσει το σόλο συμβόλαιο της Μάνσον του 1993 για να δεσμεύσει τους Garbage στην δισκογραφική. Την 29 Ιουλίου 2001 διευθετήθηκε η μήνυση και οι Garbage μεταφέρθηκαν στην Interscope. Τον Αύγουστο κυκλοφόρησε το σινγκλ "Androgyny" στο ραδιόφωνο, και τη 10η Σεπτεμβρίου κυκλοφόρησε το βίντεο. Την επόμενη ημέρα, λόγω των επιθέσεων της 11ης Σεπτεμβρίου σε Νέα Υόρκη και Ουάσιγκτον, το πρόγραμμα προώθησης του δίσκου αναβλήθηκε.