Den britiske samlingen var opprinnelig en del av The Beatles Collection, en samleboks som hadde samtlige Beatles-album. Ettersom Rarities involverte flere sanger som ikke var å finne på de vanlige albumene, ble Rarities sluppet individuelt kort tid etter samlingen.