Etter at Stones gjorde innspillinger i Chicagos Chess Studios i juni 1964 gav Decca Records, ut EPen Storbritannia. De fem sangene fra denne EP-en sammen med syv andre sanger ble til det amerikanske albumet i oktober 1964.