Vee-Jay Records hadde rettighetene til noen sanger av The Beatles, men fordi de ikke betalte nok royalties og heller ikke promoterte, mistet de rettighetene tidlig i 1964. De fikk beholde dem ut oktober 1964, og ga dermed ut EP-er og samlealbum for mest mulig å tjene på rettighetene i denne perioden. Jolly What! er et eksempel på dette. Albumet består av fire sanger av The Beatles, alle tidligere utgitt på single, og åtte låter med den for et amerikansk publikum ukjente artisten Frank Ifield.