Sanger fra så langt tilbake som 1966 ble spilt inn; både «The Art of Dying» og «Isn't It a Pity» dateres fra det året. I bootleggede samtaler fra Get Back-innspillingene, avslørte Harrison at John Lennon hadde avslått «Isn't It a Pity» tre år tidligere, og at han (Harrison) hadde vurdert å tilby sangen til Frank Sinatra. Harrison plukket opp flere sanger fra sent i 1968 mens han besøkte Bob Dylan og The Band i Woodstock, New York. Han og Dylan skrev «I'd Have You Anytime» og «Nowhere to Go» (også kjent som «When Everybody Comes to Town») sammen på denne tiden, og Dylan viste ham «I Don't Want to Do It». Alle tre ble forsøkt innspilt på , men bare «I'd Have You Anytime» ble med.