Da Harrisons sanger skulle innspilles, var det ofte at de ikke hadde noen ordentlig tittel da de startet opp. I dette tilfelle het sangen «Not Known» da gruppen startet opp med den 13. februar 1967 i Abbey Road Studios. Ni tagninger med grunnkomp ble festet til teip og den tredje ble valgt ut som den beste. Dagen etter ble tagning 3 overført til en annen teip (kalt tagning 11) med den forskjell at de nå fikk to spor til rådighet, slik at Harrison kunne legge på sin vokal to ganger. Noe mer ble ikke gjort før 20. april 1967. Årsaken var at produsent George Martin ikke syntes «Only a Northern Song» holdt mål til inkludering på . Han foreslo for Harrison at han måtte komme med noe bedre. Harrison var ikke blid for å høre dette, men det endte med at han kom med «Within You Without You» i stedet, og dette var en lettelse for de andre som var involvert i albumet. Men 20. april ble teipen med taging tre tatt fram igjen og de erstattet tidligere opptak med pålegg av bass, trompet, klokkespill og andre lydeffekter. Siden McCartney ikke var en trompetspiller, ble innsatsen hans deretter. På tagning 11 ble det lagt på mer vokal. Dagen etter tok George Martin og lydtekniker Geoff Emerick og synkroniserte disse to versjonene sammen. På Anthology finnes sangen uten lydeffekter og med andre vokal-innslag enn det som dukket opp på i januar 1969. Opptaket går også en smule kjappere og avsluttes (tones ned) på tidligere tidspunkt.