Young va néixer el 1935 Bern, Idaho, un llogaret mormó on vivia amb la seva família en condicions de pobresa notables, a conseqüència de la Gran Depressió posterior al Crac del 29. Malgrat això, no va quedar aïllat del món de la música en dos sentits: d'una banda, el seu pare, tieta i tiet (respectivament) van ensenyar-lo a tocar la guitarra, l'harmònica, cantar cançons de "cowboys" i ballar claqué. També va començar a tocar el saxòfon, que seria un instrument molt rellevant per a ell durant la seva joventut. D'altra banda, els sons als que estava exposat (el vent travessant la fusta de la cabanya, els transformadors elèctrics, o els ocells que imitaven certes freqüències) van despertar la seva curiositat pels fenòmens acústics prolongats, ja que «mentre mantenia prolongades les notes, podia percebre les relacions harmòniques millor». Això jugaria més endavant un paper important en obres com for "Brass" (1957) amb el desenvolupament del "dream chord".