Abercrombie gikk ut fra Berklee College of Music i Boston i 1967. Han var til stede på skolens hedersprisutdeling «Berklee College of Music Distinguished Alumni Award» i 1998. Hans første utgivelser som gjorde seg bemerket var to plater med jazz-rock-bandet Dreams i 1970.