Berklee ble grunnlagt av Lawrence Berk, og het opprinnelig Schillinger House of Music, etter læreren hans, Joseph Schillinger. I 1954 endret Berk navnet på skolen til Berklee School of Music, etter sønnen Lee Berk. Da skolen fikk sin godkjennelse som college ble navnet endret til Berklee College of Music, i 1973. Da skolen ble grunnlagt var de fleste musikkskoler fokusert kun på klassisk musikk, mens på Berklee var det primært fokus på jazz, rock og annen populærmusikk, som ikke var tilgjengelig på andre skoler.