Bernstein kom fra en jødisk familie fra Rivne i Ukraina. Han fikk opprinnelig fornavnet Louis, etter at bestemoren hadde insistert på dette navnet. Foreldrene kalte ham imidlertid hele tiden Leonard og de endret offisielt navnet til dette da han var 15 år gammel. Faren Sam, som var forretningsmann, var i utgangspunktet ikke så begeistret for sønnens musikalske ambisjoner, men tok ham allikevel med på konserter. Etter å ha hørt pianomusikk i tidlig alder, var Bernstein svært fascinert og tiltrukket av dette. Han fikk utdannelse ved The Boston Latin School i piano og latin i 1934, han begynte deretter ved Harvard University hvor han studerte musikk med Walter Piston. Deretter gikk han ved The Curtis Institute of Music og tok eksamen i dirigering i 1939.