Legend ble født i Springfield, Ohio, men vokste opp i Philadelphia. Han begynte å ta pianotimer allerede som 5-åring og viste tidlig talent ved å være pianist for koret i den lokale kirken som 8-åring. Gospel var en viktig del av hans oppvekst. Ved siden av pianotimene og kirkespillingen, lærte han gospellåter av bestemoren. På ungdomsskolen laget han gospel-CD-er og opptrådte live med gospellåter. Han var også interessert i R&B og rap og blant hans tidlige favoritter var Boyz II Men og MC Hammer. De største inspirasjonskildene var allikevel 70-tallets soul-stjerner Stevie Wonder, Aretha Franklin, Curtis Mayfield, Al Green og gospelartistene Edwin Hawkins, Shirley Caesar og James Cleveland. Etternavnet Legend fikk han av en venn i Chicago.