Mendelssohn ble født i Hamburg som sønn av en bankier, Abraham, som igjen var sønn av den berømte tysk-jødiske filosofen Moses Mendelssohn. Felix' familie hadde imidlertid konvertert til kristendommen og flyttet til Berlin i 1812. Hans søster var Fanny Mendelssohn (senere Fanny Hensel), som også var en velkjent pianist og komponist.