Alkan ble født i Dillingen/Saar i Tyskland, og var sønn av Johannes Alkan og Johanna Bonn i en familie av forretningsmenn og musikere. Gjennom sin mor var han en fjern slektning av komponistene Felix Mendelssohn, Fanny Hensel og Giacomo Meyerbeer.