Som vidunderbarn kom Alkan inn på Paris-konservatoriet i en alder av seks år, hvor han studerte både piano og orgel. Blant hans lærere var Joseph Zimmermann (som også underviste Georges Bizet) César Franck, Charles Gounod og Ambroise Thomas.