Haskil nació en el seno de una familia judía sefardí en Bucarest (Rumania) y estudió en Viena con Richard Robert (entre cuyos alumnos se encuentran también Rudolf Serkin o George Szell) y con Ferruccio Busoni.