Gelber empezó a estudiar piano a los tres años y medio, siendo capaz de interpretar sonatas y conciertos desde los cinco años de edad.