Hillers første lærer var Aloys Schmitt. Da Hiller var ti år, sendte den velstående faren ham til Weimar for opplæring hos Johann Nepomuk Hummel, en av tidas mest berømte pianister. Som femtenåring i 1827 foretok Hiller en reise sammen med Hummel til Wien, der de avla den døende Beethoven en visitt. Hos Hummel fikk Hiller stor framgang hos som pianist, men han valgte likevel å konsentrere seg om komposisjon.