Wolfgang Amadeus Mozart ble imponert over sju år gamle Johanns evner, og tilbød ham musikkundervisning. Hummel var elev av Mozart i to år, og gjorde sin første konsertopptreden i en alder av ni. Ledsaget av faren foretok han konsertreiser så langt som til Danmark og England. Etter returen til Wien tok han komposisjonsundervisning hos Johann Georg Albrechtsberger og hos Antonio Salieri, rikets hoffkomponist og hoffkapellmester.