Joseph Eybler fikk den første musikkundervisningen av faren. I en alder av seks år fikk han en plass ved den velrenommerte gutteskolen i St. Stephan i Wien, den samme skolen som brødrene Joseph og Michael Haydn hadde fått korsangopplæring i. Fra 1777 til 1779 fikk Eybler undervisning av Johann Georg Albrechtsberger, senere også av Joseph Haydn.