Eugen Huber is gebore in 'n Duitse familie van musici in Pest, Hongarye. Hy het die Hongaarse weergawe van sy naam, Jenő Hubay, in sy twintigerjare aangeneem terwyl hy in die Franssprekende wêreld gewoon het.
Op die ouderdom van dertien het Hubay met sy studies in Berlyn begin. Hy het vyf jaar daar gebly en onderrig ontvang van Joseph Joachim. In 1878, op advies van Franz Liszt, het hy sy debuut in Parys gemaak, welke 'n groot sukses was. Henri Vieuxtemps het in die gehoor gesit, met wie Hubay 'n hegte vriendskap gevorm het en van wie hy onderrig ontvang het.
In 1882 was Hubay werksaam by die Brusselse musiekinstituut as hoof van die departement vioolstudies. Toe hy in 1886 na Hongarye teruggekeer het, het hy sy vader opgevolg as hoof van die Liszt Akademie. In dieselfde jaar het hy die Boedapest Kwartet saam met 'n mede onderwyser, die tjellis David Popper, gestig.