Det tog Tapolcas plats med en majoritet på knappt 300 röster.
Jobbik ser ut att utgöra en stor utmaning för det styrande partiet Fidesz i parlamentsval som ska hållas om tre år.
Korrespondenterna säger att partiet har mjukat upp sin retorik under de senaste åren och fått stöd av vanliga väljare.
Lajos Rigs segermarginal var knapp, men hans seger var symboliskt enorm, säger BBC:s Nick Thorpe i Budapest.
"Momentet i Ungern är för en regeringsförändring och med Jobbik Ungern äntligen har en kraft att förändra regeringen," partiledare Gabor Vona berättade anhängare i Tapolca.
Det stärker deras rykte som det mest framgångsrika nationalistiska partiet i Europa och är ytterligare ett bakslag för Ungerns premiärminister Viktor Orban.
"Det finns tillfällen när bollen träffar inlägget", sade Mr Orban, en ivrig fotbollsspelare, på sin Facebook-sida som han erkände nederlag.
Fidesz vann lätt det senaste nationella valet och valet till Europaparlamentet 2014, då Jobbik tog cirka 20 procent av rösterna.
Men sedan dess har regeringspartiet sett sitt rykte vackla, med anklagelser om korruption, och motstånd mot åtgärder som en planerad internetskatt och gränser för söndagshandel.
Fidesz förlorade sin två tredjedelars parlamentariska majoritet i februari efter ytterligare ett valnederlag.
Det högerextrema Jobbikpartiet i Ungern har vunnit sin första valkrets någonsin i parlamentet.