Включен в состав национальной сборной в 17-летнем возрасте. Первым крупным международным стартом в карьере стал чемпионат мира в Перте 1991 года, дебют был успешным, 19-летний пловец стал чемпионом мира на дистанции 100 метров брассом, установив при этом новый мировой рекорд 1.01,45. На дистанции вдвое длиннее Рожа стал вторым, уступив только американцу Майку Барроумэну. В том же году на европейском первенстве в Афинах Норберт собрал полный комплект медалей, выиграв золото на 100 м брассом, серебро на 200 м брассом и бронзу в составе венгерской комбинированной эстафеты. На стометровке он превзошёл собственный же мировой рекорд полугодичной давности - 1.01,29. Рекорд продержался два года, пока не был побит соотечественником Рожи Кароем Гюттлером.