W reprezentacji RFN Herget zadebiutował 26 października 1983 roku w wygranym 5:1 meczu eliminacji Mistrzostw Europy 1984 z Turcją. 30 kwietnia 1985 roku w wygranym 5:1 pojedynku eliminacji Mistrzostw Świata 1986 z Czechosłowacją strzelił pierwszego gola w trakcie gry w drużynie narodowej. W 1986 roku Herget pojechał na Mistrzostwa Świata do Meksyku. Zagrał na nich w meczu z Danią (0:2), a reprezentacja RFN zajęła 2. miejsce w turnieju.