Graden ble tatt i bruk i stort omfang fra begynnelsen av det 19. århundre. Frem til 1918 var feldwebel den høyeste underoffisersgrad, og hadde gjerne oppgaver som ellers ligger under en sersjantmajor.