Den ble opprettet i SA i 1932, som en følge av veksten i organisasjonen, og innført i SS på samme tid, for at det skulle være likhet mellom de to organisasjonene. Etter de lange knivers natt i 1934 endret strukturen seg, slik at de to gradene SS-Oberscharführer og SA-Oberscharführer ikke lenger var på samme nivå; en SS-Oberscharführer tilsvarte en SA-Truppführer. Hvilken rolle en SS-Oberscharführer hadde varierte mellom de forskjellige grener av organisasjonen, slik at en i Allgemeine-SS kunne ha en helt annen autoritet enn en i Waffen-SS.