Il a pris une part active à l'occupation de l'Autriche en mars 1938. En juin 1938, il a été envoyé au camp de concentration de Sachsenhausen en tant que chef de bloc. En raison de son comportement brutal avec les prisonniers, il a été rapidement promu adjoint du chef du rapport et du répartiteur du travail. À ce poste, il a commis de nombreux meurtres et mauvais traitements de prisonniers en particulier de soldats soviétiques. En septembre 1939, il est promu Oberscharführer. Le prisonnier Leon Szalet décrit les accès de colère de Gustav Sorge lors de l'appel nominal dans son rapport "Pas de paix pour les méchants" :