Göth gikk i 1925 inn i det ungdomspartiet til nazipartiet i Østerrike. Han ble medlem av det østerrikske nasjonalsosialistiske partiet DNSAP i 1930, og han sluttet seg samme år til den østerrikske grenen av Schutzstaffel med medlemsnummer 43673. Det er lite kjent hva hans første tjeneste gikk ut på, da SS på denne tiden var forbudt i Østerrike og opptrådte som en undergrunnsorganisasjon. Göth var i likhet med mange andre medvirkende til holocaust østerriker. I 1933 ville østerrikske myndigheter arrestere Göth for terroristvirksomhet og flyktet da til Tyskland der Hitler og hans nazister allerede satt med makten. Han slo seg ned i München og returnerte til Østerrike etter Anschluss. Etter den tyske invasjonen av Polen i 1939 begynte han som SS-administrator og arbeidet særlig med fordriving av polske innbyggere (inkludert jøder) fra den vestlige delen av Polen. Men han skal fram til i 1938 ha tjenestegjort i Allgemeine-SS i Wien og oppnådde graden SS-Oberscharführer rundt 1937. Deretter tjenestegjorde han i et SS-regiment i Wien og ble 14. juli 1941 forfremmet til SS-Untersturmführer.