I slutten av 1942 ble han innkalt til Waffen-SS og gjennomgikk tre måneders utdannelse til leirvakt. Frem til 22. november 1943 tilhørte Weingartner vaktkompaniene i KZ-Auschwitz. Han kom senere til å tjenestegjøre som (brakkesjef) i kvinneleiren i Auschwitz-Birkenau, og utførte telefontjeneste. I desember 1944 var han fangevokter for over 1000 kvinnelige fanger i ytrekommando , der fangene ble tvunget til å anlegge grøfter for elveregulering.