Ved universitetet meldte Sandberger seg i 1931 inn i den nazistiske studentorganisasjonen og ble raskt en av lederne. Franz Walter Stahlecker, Sandbergers senere overordnete i drapskommandoen, var også jurist fra universitetet i Tübingen. Sammen med studiekameraten Erich Ehrlinger sørget Sandberger for å henge opp hakekorsflagget i aulaen ved universitetet 8. mars 1933 i anledning nazistenes maktovertakelse. Ehrlinger var under krigen sjef for Sonderkommando 1b (i Einsatzgruppe A) som drev massedrap på jøder i Latvia og Litauen. Hans Frank var en av hans venner. Gustav Adolf Scheel, leder for Den nasjonalsosialistiske tyske studentorganisasjonen, beskrev Sandberger som rask, besluttsom, skarp og i stand til hva som helst. I 1936 ble han medlem av SS i en enhet under Scheels kommando. Erwin Weinmann, Sandbergers kamerat fra studietiden, ble sjef for Sonderkommando 4a under Einsatzgruppe C i Ukraina. Eugen Steimle som studerte i Tübingen på samme tid, ble sjef først for Einsatzkommando 7a under Einsatzgruppe B og deretter Sonderkommando 4a under Einsatzgruppe C.