Taubert meldte seg inn i NSDAP den 1. november 1931 (medlemsnummer 712.249). Samtidig gikk han inn i SA, hvor han var aktiv som SA-Sturmführer i staben til SA-Gruppe Berlin-Brandenburg. Tidlig i 1932 ble Taubert leder av rettsavdelingen i Gauleitung von Großberlin. På denne tiden ble han også "Antibolsjevisme-referent" for Gauleiter Joseph Goebbels der.