Dette åpnet for en aktiv karriere i NSDAP hvor han hadde meldt seg inn allerede i 1923. Terboven hjalp til med å etablere partiet i Essen og ble gauleiter der i 1928. Han ble en del av Sturmabteilung fra 1925.