Posteriormente Terboven ayudó a establecer el NSDAP en Essen, su ciudad natal, y en 1928 se convirtió en "gauleiter" o líder regional del partido, además de hacerse miembro de las SA, la fuerza paramilitar del NSDAP.