Den 29. juni 1934 giftet han seg med Ilse Stahl, en tidligere sekretær for Joseph Goebbels, som sammen med Hitler deltok på det kirkelige bryllupet i Essener Münsterkirche. Hitler var Terbovens forlover. Hans tilstedeværelse hadde sannsynligvis mindre med en særlig nærhet til bryllupsparet å gjøre enn med tåkeleggingen av et overraskende tilslag mot (de lange knivers natt). Det fant sted den 30. juni. En reise til et bryllup gav ingen mistanker om at noe var i gjære. Terboven ble utnevnt til Oberpräsident der Rheinprovinz den 5. februar 1935. Dette var han ved siden av sitt verv som Gauleiter. I 1936 ble han utnevnt til SA-Obergruppenführer.