Hans politiske karrière lot ikke vente lenge på seg. Fra 1867 til 1873 ledet han med stor suksess Hannover som provinsens overpresident, en stilling han fikk på forslag fra Bismarck. Han lyktes i å integrere den nylig ervervede provinsen i den prøyssiske stat. I 1867 fikk han et sete i den nordtyske forbundsdagen, og ble fire år senere som medlem av det konservative partiet innvalgt i den tyske Riksdagen (frem til 1878) og 1872 også president for Overhuset i den prøyssiske landdagen (til 1877).