Han var medlem av Freikonservative Partei, som ble oppløst etter første verdenskrig. Etter novemberrevolusjonen 1918 deltok Hergt i stiftelsen av det nye konservative partiet Deutschnationale Volkspartei og ble i desember samme år partileder. Han var medlem av den prøyssiske lovgivende forsamling 1919 og representerte som medlem av Riksdagen (fra 1920) og av Den grunnlovsgivende prøyssiske Landsforsamling (i fra 1921) og Preußischer Landtag. I perioden januar 1927 til juni 1928 var han justisminister i Wilhelm Marx' koalisjonsregjering. Samtidig var han visekansler. I forbindelse med den nazistiske maktovertakelsen i 1933 oppga han helt det politiske livet.