Heß var en av de innflytelsesrike politikerne i dette partiet i den prøyssiske Landdagen under Weimarrepublikken. I den prøyssiske Landdagen var Heß sentrumspartiets fraksjonsdirektør (), og fra 1932 dets gruppeformann. Han spilte en sentral rolle i balanseringen av de ulike politiske interessene til Zentrum, Sozialdemokratische Partei Deutschlands og andre partiene, under koalisjonsregjeringen i Fristaten Preussen.