Ved siden av sitt akademiske virke engasjerte han seg også i politikken, og var medlem av den tyske Riksdagen for Det katolske senterpartiet fra 1875 til 1890 og igjen fra 1896 til 1912. Han var i begynnelsen særlig opptatt av sosialpolitiske spørsmål, og senere fremfor alt av utenriks- og finanspolitiske anliggender. Fra 1909 til 1912 var Hertling, som gikk inn for forsoning mellom tyske katolikker og den prøyssisk-protestantisk dominerte nasjonalstaten, formann for Zentrum-fraksjonen i Riksdagen.