I 1873 kom han inn i Folketinget for Bogensekredsen. Han trakk seg i 1884. I 1886 ble han igjen valgt, denne gangen i Assenskredsen, som han representerte i de følgende 40 år, inntil 1926. Han er således den danske politikeren som har sittet lengst i Folketinget, i alt 51 år. Politisk hørte han alltid til Venstres moderate fløy, og han var således med i forliket med Højre i 1894. Som følge av tilknytningen til det Moderate Venstre oppnådde han først i 1908 en ministerpost i Niels Neergaards ministerium, hvor han ble innenriksminister.