Han var kongressrepresentant fra Wisconsins 3. valgdistrikt fra 1885 til 1891, guvernør i Wisconsin fra 1901 til 1906 og senator fra 1906 til sin død i 1925. Da han døde i 1925, ble sønnen Robert M. La Follette jr. valgt til å etterfølge faren som senator.