Knudsen var stortingsrepresentant fra 1906 til 1915. I denne egenskap var han parlamentarisk leder for Arbeiderpartiets stortingsgruppe 1906–1909 og 1913–1915, og var forøvrig medlem av Arbeiderpartiets sentralstyre 1887–1918 og 1919–1924.