Knudsen satt i Porsgrunn bystyre i perioder fra 1916 til 1937, og var stortingsrepresentant for Høyre i perioden 1925–1927 i valgkretsen Kjøpstedene i Telemark og Aust-Agder fylker. Han ble medlem i Nasjonal Samling i 1933 og var fylkesfører i NS i Telemark til 1940 da han ble utnevnt av Quisling-regjeringen til fylkesmann i Telemark.