Knudsen var medlem av Drammen bystyre 1988–1999 og 2003–2011, herav medlem av formannskapet 1995–1999. Han ledet Buskerud FrP 1995–1998 og 2007–2009. I 1997 ble han innvalgt på Stortinget, hvor han i de påfølgende periodene satt i kirke-, utdannings- og forskningskomitéen, familie-, kultur- og administrasjonskomitéen, familie- og kulturkomitéen og kontroll- og konstitusjonskomitéen. Han søkte ikke gjenvalg til Stortinget i 2013.