I 1974 grunnla han «Knights of the Ku Klux Klan» i Louisiana. Der fungerte han som «Imperial Wizard» fram til 1980. Duke har siden tatt avstand fra gruppen, på grunn av vold utført av andre medlemmer. Senere ble han valgt som delstatsrepresentant i staten Louisiana. Han stilte som kandidat for demokratene i 1988 og som kandidat for republikanerne i 1992 til det amerikanske presidentvalget. Duke har også stilt til valg for senatet i Louisiana, til USAs senat, til Representantenes hus, og til guvernør for Louisiana. Ved guvernørvalget i Louisiana i 1990 fikk han 60 % av stemmene blant hvite velgere.