Ellefsen var 1. viseformann i Trondheim Unge Høyre 1970–1971. Marvin Wiseth var formann. Ellefsen var innvalgt i Trondheim bystyre fra 1975 til han flyttet til Fredrikstad i 1978. Han var styremedlem i Trondheim Høyre 1980–1982 og styremedlem i Sør-Trøndelag Høyre 1983–1997.