Ellefsen var medlem av kommunestyret i Sandavágur 1970–1974 og 1976–1980, innvalgt på Lagtinget fra Vágar 1980–1994 samt samferdsels-, energi- og miljøminister i Atli Dams sjette regjering 1991–1993.