Elster var kjøpmannssønn, og ble jurist i 1794. Han var fullmektig hos i Trondheim 1783-89, konstituert fogd i Stjør- og Værdalen fogderi 1789-91, arbeidet i rentekammeret 1793-95 og som fogd i Orkedalens og Guldalens fogderi 1795-1811. Han var amtmann i Nordlands amt 1811-1815 og i Nordre Trondhjems amt 1815-1833. Han ble valgt til Stortinget i 1815 men på grunn av sykdom møtte han ikke.