Altenburg tjenestegjorde som generalinspektør for Bundeswehr, fra 1983 til 1986, og ble deretter formann for NATOs militærkomité i Brussel mellom 1986 og 1989. Altenburg gikk av med pensjon i 1989 og han bosatte seg senere i Bremen. Altenburg var gift og far til tre barn.