Nielson startet sin karriere som offiserskadett i den daværende vesttyske marinen i 1973. Han ble utnevnt til admiral 24. mars 2016 og er per 2017 den eneste aktivt tjenestegjørende tyske offiseren med grad som full admiral.