Tank-Nielsen ble født Nielsen, men byttet navn i 1901. Han ble løytnant i Marinen i 1898. Han gjennomgikk østerriksk-ungarsk torpedoskole i 1901–1902, og ble i 1903 torpedosjef. I 1906 ble han sjef for torpedobåtdivisjonen. I 1907 og 1908 studerte han motorteknikk og elektroteknikk i Hannover.