Ele se formou na 8ª turma da Academia do Exército Imperial Japonês e na 8ª turma da Escola de Guerra do Exército em 1892, e serviu como oficial subalterno durante a Primeira Guerra Sino-Japonesa. Após o fim da guerra, foi enviado como adido militar a Moscou e Petrogrado, e esteve na Rússia ao mesmo tempo que Takeo Hirose, da Marinha Imperial Japonesa, de quem se tornou amigo íntimo. Tanaka era fluente na língua russa, que ele aprendeu enquanto assistia à missa todos os domingos em uma escola da igreja ortodoxa russa, o que lhe permitiu praticar seu russo em eventos sociais da igreja, embora seja incerto se ele realmente se converteu ao cristianismo. Como um dos poucos especialistas russos nas Forças Armadas, ele foi um recurso inestimável para os planejadores do Exército durante a Guerra Russo-Japonesa e serviu como assessor do General Kodama Gentarō na Manchúria.