Tanaka ble uteksaminert fra den keiserlige japanske militærskolen og han studerte ved den japanske krigsskolen frem til 1892. Tanaka tjenestegjorde i hæren under den første kinesisk-japanske krigen fra august 1894 til mai 1895. Etter slutten av denne krigen, ble han sendt som en Japans militærattaché til Moskva og Petrograd, og han var utstasjonert i Russland på samme tid som Takeo Hirose som var en del av den keiserlige japanske marinen var utstasjonert i landet. De ble etter hvert svært gode venner.