Танака родился в самурайской семье в городе Хаги провинции Нагато в Японии. Закончил Военную академию Императорской армии и Высшую военную академию Императорской армии в 1892 году, участвовал в войнах с Китаем и Россией в качестве адъютанта генерала Кодамы Гэнтаро. В 1906 году участвовал в составлении плана обороны, который был настолько высоко оценён генеральным штабом, что разработки Танаки были приняты за основу военной политики вплоть до начала Первой мировой войны.