84年（光绪10年），淮军叶志超率领的正定练军驻扎山海关，设立了随营武备学堂，田中玉入学。他的学堂同学中还有卢永祥、鲍贵卿等后来的北洋系军人。1885年（光绪11年），他入天津武备学堂砲兵科学习，成绩优秀。1887年（光绪13年）毕业后，田中玉回到叶志超部任职。1894年（光绪20年），在朝鲜的请求下，清廷派叶志超率部赴朝鲜镇压甲午农民战争，田中玉、鲍贵卿等随军前往朝鲜。同年7月，甲午战争爆发，在朝鲜的日军进攻清军。叶志超丧失斗志，逃回中国，遭到惩处。田中玉受牵连被免职。1895年（光绪21年），袁