15年（民国4年）4月，田中玉被召还北京，任陆军部次长。同年，袁世凯称帝，田中玉封一等男爵。1916年（民国5年）6月袁世凯死去，田中玉成爲段祺瑞的皖系军阀，任察哈尔特别区都统。1917年（民国6年）4月，他参加了段祺瑞召集的督军团。7月，吉林督军孟恩远因参与张勋复辟而被免职，其吉林督军一职由田中玉接任。此后由于奉系张作霖的压力，田中玉回任察哈尔特别区都统。
统治山东与兴办教育.1919年（民国8年）11月，田中玉任山东督军。尽管山东省长屈映光也属皖系，但因权力、地盘之争而和田